LM Playground ได้รับการออกแบบให้เป็นแพลตฟอร์มสากลสำหรับการทดลองกับโมเดลภาษาขนาดใหญ่ (LLM) ประเภทต่างๆ บนอุปกรณ์ของคุณ อนุญาตให้ผู้ใช้ดาวน์โหลด LLM ต่างๆ โหลดลงในแอปพลิเคชัน และสนทนากับโมเดลเหล่านี้ การตั้งค่านี้ช่วยให้สามารถสำรวจความสามารถและความแตกต่างระหว่าง LLM ต่างๆ ได้โดยตรง ทำให้เป็นเครื่องมืออันล้ำค่าสำหรับผู้ที่ชื่นชอบ นักวิจัย หรือใครก็ตามที่อยากรู้เกี่ยวกับความก้าวหน้าในเทคโนโลยีแบบจำลองภาษา
รุ่นที่รองรับในปัจจุบัน:
• Meta Llama 3.2 1B และ 3B
• คิวเวน 2.5 0.5B และ 1.5B
• Google Gemma2 2B และ 9B
• ไมโครซอฟต์ Phi3.5
• มิสทรัล 7B
• ลามะ 3.1 8B
โปรเจ็กต์นี้สร้างขึ้นจากโปรเจ็กต์ llama.cpp พร้อมการเพิ่มประสิทธิภาพ OpenCL เพื่อประสิทธิภาพที่ดีขึ้น แอปพลิเคชันใช้โมเดลรูปแบบ GGUF พร้อมการวัดปริมาณ Q4KM ซึ่งจะถูกบันทึกลงในโฟลเดอร์ดาวน์โหลด