LM Playground on loodud universaalse platvormina teie seadmes erinevat tüüpi suurte keelemudelite (LLM) katsetamiseks. See võimaldab kasutajatel alla laadida erinevaid LLM-e, laadida need rakendusse ja vestelda nende mudelitega. See seadistus võimaldab praktiliselt uurida erinevate LLM-ide võimalusi ja erinevusi, muutes selle hindamatuks tööriistaks entusiastidele, teadlastele või kõigile, kes on huvitatud keelemudelite tehnoloogia edusammudest.
Praegu toetatud mudelid:
• Meta Llama 3.2 1B ja 3B
• Qwen 2,5 0,5B ja 1,5B
• Google Gemma2 2B ja 9B
• Microsoft Phi3.5
• Mistral 7B
• Laama 3.1 8B
See projekt ehitati llama.cpp projekti põhjal koos OpenCL-i optimeerimisega parema jõudluse tagamiseks. Rakendus kasutab GGUF-vormingus Q4KM-kvantimisega mudeleid, mis salvestatakse allalaadimiste kausta.
Värskendatud:
18. juuni 2025