LM Playground

Andriy Druk

Rakenduse teave

LM Playground on loodud universaalse platvormina teie seadmes erinevat tüüpi suurte keelemudelite (LLM) katsetamiseks. See võimaldab kasutajatel alla laadida erinevaid LLM-e, laadida need rakendusse ja vestelda nende mudelitega. See seadistus võimaldab praktiliselt uurida erinevate LLM-ide võimalusi ja erinevusi, muutes selle hindamatuks tööriistaks entusiastidele, teadlastele või kõigile, kes on huvitatud keelemudelite tehnoloogia edusammudest.

Praegu toetatud mudelid:
• Meta Llama 3.2 1B ja 3B
• Qwen 2,5 0,5B ja 1,5B
• Google Gemma2 2B ja 9B
• Microsoft Phi3.5
• Mistral 7B
• Laama 3.1 8B

See projekt ehitati llama.cpp projekti põhjal koos OpenCL-i optimeerimisega parema jõudluse tagamiseks. Rakendus kasutab GGUF-vormingus Q4KM-kvantimisega mudeleid, mis salvestatakse allalaadimiste kausta.

Mis on uut?

Added Copy, Upvote & Downvote buttons to every AI reply — tap Downvote to choose one or more feedback reasons in a panel and send.