LM Playground is ontwerp as 'n universele platform vir eksperimentering met verskeie tipes groottaalmodelle (LLM's) op jou toestel. Dit laat gebruikers toe om verskillende LLM's af te laai, dit op die toepassing te laai en met hierdie modelle te gesels. Hierdie opstelling maak voorsiening vir 'n praktiese verkenning van die vermoëns en onderskeid tussen verskillende LLM's, wat dit 'n waardevolle hulpmiddel maak vir entoesiaste, navorsers of enigiemand wat nuuskierig is oor die vordering in taalmodeltegnologie.
Tans ondersteunde modelle:
• Meta Lama 3.2 1B en 3B
• Qwen 2.5 0.5B en 1.5B
• Google Gemma2 2B en 9B
• Microsoft Phi3.5
• Mistral 7B
• Lama 3.1 8B
Hierdie projek is gebou op grond van die llama.cpp-projek met OpenCL-optimering vir beter werkverrigting. Die toepassing gebruik GGUF-formaat modelle met Q4KM kwantisering, wat in die Downloads-lêergids gestoor sal word.
Opgedateer op
18 Jun. 2025