LM Playground

Andriy Druk

Пра гэту праграму

LM Playground распрацаваны як універсальная платформа для эксперыментаў з рознымі тыпамі вялікіх моўных мадэляў (LLM) на вашай прыладзе. Гэта дазваляе карыстальнікам загружаць розныя LLM, загружаць іх у дадатак і размаўляць з гэтымі мадэлямі. Гэтая ўстаноўка дазваляе практычна даследаваць магчымасці і адрозненні паміж рознымі LLM, што робіць яе неацэнным інструментам для энтузіястаў, даследчыкаў і ўсіх, хто цікавіцца прагрэсам у тэхналогіі моўнай мадэлі.

У цяперашні час падтрымліваюцца мадэлі:
• Meta Llama 3.2 1B і 3B
• Qwen 2.5 0.5B і 1.5B
• Google Gemma2 2B і 9B
• Microsoft Phi3.5
• Містраль 7Б
• Лама 3.1 8B

Гэты праект быў створаны на аснове праекта llama.cpp з аптымізацыяй OpenCL для лепшай прадукцыйнасці. Прыкладанне выкарыстоўвае мадэлі ў фармаце GGUF з квантаваннем Q4KM, якія будуць захаваны ў тэчцы "Спампоўкі".

Што новага

Added Copy, Upvote & Downvote buttons to every AI reply — tap Downvote to choose one or more feedback reasons in a panel and send.