LM Playground

Andriy Druk

ఈ యాప్ గురించి పరిచయం

LM ప్లేగ్రౌండ్ మీ పరికరంలో వివిధ రకాల లార్జ్ లాంగ్వేజ్ మోడల్స్ (LLMలు)తో ప్రయోగాలు చేయడానికి యూనివర్సల్ ప్లాట్‌ఫారమ్‌గా రూపొందించబడింది. ఇది వివిధ LLMలను డౌన్‌లోడ్ చేసుకోవడానికి, వాటిని అప్లికేషన్‌లో లోడ్ చేయడానికి మరియు ఈ మోడల్‌లతో సంభాషించడానికి వినియోగదారులను అనుమతిస్తుంది. ఈ సెటప్ వివిధ LLMల మధ్య సామర్థ్యాలు మరియు వ్యత్యాసాల యొక్క ప్రయోగాత్మక అన్వేషణను అనుమతిస్తుంది, ఇది ఔత్సాహికులు, పరిశోధకులు లేదా భాషా నమూనా సాంకేతికతలో పురోగతి గురించి ఆసక్తి ఉన్నవారికి అమూల్యమైన సాధనంగా చేస్తుంది.

ప్రస్తుతం మద్దతు ఉన్న మోడల్‌లు:
• మెటా లామా 3.2 1B మరియు 3B
• Qwen 2.5 0.5B మరియు 1.5B
• Google Gemma2 2B మరియు 9B
• Microsoft Phi3.5
• మిస్ట్రాల్ 7B
• లామా 3.1 8B

ఈ ప్రాజెక్ట్ మెరుగైన పనితీరు కోసం OpenCL ఆప్టిమైజేషన్‌తో llama.cpp ప్రాజెక్ట్ ఆధారంగా నిర్మించబడింది. అప్లికేషన్ Q4KM పరిమాణీకరణతో GGUF-ఫార్మాట్ మోడల్‌లను ఉపయోగిస్తుంది, ఇది డౌన్‌లోడ్‌ల ఫోల్డర్‌లో సేవ్ చేయబడుతుంది.

కొత్తగా ఏమి ఉన్నాయి

Added Copy, Upvote & Downvote buttons to every AI reply — tap Downvote to choose one or more feedback reasons in a panel and send.