OpenWeights: Edge Inference

Alpha Romer Coma

ስለዚህ መተግበሪያ

OpenWeights በቀጥታ በስልክዎ ላይ ክፍት ክብደት ያላቸውን የቋንቋ ሞዴሎችን ያሂዳል። የሚፈጥሩት መለያ የለም፣ የሚያናግሩት ​​አገልጋይ የለም፣ እና ስለእርስዎ የሚለካ ምንም ነገር የለም።

ከመተግበሪያው ውስጥ ሆነው Hugging Face ን ይፈልጉ፣ አንድ ሞዴል ከማውረድዎ በፊት በመሳሪያዎ ላይ በትክክል ይሰራል እንደሆነ ይወቁ እና ከእሱ ጋር ይወያዩ። እያንዳንዱ ቶከን የሚመረተው በራስዎ ሃርድዌር ነው።

ማንኛውም ሞዴል፣ ካታሎግ አይደለም

ሌሎች በመሳሪያ ላይ ያሉ መተግበሪያዎች ሌላ ሰው የመረጠውን አጭር ዝርዝር ይሰጡዎታል። OpenWeights Hub ይሰጥዎታል። አንድ ሰው ከአንድ ሰዓት በፊት GGUF ን ካሳተመ ማስኬድ ይችላሉ።

ስለ መሳሪያዎ ታማኝ

ጊጋባይት ከማውጣትዎ በፊት፣ መተግበሪያው የሞዴሉን ራስጌ በአውታረ መረቡ ላይ ያነባል እና በመረጡት የአውድ ርዝመት፣ በግምት ምን ያህል ፈጣን እንደሚሆን እና በስልክዎ ላይ ጨርሶ እንደሚሰራ ይነግርዎታል።

እውነተኛ ቁጥሮች፣ ከፊትዎ

በሰከንድ ቶከኖች፣ ለመጀመሪያው ቶከን ጊዜ፣ እና የአውድ መስኮቱ ምን ያህል ሙሉ እንደሆነ፣ ሲወያዩ ይታያል እንጂ ከመደበቅ ይልቅ።

የእርስዎ ማስተካከያ

የሙቀት መጠን፣ ቶፕ-ፒ፣ ቶፕ-ኬ፣ የድግግሞሽ ቅጣት፣ የአውድ ርዝመት፣ የስርዓት ጥያቄ እና ሞዴሉ ስለ መሳሪያዎቹ ምን እንደተነገረ፣ ሁሉም በአንድ ሞዴል የተቀመጡ ናቸው። አንድ ሞዴል ከመመለሱ በፊት ማሰብ የሚችልበት ቦታ፣ እና የሚሰራ ጂፒዩ ባለው ስልክ ላይ የትኛው ፕሮሰሰር ንብርብሮችን እንደሚይዝ መናገር ይችላሉ።

ከጽሑፍ በላይ

ፕሮጀክተር ለሚልኩላቸው ሞዴሎች፣ ማንኛውም ሞዴል ሊያነብባቸው የሚችላቸው ሰነዶች፣ በስልክዎ በራሱ የመሣሪያ ማወቂያ በኩል ሊጽፍ እና ጮክ ብሎ ሊያነብባቸው ለሚችላቸው ምስሎች እና ኦዲዮ።

ሊሰራ የሚችል ረዳት

ሞዴሉ ድሩን መፈለግ፣ ገጽ ማንበብ እና ለማጋራት ከመረጡት አቃፊ ጋር መስራት ይችላል። ምን ያህል ገመድ እንደሚያገኝ ይወስናሉ፡ እያንዳንዱን እርምጃ ማጽደቅ፣ እንዲሰራ መፍቀድ ወይም መጀመሪያ እንዲያቅድ መጠየቅ እና ማንኛውም ነገር ከመከሰቱ በፊት ምን እንደሚያደርግ መናገር ይችላል። ግልጽ ጥያቄ ሊጠይቅዎት እና እራስዎን ምልክት ማድረግ የሚችሉበትን የማረጋገጫ ዝርዝር መከተል ይችላል። እያንዳንዱ መሳሪያ ሊጠፋ ይችላል።

በግንባታ የግል

ውይይቶችዎ፣ ሞዴሎችዎ እና አጠቃቀምዎ በመሳሪያው ላይ ይቆያሉ። የትንታኔ SDK፣ የብልሽት ሪፖርተር እና የእኛ የኋላ ክፍል የለም። ራስ-ሰር ምትኬ እና የመሳሪያ ዝውውር ጠፍቷል፣ ስለዚህ አዲስ ስልክ ውይይቶችዎን አይወርስም። ማራገፍ ሁሉንም ነገር ያስወግዳል።

ሁለት መሳሪያዎች ወደ በይነመረብ ይደርሳሉ፣ ምክንያቱም ማድረግ አለባቸው፡ የድር ፍለጋ እና ገጽ ማምጣት። ሁለቱም መሣሪያውን እንደሚለቁ በሚገልጽ ርዕስ ስር ተዘርዝረዋል፣ ሁለቱም ሊጠፉ ይችላሉ፣ እና አንድ ሰው የሚያደርገው እያንዳንዱ ጥሪ በምላሹ ውስጥ ስሙን እና የተሰጠውን ረድፍ ነው። የ Hugging Face Tokenዎ፣ አንዱን ካዋቀሩ፣ በአንድሮይድ Keystore ውስጥ በተያዘ ቁልፍ የተመሰጠረ ሲሆን ወደ Hugging Face ብቻ ይላካል።

የሚያስፈልግዎ

አንድሮይድ 12 ወይም ከዚያ በላይ፣ 64-ቢት ARM መሳሪያ፣ እና ለመረጡት ሞዴል በቂ ማህደረ ትውስታ። መተግበሪያው ከማውረድዎ በፊት ይነግርዎታል።

ሞዴሎች ከሶስተኛ ወገኖች የመጡ ናቸው። የትኛውን እንደሚያሄዱ ይመርጣሉ፣ እና የሚናገረው የእኛ ሳይሆን የአሳታሚው ስራ ነው። ክፍት ምንጭ፣ github.com/alpharomercoma/openweights ላይ።

ምን አዲስ ነገር አለ

Compiled models for everyone, a search that listens, and a shortcut from "Ready to use"

- Every install now runs both engines, so ExecuTorch models download on any phone
- Typing in Discover searches all of Hugging Face, not just the recommended shelf
- Recommended compiled models now follow our five-phone benchmarks: Qwen3 1.7B, LFM2.5 1.2B and Llama 3.2 3B
- Tapping the download-finished notification opens a fresh chat on that model