OpenWeights: Edge Inference
Өспүрүм
info
1+
жолу жүктөлүп алынды
Колдонмо тууралуу
OpenWeights ачык салмактагы тилдеги моделдерди түз телефонуңузда иштетет. Түзө турган аккаунт, сүйлөшө турган сервер жана сиз жөнүндө эч нерсе өлчөнгөн эмес.
Колдонмонун ичинен Hugging Face деп издеңиз, моделди жүктөп алаардан мурун түзмөгүңүздө иштейби же жокпу, билип алыңыз жана аны менен баарлашыңыз. Ар бир токенди өзүңүздүн жабдыгыңыз чыгарат.
КАТАЛОГ ЭМЕС, КААЛАГАН МОДЕЛЬ
Түзмөктөгү башка колдонмолор сизге башка бирөө тандаган кыска тизмени берет. OpenWeights сизге Hub берет. Эгер кимдир бирөө бир саат мурун GGUF жарыялаган болсо, сиз аны иштете аласыз.
ТҮЗМӨГҮҢҮЗ ТУУРАЛУУ ЧЫНЧЫЛ
Гигабайттарды коротконго чейин, колдонмо моделдин аталышын тармак аркылуу окуп, сиз тандаган контексттик узундукта эмне керек экенин, болжол менен канчалык ылдам болорун жана телефонуңузда иштейби же жокпу, айтып берет.
СИЗДИН АЛДЫҢЫЗДАГЫ ЧЫНЫГЫ САНДАР
Секундасына токендер, биринчи токенге чейинки убакыт жана контексттик терезе канчалык толгон, сиз жашырылган эмес, баарлашып жатканда көрсөтүлөт.
СИЗДИКИН ТҮЗӨТҮҮ
Температура, үстүнкү-p, үстүнкү-k, кайталоо жазасы, контексттин узундугу, системанын суроосу жана моделге анын куралдары жөнүндө эмне айтылганы, мунун баары ар бир модел үчүн сакталат. Модель жооп берүүдөн мурун ойлоно алган жерде бул дагы которгуч, ал эми иштеп жаткан GPU менен телефондо кайсы процессор катмарларды кармап тураарын айта аласыз.
ТЕКСТЕН КӨП НЕРСЕ
Аларга проектор жөнөткөн моделдер үчүн сүрөттөр жана аудио, каалаган модель окуй турган документтер, телефонуңуздун өзүнүн түзмөктөгү тааныгычы аркылуу диктант жана үн чыгарып окуй алат.
ИШ-АРАКЕТ КЫЛА АЛГАН ЖАРДАМЧЫ
Модель интернеттен издеп, баракчаны окуп жана бөлүшүүнү тандаган папка менен иштей алат. Анын канчалык көп иштээрин сиз чечесиз: ар бир кадамды бекитесиз, иштетесиз же андан алдын ала пландаштырууну суранасыз жана бир нерсе боло электе эмне кылаарын айтасыз. Ал сизге тактоочу суроо берип, өзүңүз белгилей турган текшерүү тизмесин аткара алат. Ар бир куралды өчүрө аласыз.
КУРУЛУШ БОЮНЧА ЖЕКЕ
Сиздин сүйлөшүүлөрүңүз, моделдериңиз жана колдонууңуз түзмөктө калат. Биздин аналитикалык SDK, ката жөнүндө кабарчы жана арткы бет жок. Автоматтык камдык көчүрмө жана түзмөктү өткөрүп берүү өчүрүлгөн, андыктан жаңы телефон сиздин баарлашууларыңызды мурастабайт. Алып салуу баарын жок кылат.
Интернетке эки курал жетет, анткени алар төмөнкүлөрдү жасашы керек: веб-издөө жана баракчаны алуу. Экөө тең түзмөктөн чыгып кетишет деген аталыш астында көрсөтүлгөн, экөөнү тең өчүрүүгө болот жана ар бир чалууда жоопто анын аталышы жана эмне берилгени көрсөтүлгөн сап бар. Эгер сиз Hugging Face токениңизди орнотсоңуз, ал Android ачкыч сактагычында сакталган ачкыч менен шифрленет жана Hugging Faceке гана жөнөтүлөт.
СИЗГЕ ЭМНЕ КЕРЕК
Android 12 же андан кийинки версиясы, 64-биттик ARM түзмөгү жана сиз тандаган модель үчүн жетиштүү эс тутум. Колдонмо жүктөп алардан мурун сизге айтып берет.
Моделдер үчүнчү тараптардан келет. Кайсынысын иштетүүнү сиз тандайсыз жана ал эмнени айтып жатканын биздики эмес, анын басмаканасынын иши деп айтасыз. Ачык булак, github.com/alpharomercoma/openweights дареги боюнча.
Колдонмонун ичинен Hugging Face деп издеңиз, моделди жүктөп алаардан мурун түзмөгүңүздө иштейби же жокпу, билип алыңыз жана аны менен баарлашыңыз. Ар бир токенди өзүңүздүн жабдыгыңыз чыгарат.
КАТАЛОГ ЭМЕС, КААЛАГАН МОДЕЛЬ
Түзмөктөгү башка колдонмолор сизге башка бирөө тандаган кыска тизмени берет. OpenWeights сизге Hub берет. Эгер кимдир бирөө бир саат мурун GGUF жарыялаган болсо, сиз аны иштете аласыз.
ТҮЗМӨГҮҢҮЗ ТУУРАЛУУ ЧЫНЧЫЛ
Гигабайттарды коротконго чейин, колдонмо моделдин аталышын тармак аркылуу окуп, сиз тандаган контексттик узундукта эмне керек экенин, болжол менен канчалык ылдам болорун жана телефонуңузда иштейби же жокпу, айтып берет.
СИЗДИН АЛДЫҢЫЗДАГЫ ЧЫНЫГЫ САНДАР
Секундасына токендер, биринчи токенге чейинки убакыт жана контексттик терезе канчалык толгон, сиз жашырылган эмес, баарлашып жатканда көрсөтүлөт.
СИЗДИКИН ТҮЗӨТҮҮ
Температура, үстүнкү-p, үстүнкү-k, кайталоо жазасы, контексттин узундугу, системанын суроосу жана моделге анын куралдары жөнүндө эмне айтылганы, мунун баары ар бир модел үчүн сакталат. Модель жооп берүүдөн мурун ойлоно алган жерде бул дагы которгуч, ал эми иштеп жаткан GPU менен телефондо кайсы процессор катмарларды кармап тураарын айта аласыз.
ТЕКСТЕН КӨП НЕРСЕ
Аларга проектор жөнөткөн моделдер үчүн сүрөттөр жана аудио, каалаган модель окуй турган документтер, телефонуңуздун өзүнүн түзмөктөгү тааныгычы аркылуу диктант жана үн чыгарып окуй алат.
ИШ-АРАКЕТ КЫЛА АЛГАН ЖАРДАМЧЫ
Модель интернеттен издеп, баракчаны окуп жана бөлүшүүнү тандаган папка менен иштей алат. Анын канчалык көп иштээрин сиз чечесиз: ар бир кадамды бекитесиз, иштетесиз же андан алдын ала пландаштырууну суранасыз жана бир нерсе боло электе эмне кылаарын айтасыз. Ал сизге тактоочу суроо берип, өзүңүз белгилей турган текшерүү тизмесин аткара алат. Ар бир куралды өчүрө аласыз.
КУРУЛУШ БОЮНЧА ЖЕКЕ
Сиздин сүйлөшүүлөрүңүз, моделдериңиз жана колдонууңуз түзмөктө калат. Биздин аналитикалык SDK, ката жөнүндө кабарчы жана арткы бет жок. Автоматтык камдык көчүрмө жана түзмөктү өткөрүп берүү өчүрүлгөн, андыктан жаңы телефон сиздин баарлашууларыңызды мурастабайт. Алып салуу баарын жок кылат.
Интернетке эки курал жетет, анткени алар төмөнкүлөрдү жасашы керек: веб-издөө жана баракчаны алуу. Экөө тең түзмөктөн чыгып кетишет деген аталыш астында көрсөтүлгөн, экөөнү тең өчүрүүгө болот жана ар бир чалууда жоопто анын аталышы жана эмне берилгени көрсөтүлгөн сап бар. Эгер сиз Hugging Face токениңизди орнотсоңуз, ал Android ачкыч сактагычында сакталган ачкыч менен шифрленет жана Hugging Faceке гана жөнөтүлөт.
СИЗГЕ ЭМНЕ КЕРЕК
Android 12 же андан кийинки версиясы, 64-биттик ARM түзмөгү жана сиз тандаган модель үчүн жетиштүү эс тутум. Колдонмо жүктөп алардан мурун сизге айтып берет.
Моделдер үчүнчү тараптардан келет. Кайсынысын иштетүүнү сиз тандайсыз жана ал эмнени айтып жатканын биздики эмес, анын басмаканасынын иши деп айтасыз. Ачык булак, github.com/alpharomercoma/openweights дареги боюнча.
Телефонуңузда ачык салмактагы AI моделдерин иштетиңиз. Аккаунт жок, булут жок, телеметрия жок.
Качан жаңырды
Коопсуздук дегенде колдонмонун маалыматты кантип топтоп, аны үчүнчү тараптар менен кантип бөлүшө турганын түшүнүү керек. Маалыматтардын купуялыгы жана коопсуздугу колдонмоңуздун иштетилишине, жүргөн аймагыңызга жана курагыңызга жараша болот. Маалыматты иштеп чыгуучу берип, маал-маалы менен жаңырып турат.
- Үчүнчү тараптар менен маалымат бөлүшүлбөйтИштеп чыгуучулар маалыматтардын бөлүшүлүшү жөнүндө кантип кабар берерин билип алыңыз
- Маалымат топтолбойтИштеп чыгуучулар маалыматтардын топтолушу жөнүндө кантип кабар берерин билип алыңыз
Эмне жаңылык
Compiled models for everyone, a search that listens, and a shortcut from "Ready to use"
- Every install now runs both engines, so ExecuTorch models download on any phone
- Typing in Discover searches all of Hugging Face, not just the recommended shelf
- Recommended compiled models now follow our five-phone benchmarks: Qwen3 1.7B, LFM2.5 1.2B and Llama 3.2 3B
- Tapping the download-finished notification opens a fresh chat on that model
- Every install now runs both engines, so ExecuTorch models download on any phone
- Typing in Discover searches all of Hugging Face, not just the recommended shelf
- Recommended compiled models now follow our five-phone benchmarks: Qwen3 1.7B, LFM2.5 1.2B and Llama 3.2 3B
- Tapping the download-finished notification opens a fresh chat on that model
Колдонмо боюнча колдоо көрсөтүү кызматы
Иштеп чыгуучу жөнүндө
Alpha Romer N. Coma
alpha.coma.ict@gmail.com
Blk 193 LOT 16 17th Street Phase 5B
Meycauayan
3020
Philippines
