LLM Hub

timmy boy

Колдонмо тууралуу

LLM Hub өндүрүш деңгээлиндеги AI түз Android түзмөгүңүзгө алып келет — жеке, тез жана толугу менен жергиликтүү. Чоң контексттик терезелери, туруктуу глобалдык эстутуму жана түзмөктө сакталган индекстелген документтердеги жоопторду негиздеген издөө-көбөйтүлгөн муун (RAG) менен заманбап түзмөктөгү LLMлерди (Gemma-3, Gemma-3n multimodal, Llama-3.2, Phi-4 Mini) иштетиңиз. Документтер жана эскертүүлөр үчүн кыстарууларды түзүп жана сактаңыз, вектордук окшоштуктарды издөөнү локалдуу иштетиңиз жана жандуу фактылар керек болгондо DuckDuckGo менен иштеген веб-издөө менен жоопторду байытыңыз. Маанилүү нерселердин баары телефонуңузда сакталып калат, эгерде сиз аны ачык экспорттобосоңуз: жергиликтүү гана эстутум, индекстер жана кыстармалар сиздин купуялыгыңызды коргоп, жогорку актуалдуулукту жана тактыкты камсыздайт.

Негизги өзгөчөлүктөрү

Түзмөктөгү LLM корутундусу: Булуттан көз карандылыксыз тез, жеке жооптор; түзмөгүңүзгө жана муктаждыктарыңызга дал келген моделдерди тандаңыз.
Retrieval-Augmented Generation (RAG): Факттарга негизделген жоопторду алуу үчүн моделдик ой жүгүртүүнү индекстелген документ бөлүктөрүн жана кыстарууларды айкалыштырыңыз.
Туруктуу глобалдык эс тутум: Сеанстар боюнча узак мөөнөттүү кайра чакырып алуу үчүн фактыларды, документтерди жана билимдерди туруктуу, түзмөктүн локалдык эстутумуна (Room DB) сактаңыз.
Embeddings & Vector Search: Кыстарууларды жаратыңыз, мазмунду жергиликтүү индекстеңиз жана окшоштуктарды эффективдүү издөө менен эң керектүү документтерди алыңыз.
Мультимодальдык колдоо: Колдо болгон учурда байыраак өз ара аракеттенүү үчүн текстти + сүрөткө жөндөмдүү моделдерди (Gemma-3n) колдонуңуз.
Web Search Integration: RAG сурамдары жана заматта жооптор үчүн заманбап маалыматты алуу үчүн жергиликтүү билимди DuckDuckGo менен иштеген веб натыйжалары менен толуктаңыз.
Оффлайн режиминде даяр: тармакка кирбестен иштөө — моделдер, эс тутум жана индекстер түзмөктө сакталат.
GPU ылдамдатуу (милдеттүү эмес): Колдоого алынган жерде аппараттык тездетүүдөн пайда алыңыз — чоңураак GPU колдогон моделдер менен мыкты натыйжаларга жетишүү үчүн биз кеминде 8 ГБ оперативдүү эс тутуму бар түзмөктөрдү сунуштайбыз.
Privacy-First Design: Эстутум, орнотуулар жана RAG индекстери демейки боюнча жергиликтүү бойдон калууда; дайындарды бөлүшүүнү же экспорттоону ачык тандамасаңыз, булуттан жүктөө болбойт.
Узак контекстти иштетүү: чоң контексттик терезелери бар моделдерди колдоо, андыктан жардамчы кеңири документтер жана тарыхтар боюнча ой жүгүртөт.
Иштеп чыгуучуларга ыңгайлуу: Жеке, оффлайн AI талап кылган колдонмолор үчүн жергиликтүү корутунду, индекстөө жана издөө учурлары менен интеграцияланат.
Эмне үчүн LLM Hub тандаңыз? LLM Hub мобилдик телефондо жеке, так жана ийкемдүү AI жеткирүү үчүн курулган. Ал жергиликтүү корутундунун ылдамдыгын издөөгө негизделген системалардын фактылык негиздери жана туруктуу эс тутумдун ыңгайлуулугу менен айкалыштырат — билим кызматкерлери, купуялуулукту ойлогон колдонуучулар жана жергиликтүү биринчи AI функцияларын түзүүчү иштеп чыгуучулар үчүн идеалдуу.

Колдоого алынган моделдер: Gemma-3, Gemma-3n (multimodal), Llama-3.2, Phi-4 Mini — түзмөгүңүздүн мүмкүнчүлүктөрүнө жана контексттин муктаждыктарына туура келген моделди тандаңыз.

Эмне жаңылык

- Upgraded Phi-4 Mini Max context window to 4096 and enabled GPU backend
- Model loading configuration now remembers your last settings
- Added translation support for Italian