LLM Hub

timmy boy

Осы қолданба туралы

LLM Hub тікелей Android құрылғыңызға өндірістік деңгейдегі AI әкеледі — жеке, жылдам және толығымен жергілікті. Жауаптарды құрылғыда сақталған индекстелген құжаттарға негіздейтін үлкен мәтінмәндік терезелері, тұрақты жаһандық жады және іздеу арқылы кеңейтілген генерациясы (RAG) бар заманауи құрылғыдағы LLMs (Gemma-3, Gemma-3n мультимодальды, Llama-3.2, Phi-4 Mini) іске қосыңыз. Құжаттар мен жазбалар үшін ендірулерді жасаңыз және сақтаңыз, векторлық ұқсастық іздеуді жергілікті түрде іске қосыңыз және нақты фактілер қажет болғанда DuckDuckGo қолдайтын веб-іздеу арқылы жауаптарды байытыңыз. Сіз оны нақты экспорттамайынша барлық маңызды нәрселер телефоныңызда қалады: тек жергілікті жад, индекстер және ендірмелер жоғары өзектілік пен дәлдікті қамтамасыз ете отырып, құпиялылығыңызды қорғайды.

Негізгі мүмкіндіктер

Құрылғыдағы LLM қорытындысы: бұлтқа тәуелділіксіз жылдам, жеке жауаптар; құрылғыңызға және қажеттіліктеріңізге сәйкес келетін үлгілерді таңдаңыз.
Retrieval-Augmented Generation (RAG): фактілерге негізделген жауаптар алу үшін модельді негіздеуді индекстелген құжат бөліктерімен және ендірумен біріктіріңіз.
Тұрақты жаһандық жад: сеанстар бойынша ұзақ мерзімді еске түсіру үшін фактілерді, құжаттарды және білімді тұрақты, құрылғының жергілікті жадына (Room DB) сақтаңыз.
Енгізулер және векторлық іздеу: ендірулерді жасаңыз, мазмұнды жергілікті түрде индекстеңіз және ұқсастықты тиімді іздеу арқылы ең сәйкес құжаттарды шығарып алыңыз.
Мультимодальді қолдау: қол жетімді болған кезде бай әрекеттесу үшін мәтін + кескінге қабілетті үлгілерді (Gemma-3n) пайдаланыңыз.
Веб-іздеу интеграциясы: RAG сұраулары мен жедел жауаптар үшін жаңартылған ақпаратты алу үшін DuckDuckGo арқылы жұмыс істейтін веб-нәтижелерімен жергілікті білімді толықтырыңыз.
Офлайн-дайын: желіге кірусіз жұмыс істеу — модельдер, жад және индекстер құрылғыда сақталады.
GPU жеделдету (міндетті емес): Қолдау көрсетілетін жерде аппараттық жеделдету мүмкіндігін пайдаланыңыз — GPU қолдайтын үлкенірек үлгілерде жақсы нәтижелерге қол жеткізу үшін кемінде 8 ГБ жедел жады бар құрылғыларды ұсынамыз.
Privacy-First Design: жад, ендірулер және RAG индекстері әдепкі бойынша жергілікті болып қалады; деректерді бөлісуді немесе экспорттауды нақты таңдамасаңыз, бұлтқа жүктеп салу болмайды.
Ұзақ мәтінмәнді өңдеу: Көмекші ауқымды құжаттар мен тарихты қарастыра алатындай үлкен мәтінмәндік терезелері бар үлгілерді қолдау.
Әзірлеушіге ыңғайлы: жеке, офлайн AI қажет ететін қолданбалар үшін жергілікті қорытынды, индекстеу және іздеу жағдайларымен біріктірілген.
Неліктен LLM хабын таңдау керек? LLM хабы ұялы телефонда жеке, дәл және икемді AI жеткізу үшін жасалған. Ол жергілікті қорытындының жылдамдығын іздеуге негізделген жүйелердің нақты негізделуімен және тұрақты жадтың ыңғайлылығымен біріктіреді — білім қызметкерлері, құпиялылықты бағалайтын пайдаланушылар және жергілікті бірінші AI мүмкіндіктерін құрастырушылар үшін өте қолайлы.

Қолдау көрсетілетін үлгілер: Gemma-3, Gemma-3n (multimodal), Llama-3.2, Phi-4 Mini — құрылғы мүмкіндіктері мен мәтінмән қажеттіліктеріне сәйкес келетін үлгіні таңдаңыз.

Жаңа функциялар

- Upgraded Phi-4 Mini Max context window to 4096 and enabled GPU backend
- Model loading configuration now remembers your last settings
- Added translation support for Italian