LLM Hub

timmy boy

Kuhusu programu hii

LLM Hub huleta AI ya kiwango cha uzalishaji moja kwa moja kwenye kifaa chako cha Android - ya faragha, ya haraka na ya ndani kikamilifu. Endesha LLM za kisasa kwenye kifaa (Gemma-3, Gemma-3n multimodal, Llama-3.2, Phi-4 Mini) zenye madirisha makubwa ya muktadha, kumbukumbu endelevu ya kimataifa, na kizazi kilichoboreshwa (RAG) ambacho huzingatia majibu katika hati zilizowekwa faharasa zilizohifadhiwa kwenye kifaa. Unda na uhifadhi upachikaji wa hati na madokezo, endesha utafutaji wa kufanana kwa vekta ndani ya nchi, na uboresha majibu kwa utafutaji wa wavuti unaoendeshwa na DuckDuckGo unapohitaji ukweli wa moja kwa moja. Kila kitu muhimu hukaa kwenye simu yako isipokuwa ukiihamisha kwa uwazi: kumbukumbu ya ndani pekee, faharasa na upachikaji hulinda faragha yako huku zikitoa umuhimu wa juu na usahihi.

Sifa Muhimu

Maoni ya LLM kwenye kifaa: Majibu ya haraka, ya faragha bila utegemezi wa wingu; chagua miundo inayolingana na kifaa na mahitaji yako.
Retrieval-Augmented Generation (RAG): Changanisha kielelezo cha hoja na vipande vya hati vilivyowekwa faharasa na upachikaji ili kutoa majibu yenye msingi.
Kumbukumbu Endelevu ya Ulimwenguni: Hifadhi ukweli, hati na maarifa kwenye kumbukumbu endelevu ya kifaa (Room DB) kwa kumbukumbu ya muda mrefu katika vipindi vyote.
Upachikaji & Utafutaji wa Vekta: Tengeneza upachikaji, maudhui ya faharasa ndani ya nchi, na urejeshe hati zinazofaa zaidi kwa utafutaji wa kufanana kwa ufanisi.
Usaidizi wa Multimodal: Tumia miundo yenye uwezo wa maandishi + picha (Gemma-3n) kwa mwingiliano bora zaidi inapopatikana.
Muunganisho wa Utafutaji wa Wavuti: Ongeza maarifa ya ndani kwa matokeo ya wavuti yanayoendeshwa na DuckDuckGo ili kupata taarifa za hivi punde za maswali ya RAG na majibu ya papo hapo.
Tayari Nje ya Mtandao: Fanya kazi bila ufikiaji wa mtandao - miundo, kumbukumbu na faharasa zinaendelea kwenye kifaa.
Uongezaji kasi wa GPU (si lazima): Nufaika na kuongeza kasi ya maunzi pale inapotumika - kwa matokeo bora zaidi na miundo mikubwa inayoungwa mkono na GPU tunapendekeza vifaa vilivyo na angalau RAM ya 8GB.
Muundo wa Faragha-Kwanza: Kumbukumbu, upachikaji, na faharasa za RAG husalia ndani kwa chaguomsingi; hakuna upakiaji wa wingu isipokuwa ukichagua kwa uwazi kushiriki au kuhamisha data.
Ushughulikiaji wa Muktadha Mrefu: Usaidizi wa miundo iliyo na madirisha makubwa ya muktadha ili msaidizi aweze kujadili hati na historia pana.
Inafaa kwa Msanidi Programu: Huunganishwa na makisio ya ndani, uwekaji faharasa, na kurejesha hali za utumiaji kwa programu zinazohitaji AI ya faragha, ya nje ya mtandao.
Kwa nini uchague LLM Hub? LLM Hub imeundwa ili kutoa AI ya faragha, sahihi na inayoweza kunyumbulika kwenye simu. Inaunganisha kasi ya makisio ya ndani na msingi wa kweli wa mifumo inayotegemea urejeshaji na urahisishaji wa kumbukumbu endelevu - bora kwa wafanyikazi wa maarifa, watumiaji wanaojali faragha, na wasanidi wanaounda vipengele vya AI vya ndani-kwanza.

Miundo Inayotumika: Gemma-3, Gemma-3n (multimodal), Llama-3.2, Phi-4 Mini — chagua muundo unaolingana na uwezo wa kifaa chako na mahitaji ya muktadha.

Vipengele vipya

- Upgraded Phi-4 Mini Max context window to 4096 and enabled GPU backend
- Model loading configuration now remembers your last settings
- Added translation support for Italian