LLM Hub

timmy boy

Tungkol sa app na ito

Dinadala ng LLM Hub ang production-grade AI diretso sa iyong Android device — pribado, mabilis, at ganap na lokal. Magpatakbo ng mga modernong on-device na LLM (Gemma-3, Gemma-3n multimodal, Llama-3.2, Phi-4 Mini) na may malalaking context window, persistent global memory, at retrieval-augmented generation (RAG) na nagpapatunay ng mga sagot sa mga naka-index na dokumentong nakaimbak sa device. Gumawa at mag-imbak ng mga pag-embed para sa mga dokumento at tala, magpatakbo ng vector similarity search sa lokal, at pagyamanin ang mga tugon gamit ang DuckDuckGo-powered web search kapag kailangan mo ng mga live na katotohanan. Ang lahat ng mahalaga ay mananatili sa iyong telepono maliban kung tahasan mo itong ine-export: pinoprotektahan ng lokal na memorya, mga index, at mga pag-embed ang iyong privacy habang naghahatid ng mataas na kaugnayan at katumpakan.

Mga Pangunahing Tampok

On-device LLM inference: Mabilis, pribadong mga tugon nang walang cloud dependency; pumili ng mga modelong tumutugma sa iyong device at mga pangangailangan.
Retrieval-Augmented Generation (RAG): Pagsamahin ang modelong pangangatwiran sa mga naka-index na tipak ng dokumento at mga pag-embed upang makagawa ng mga sagot na batay sa katotohanan.
Persistent Global Memory: I-save ang mga katotohanan, dokumento, at kaalaman sa isang persistent, device-local memory (Room DB) para sa pangmatagalang recall sa mga session.
Mga Pag-embed at Paghahanap ng Vector: Bumuo ng mga pag-embed, lokal na i-index ang nilalaman, at kunin ang mga pinakanauugnay na dokumento na may mahusay na paghahanap ng pagkakatulad.
Multimodal Support: Gumamit ng text + image capable models (Gemma-3n) para sa mas mahuhusay na pakikipag-ugnayan kapag available.
Pagsasama ng Paghahanap sa Web: Dagdagan ang lokal na kaalaman gamit ang mga resulta ng web na pinapagana ng DuckDuckGo upang makakuha ng up-to-date na impormasyon para sa mga query sa RAG at agarang sagot.
Offline-Ready: Magtrabaho nang walang network access — ang mga modelo, memorya, at mga index ay nananatili sa device.
GPU Acceleration (opsyonal): Makinabang mula sa hardware acceleration kung saan sinusuportahan — para sa pinakamagagandang resulta sa mas malalaking modelong sinusuportahan ng GPU, inirerekomenda namin ang mga device na may hindi bababa sa 8GB RAM.
Privacy-First Design: Ang memorya, mga embed, at RAG index ay mananatiling lokal bilang default; walang cloud upload maliban kung tahasan mong pipiliin na magbahagi o mag-export ng data.
Pangmatagalang Pangangasiwa sa Konteksto: Suporta para sa mga modelong may malalaking window ng konteksto upang ang katulong ay makapangatuwiran sa mga malalawak na dokumento at kasaysayan.
Developer-Friendly: Sumasama sa lokal na inference, indexing, at retrieval use-case para sa mga app na nangangailangan ng pribado, offline na AI.
Bakit pipiliin ang LLM Hub? Ang LLM Hub ay binuo para maghatid ng pribado, tumpak, at flexible na AI sa mobile. Pinagsasama nito ang bilis ng lokal na hinuha sa makatotohanang batayan ng mga sistemang nakabatay sa pagkuha at ang kaginhawahan ng patuloy na memorya — perpekto para sa mga manggagawang may kaalaman, mga user na may kamalayan sa privacy, at mga developer na bumubuo ng mga lokal na unang tampok ng AI.

Mga Sinusuportahang Modelo: Gemma-3, Gemma-3n (multimodal), Llama-3.2, Phi-4 Mini — piliin ang modelong akma sa iyong mga kakayahan sa device at pangangailangan sa konteksto.

Ano'ng bago

- Upgraded Phi-4 Mini Max context window to 4096 and enabled GPU backend
- Model loading configuration now remembers your last settings
- Added translation support for Italian