LLM Hub

timmy boy

Энэ аппын тухай

LLM Hub нь үйлдвэрлэлийн түвшний хиймэл оюун ухааныг хувийн, хурдан бөгөөд бүрэн орон нутгийн Android төхөөрөмжид шууд авчирдаг. Орчин үеийн төхөөрөмж дээрх LLMs (Gemma-3, Gemma-3n multimodal, Llama-3.2, Phi-4 Mini) том контекст цонхтой, байнгын глобал санах ойтой, төхөөрөмж дээр хадгалагдсан индексжүүлсэн баримт бичгийн хариултыг үндэслэсэн хайлтыг нэмэгдүүлсэн генераци (RAG) ажиллуул. Баримт бичгүүд болон тэмдэглэлд зориулсан шигтгээ үүсгэж хадгалах, векторын ижил төстэй хайлтыг дотооддоо ажиллуулж, танд бодит баримт хэрэгтэй үед DuckDuckGo-ээр ажилладаг вэб хайлтаар хариултуудыг баяжуулаарай. Зөвхөн дотоод санах ой, индекс болон оруулга зэрэг нь таны хувийн нууцыг хамгаалж, өндөр ач холбогдолтой, нарийвчлалтай болгохоос бусад тохиолдолд чухал бүх зүйл таны утсанд үлдэх болно.

Гол онцлогууд

Төхөөрөмж дээрх LLM дүгнэлт: Үүлэн хамааралгүйгээр хурдан, хувийн хариултууд; таны төхөөрөмж болон хэрэгцээнд тохирсон загваруудыг сонго.
Retrieval-Augmented Generation (RAG): Загварын үндэслэлийг индексжүүлсэн баримт бичгийн хэсгүүд болон оруулгатай хослуулан баримтад үндэслэсэн хариултуудыг гарга.
Тогтвортой дэлхийн санах ой: Тогтвортой, баримт бичиг, мэдлэгийг төхөөрөмжийн дотоод санах ойд (Room DB) хадгална.
Суулгах ба вектор хайлт: Суулгац үүсгэж, контентыг дотооддоо индексжүүлж, ижил төстэй байдлын үр ашигтай хайлтаар хамгийн хамааралтай баримт бичгүүдийг татаж аваарай.
Multimodal дэмжлэг: Боломжтой үед илүү баялаг харилцан үйлчлэлийн хувьд текст + дүрс бүхий загваруудыг (Gemma-3n) ашиглана уу.
Вэб хайлтын интеграци: RAG асуулга болон шуурхай хариултуудын хамгийн сүүлийн үеийн мэдээллийг авахын тулд DuckDuckGo-ээр ажилладаг вэб үр дүнгээр орон нутгийн мэдлэгийг нэмэгдүүлээрэй.
Офлайнаар ашиглахад бэлэн: Сүлжээнд нэвтрэхгүйгээр ажиллах боломжтой - загвар, санах ой, индексүүд төхөөрөмж дээр хадгалагдана.
GPU хурдасгах (заавал биш): Дэмждэг газруудад техник хангамжийн хурдатгалыг ашиглаарай — GPU-д тулгуурласан том загваруудад илүү сайн үр дүнд хүрэхийн тулд бид дор хаяж 8 ГБ RAM-тай төхөөрөмжүүдийг санал болгож байна.
Privacy-First Design: Санах ой, суулгац, RAG индексүүд нь анхдагчаар локал хэвээр байна; Хэрэв та өгөгдөл хуваалцах эсвэл экспортлохыг тодорхой сонгоогүй бол үүлэн дээр байршуулах боломжгүй.
Урт хугацааны контексттэй харьцах: Том контекст цонхтой загваруудыг дэмждэг тул туслах нь өргөн хүрээний баримт бичиг, түүхийн талаар дүгнэлт хийх боломжтой.
Хөгжүүлэгчид ээлтэй: Хувийн, офлайн хиймэл оюун ухаан шаардсан апп-д зориулсан орон нутгийн дүгнэлт, индексжүүлэлт, хайлтыг ашиглах тохиолдлуудтай нэгтгэдэг.
Яагаад LLM Hub-г сонгох вэ? LLM Hub нь гар утсанд хувийн, үнэн зөв, уян хатан хиймэл хиймэл оюун ухаан хүргэхээр бүтээгдсэн. Энэ нь орон нутгийн дүгнэлтийн хурдыг хайлтад суурилсан системийн бодит үндэслэл, байнгын санах ойтой хослуулсан бөгөөд энэ нь мэдлэгийн ажилчид, хувийн нууцыг эрхэмлэдэг хэрэглэгчид болон орон нутгийн анхны хиймэл оюун ухааны онцлогийг бий болгож буй хөгжүүлэгчдэд тохиромжтой.

Дэмжигдсэн загварууд: Gemma-3, Gemma-3n (multimodal), Llama-3.2, Phi-4 Mini — өөрийн төхөөрөмжийн чадавхи болон контекст хэрэгцээнд тохирсон загварыг сонго.

Шинэ юм юу байна

- Upgraded Phi-4 Mini Max context window to 4096 and enabled GPU backend
- Model loading configuration now remembers your last settings
- Added translation support for Italian