LLM Hub

timmy boy

O ovoj aplikaciji

ЛЛМ Хуб доноси АИ производне класе директно на ваш Андроид уређај — приватно, брзо и потпуно локално. Покрените модерне ЛЛМ-ове на уређају (Гемма-3, Гемма-3н мултимодални, Ллама-3.2, Пхи-4 Мини) са великим прозорима контекста, трајном глобалном меморијом и генерацијом са проширеним претраживањем (РАГ) која заснива одговоре у индексираним документима ускладиштеним на уређају. Креирајте и складиштите уградње за документе и белешке, покрените претрагу векторске сличности локално и обогатите одговоре веб претрагом коју покреће ДуцкДуцкГо када су вам потребне чињенице уживо. Све што је важно остаје на вашем телефону осим ако то експлицитно не извезете: само локална меморија, индекси и уградње штите вашу приватност док пружају високу релевантност и прецизност.

Кључне карактеристике

ЛЛМ закључак на уређају: Брзи, приватни одговори без зависности од облака; изаберите моделе који одговарају вашем уређају и потребама.
Ретриевал-Аугментед Генератион (РАГ): Комбинујте размишљање модела са индексираним деловима документа и уграђивањем да бисте произвели одговоре засноване на чињеницама.
Перзистентна глобална меморија: Сачувајте чињенице, документе и знање у трајну локалну меморију уређаја (Собна ДБ) за дуготрајно памћење кроз сесије.
Уградња и векторска претрага: Генеришите уградње, локално индексирајте садржај и пронађите најрелевантније документе уз ефикасну претрагу сличности.
Мултимодална подршка: Користите моделе који подржавају текст + слике (Гемма-3н) за богатије интеракције када су доступне.
Интеграција веб претраге: Допуните локално знање са ДуцкДуцкГо-покренутим веб резултатима да бисте добили најновије информације за РАГ упите и тренутне одговоре.
Спреман ван мреже: Радите без приступа мрежи — модели, меморија и индекси остају на уређају.
ГПУ убрзање (опционо): Искористите хардверско убрзање тамо где је подржано — за најбоље резултате са већим моделима са подршком за ГПУ препоручујемо уређаје са најмање 8 ГБ РАМ-а.
Приваци-Фирст Десигн: Меморија, уградња и РАГ индекси остају локални по подразумеваној вредности; нема отпремања у облак осим ако изричито не одлучите да делите или извозите податке.
Руковање дугим контекстом: Подршка за моделе са великим прозорима контекста тако да помоћник може да размишља о обимним документима и историјама.
Погодно за програмере: Интегрише се са случајевима локалног закључивања, индексирања и преузимања за апликације које захтевају приватну, ванмрежну вештачку интелигенцију.
Зашто одабрати ЛЛМ Хуб? ЛЛМ Хуб је направљен да испоручи приватну, тачну и флексибилну вештачку интелигенцију на мобилном уређају. Он спаја брзину локалног закључивања са чињеничном утемељеношћу система заснованих на проналажењу и погодношћу трајне меморије — идеално за раднике који раде са знањем, кориснике који воде рачуна о приватности и програмере који граде локалне АИ карактеристике.

Подржани модели: Гемма-3, Гемма-3н (мултимодални), Ллама-3.2, Пхи-4 Мини — изаберите модел који одговара могућностима вашег уређаја и потребама контекста.

Šta je novo

- Upgraded Phi-4 Mini Max context window to 4096 and enabled GPU backend
- Model loading configuration now remembers your last settings
- Added translation support for Italian