š āOllama Local AIā yra galinga āOllamaā āAndroidā programa kÅ«rÄjams, integruojantiems vietinius didelių kalbų modelius (LLM) ÄÆ IDE darbo eigas. Paverskite savo āAndroidā ÄÆrenginÄÆ saugiu, itin greitu, perjungiamu vietinio tinklo āOpenAIā suderinamu LLM tarpiniu serveriu, veikianÄiu pagal vietinius modelius ir āllama.cppā variklio palaikymÄ
.
š± Nukreipkite žymeklÄÆ, VS kodÄ
, āAntigravityā, āWindsurfā ar bet kurÄÆ modernų kodavimo asistentÄ
tiesiai ÄÆ savo telefono LAN IP adresÄ
. Naudokite āOllamaā, āllama.cppā vietinius modelius, debesies API arba pasirinktinius API raktus nekonfigÅ«ruodami kelių galinių taÅ”kų savo kÅ«rimo kompiuteryje.
š 100 % ÄÆrenginyje: jÅ«sų modeliai, raktai, užklausos ir duomenys lieka saugÅ«s jÅ«sų āAndroidā ÄÆrenginyje ā jokių treÄiųjų Å”alių paslaugų ir iÅ”orinių perdavimų.
ā” PagrindinÄs funkcijos
š§ Vietinis LLM ÄÆrenginys: paleiskite vietinius DI modelius tiesiai telefone naudodami āllama.cppā variklio palaikymÄ
, nereikia interneto ryŔio
š¬ Pokalbių režimas: pilnos pokalbių sesijos su vietiniais modeliais arba debesies API, ÄÆskaitant āOpenAIā, āClaudeā ir kt. ā perjunkite bet kada
šØ DrobÄs režimas: kurkite ir testuokite svetaines pokalbyje, stebÄkite, kaip DI jas kuria tiesiogiai
š āWebXā peržiÅ«ra: akimirksniu peržiÅ«rÄkite āOllamaā arba vietinio DI sukurtas svetaines, kurias galite peržiÅ«rÄti iÅ” bet kurios jÅ«sų tinklo narÅ”yklÄs
š„ļø āāPrieiga tarp ÄÆrenginių: atidarykite pokalbių āWebUIā iÅ” telefono, planÅ”etinio kompiuterio ar asmeninio kompiuterio
š„ļø Vietinis talpinimas be konfigÅ«racijos: paleidžia optimizuotÄ
ÄÆterptÄ
jÄÆ HTTP serverÄÆ (NanoHTTPD) tiesiai āAndroidā sistemoje
š Su āOpenAIā suderinama API: standartiniai galiniai taÅ”kai (/v1/chat/completions, /v1/models, /health), kad bÅ«tų galima automatiÅ”kai prisijungti
š Momentinis tiekÄjų perjungimas: iÅ”saugokite āOllamaā, āllama.cppā, āNVIDIAā konfigÅ«racijas āOpenAIā, āClaudeā, āHugging Faceā ir pasirinktiniai galiniai taÅ”kai ā perjunkite vienu spustelÄjimu
š¦ Greitesnis, saugesnis tarpinio serverio marÅ”rutizavimas: optimizuotas vietinis DI tarpinio serverio marÅ”rutizavimas su teikÄjo skirtais laikais ir greiÄio apribojimais
š Vietinis telkinys, perjungimas per atsargines kopijas ir āRoad Robinā: paskirstykite užklausas tarp vietinių modelių ir teikÄjų, kad bÅ«tų užtikrintas patikimas DI marÅ”rutizavimas
š” LAN pagrindinio/darbinio serverio susiejimas: susiekite āAndroidā telefonus ir ÄÆrenginius su privaÄiu vietiniu DI tinklu
š Kelių ÄÆrenginių klasterio palaikymas: sujunkite telefonus ir ÄÆrenginius su vienu vietiniu LLM iÅ”vadų klasteriu
š¤ IÅ”manus kelių agentų orkestravimas: koordinuokite kelis DI agentus, teikÄjus, ÄÆrankius ir užduotis
šļø Tiesioginio transliavimo agento etapai: peržiÅ«rÄkite agento eigÄ
ir etapus realiuoju laiku
š¬ Seanso stabilus pokalbių marÅ”rutizavimas: nuosekliai nukreipkite pokalbių sesijas tarp palaikomų teikÄjų
š Srauto stebÄjimo sistema: stebÄkite užklausų srautÄ
, paketų marÅ”rutizavimÄ
, naÅ”umo statistikÄ
ir tarpinio serverio diagnostikÄ
tiesiogiai
š§Ŗ Patobulinta ÄÆrankių laboratorija: testuokite DI ÄÆrankius, teikÄjų ryÅ”ius, API užklausas ir darbo eigos
š„ļø āāPatobulinta žiniatinklio konsolÄ: valdykite vietinÄÆ DI marÅ”rutizavimÄ
, pokalbius, teikÄjus, ÄÆrankius ir diagnostikÄ
iÅ” savo narÅ”yklÄs
šØ Patobulinta āMaterial 3ā sÄ
saja: Å”vari, reaguojanti āAndroidā sÄ
saja vietiniam DI kūrimui
š āLazy Token Bucket Rate Limitingā: taupus akumuliatoriaus energijos naudojimas srauto valdymui be nereikalingo foninio apkrovimo
š Saugi užŔifruota saugykla: API raktai, apsaugoti AES-256 užŔifruotais āEncryptedSharedPreferencesā
š§µ Apkrauta ÄÆvestis/iÅ”vestis: sklandi āComposeā vartotojo sÄ
saja ir didelio naÅ”umo marÅ”rutizavimas per āCoroutinesā ir āDispatchers.IOā
š ļø VisiÅ”kas IDE palaikymas: optimizuotas āCursorā, VS Code, āAntigravityā, āWindsurfā, su āOpenAIā suderinamiems klientams, scenarijams ir pasirinktiniams DI ÄÆrankiams
š£ļø Daugiau beta funkcijų
āļø Daugiau vietinių DI integracijų, teikÄjų palaikymo, kÅ«rÄjo ÄÆrankių ir naÅ”umo optimizavimo kÅ«rimo metu
ā KodÄl verta rinktis āOllama Local AIā?
KalbÄkitÄs, koduokite, marÅ”rutizuokite ir peržiÅ«rÄkite naudodami āOllamaā, vietinius āllama.cppā modelius arba debesies dirbtinio intelekto API ā visa tai vienoje saugioje āAndroidā programÄlÄje. Kurkite privaÄius vietinius LLM darbo srautus, prijunkite savo IDE per LAN ir valdykite dirbtinio intelekto srautÄ
be iŔorinių relių.
š„ Optimizuokite savo vietinÄÆ dirbtinio intelekto ir LLM kÅ«rimo darbo srautÄ
jau Å”iandien su āOllama Local AIā!
Å i programÄlÄ nÄra susijusi su āOllamaā ir jos nepatvirtinta.
š¦ āOllama Local AIā ā vietinÄ teisÄs magistro programa, debesijos dirbtinis intelektas ir žiniatinklio sÄ
saja ā viskas jÅ«sų ÄÆrenginyje