MobileLLM — гэта дадатак для чата LLM (мадэль вялікай мовы) на прыладзе, якое дазваляе вам мець зносіны са штучным інтэлектам непасрэдна на вашым смартфоне без падключэння да Інтэрнэту.
Асноўныя характарыстыкі:
• Цалкам афлайн — чат са штучным інтэлектам без падключэння да Інтэрнэту
• Канфідэнцыяльнасць — усе дадзеныя апрацоўваюцца лакальна на прыладзе
• Мадэлі абдымаючых твараў — загрузка розных мадэляў LLM з адкрытым зыходным кодам
• Аптымізацыя для прылад — аўтаматычная рэкамендацыя мадэляў на аснове аператыўнай памяці і сховішча
• Струменевая перадача адказаў — прагляд адказаў штучнага інтэлекту ў рэжыме рэальнага часу
• Паскарэнне графічнага працэсара Vulkan — хуткі вывад на падтрымоўваных прыладах
Падтрымліваюцца мадэлі: розныя мадэлі з адкрытым зыходным кодам у фармаце GGUF
Сістэмныя патрабаванні:
• Android 10 (API 29) або вышэй
• Мінімум 4 ГБ аператыўнай памяці (рэкамендуецца 6 ГБ+)
• 2 ГБ+ вольнага месца для захоўвання
Канфідэнцыяльнасць:
Уся апрацоўка штучным інтэлектам адбываецца на прыладзе. Вашы размовы ніколі не адпраўляюцца на знешнія серверы. Інтэрнэт патрэбны толькі для загрузкі мадэляў.
Цалкам афлайн-прыкладанне для чата LLM