Llama Compose - гэта дэманстрацыйнае прыкладанне для Тыдня штучнага інтэлекту ў Калумбіі, распрацаванае для асвятлення вопыту штучнага інтэлекту на прыладзе з тэхналогіямі Android і Google. Створаны з Kotlin Multiplatform і аптымізаваны для Android, ён дэманструе, як прасунутыя мадэлі штучнага інтэлекту могуць працаваць лакальна на прыладах карыстальнікаў, дазваляючы інтэрактыўныя размовы без залежнасці ад воблачнай апрацоўкі. Дадатак падтрымлівае як просты рэжым чата, так і рэжым чата на аснове агента, а таксама дазваляе карыстальнікам спампоўваць мадэлі і кіраваць імі непасрэдна на сваіх тэлефонах.
Асноўныя характарыстыкі:
- Высновы AI на прыладзе з дапамогай llama.cpp
- Падтрымка мадэляў Google Gemma і Meta Llama
- Некалькі рэжымаў размовы (просты і агент)
- Функцыянальнасць агента з выклікам інструмента праз Koog.ai
- Загрузка, захоўванне і кіраванне лакальнай мадэллю
- Створаны з Kotlin Multiplatform, аптымізаваны для Android
- Інтэрактыўны чат у рэжыме рэальнага часу цалкам працуе на прыладзе
Важная адмова ад адказнасці: гэта дадатак уключае эксперыментальныя функцыі штучнага інтэлекту. Выхадныя дадзеныя мадэлі могуць быць абразлівымі, недакладнымі або недарэчнымі. Карыстальнікі павінны праяўляць асцярожнасць і пазбягаць залежнасці ад гэтай праграмы для прыняцця адчувальных або важных рашэнняў. Ён прызначаны толькі для адукацыйных і дэманстрацыйных мэтаў.