„Llama Compose“ yra demonstracinė programa, skirta Kolumbijos AI savaitei, skirta išryškinti įrenginio AI patirtį naudojant „Android“ ir „Google“ technologijas. Sukurta naudojant „Kotlin Multiplatform“ ir optimizuota „Android“, ji parodo, kaip pažangūs AI modeliai gali veikti lokaliai vartotojų įrenginiuose, įgalindami interaktyvius pokalbius nepasikliaujant debesų apdorojimu. Programėlė palaiko ir paprastus, ir agentais pagrįstus pokalbių režimus ir leidžia vartotojams atsisiųsti bei valdyti modelius tiesiai į savo telefoną.
Pagrindinės savybės:
- Įrenginio AI išvada naudojant llama.cpp
– „Google“ Gemma ir Meta’s Llama modelių palaikymas
- Keli pokalbio režimai (paprastas ir agentas)
- Agento funkcionalumas su įrankių iškvietimu per Koog.ai
- Vietinio modelio atsisiuntimas, saugojimas ir valdymas
- Sukurta naudojant „Kotlin Multiplatform“, optimizuota „Android“.
- Tikralaikis interaktyvus pokalbis veikia tik įrenginyje
Svarbus atsakomybės atsisakymas: ši programa apima eksperimentinę AI funkciją. Modelio išvestis gali būti įžeidžianti, netiksli arba netinkama. Naudotojai turėtų būti atsargūs ir vengti priklausyti nuo šios programos, priimdami jautrius ar svarbius sprendimus. Jis skirtas tik edukaciniams ir demonstravimo tikslams.