Llama Compose je ukážková aplikácia pre Colombia AI Week, navrhnutá tak, aby zvýraznila skúsenosti s umelou inteligenciou na zariadení s technológiami Android a Google. Postavený na platforme Kotlin Multiplatform a optimalizovaný pre Android ukazuje, ako môžu pokročilé modely AI bežať lokálne na používateľských zariadeniach, čo umožňuje interaktívne konverzácie bez spoliehania sa na cloudové spracovanie. Aplikácia podporuje jednoduché aj režimy chatu založeného na agentoch a umožňuje používateľom sťahovať a spravovať modely priamo na ich telefónoch.
Kľúčové vlastnosti:
- Odvodzovanie AI na zariadení pomocou llama.cpp
- Podpora modelov Gemma a Meta's Llama od Googlu
- Viac režimov konverzácie (Simple & Agent)
- Funkcia agenta s volaním nástroja cez Koog.ai
- Sťahovanie, ukladanie a správa miestneho modelu
- Postavené s Kotlin Multiplatform, optimalizované pre Android
- Interaktívny chat v reálnom čase využívaný výhradne na zariadení
Dôležité upozornenie: Táto aplikácia obsahuje experimentálne funkcie AI. Výstupy modelu môžu byť urážlivé, nepresné alebo nevhodné. Používatelia by mali byť opatrní a vyhýbať sa závislosti od tejto aplikácie pri citlivých alebo kritických rozhodnutiach. Je určený len na vzdelávacie a demonštračné účely.