Llama Compose is een showcase-app voor de Colombia AI Week, ontworpen om AI-ervaringen op het apparaat met Android- en Google-technologieën te benadrukken. De app is gebouwd met Kotlin Multiplatform en geoptimaliseerd voor Android. De app laat zien hoe geavanceerde AI-modellen lokaal op gebruikersapparaten kunnen draaien, waardoor interactieve gesprekken mogelijk zijn zonder afhankelijk te zijn van cloudverwerking. De app ondersteunt zowel eenvoudige als agentgebaseerde chatmodi en stelt gebruikers in staat om modellen rechtstreeks op hun telefoon te downloaden en te beheren.
Belangrijkste kenmerken:
- AI-inferentie op het apparaat met behulp van llama.cpp
- Ondersteuning voor de Gemma- en Meta-modellen van Google
- Meerdere gespreksmodi (Eenvoudig & Agent)
- Agentfunctionaliteit met tool-aanroepen via Koog.ai
- Lokale modeldownload, -opslag en -beheer
- Gebouwd met Kotlin Multiplatform, geoptimaliseerd voor Android
- Realtime, interactieve chatervaring volledig op het apparaat
Belangrijke disclaimer: Deze app bevat experimentele AI-functionaliteit. Modeluitvoer kan aanstootgevend, onnauwkeurig of ongepast zijn. Gebruikers dienen voorzichtig te zijn en deze app niet te gebruiken voor gevoelige of kritieke beslissingen. Het is uitsluitend bedoeld voor educatieve en demonstratiedoeleinden.