LlamaCompose: Colombia AI Week

DmyMi Dev

Über diese App

Llama Compose ist eine Vorzeige-App für die Colombia AI Week, die KI-Erlebnisse auf Geräten mit Android- und Google-Technologien präsentiert. Die App wurde mit Kotlin Multiplatform entwickelt und für Android optimiert. Sie demonstriert, wie fortschrittliche KI-Modelle lokal auf Nutzergeräten ausgeführt werden können und so interaktive Konversationen ohne Cloud-Verarbeitung ermöglichen. Die App unterstützt sowohl einfache als auch agentenbasierte Chat-Modi und ermöglicht Nutzern, Modelle direkt auf ihren Smartphones herunterzuladen und zu verwalten.

Hauptfunktionen:
– Geräteinterne KI-Inferenz mit llama.cpp
– Unterstützung für Google Gemma und Meta Llama-Modelle
– Mehrere Konversationsmodi (einfach und Agent)
– Agentenfunktion mit Tool-Aufruf über Koog.ai
– Lokaler Modelldownload, -speicherung und -verwaltung
– Entwickelt mit Kotlin Multiplatform, optimiert für Android
– Interaktives Chat-Erlebnis in Echtzeit, vollständig auf dem Gerät

Wichtiger Hinweis: Diese App enthält experimentelle KI-Funktionen. Modellausgaben können anstößig, ungenau oder unangemessen sein. Nutzer sollten Vorsicht walten lassen und sich bei sensiblen oder kritischen Entscheidungen nicht auf diese App verlassen. Es ist nur für Bildungs- und Demonstrationszwecke bestimmt.

Neuerungen

Various UI improvements & bug fixes