Llama Compose er en udstillingsapp til Colombia AI Week, designet til at fremhæve AI-oplevelser på enheden med Android- og Google-teknologier. Bygget med Kotlin Multiplatform og optimeret til Android demonstrerer det, hvordan avancerede AI-modeller kan køre lokalt på brugerenheder, hvilket muliggør interaktive samtaler uden at være afhængig af cloud-behandling. Appen understøtter både simple og agentbaserede chattilstande og giver brugerne mulighed for at downloade og administrere modeller direkte på deres telefoner.
Nøglefunktioner:
- AI-inferens på enheden ved hjælp af llama.cpp
- Understøttelse af Googles Gemma- og Meta's Llama-modeller
- Flere samtaletilstande (Simple & Agent)
- Agentfunktionalitet med værktøjsopkald gennem Koog.ai
- Lokal model download, opbevaring og administration
- Bygget med Kotlin Multiplatform, optimeret til Android
- Interaktiv chatoplevelse i realtid drevet udelukkende på enheden
Vigtig ansvarsfraskrivelse: Denne app inkluderer eksperimentel AI-funktionalitet. Modeloutput kan være stødende, unøjagtige eller upassende. Brugere bør udvise forsigtighed og undgå afhængighed af denne app for følsomme eller kritiske beslutninger. Det er kun beregnet til undervisnings- og demonstrationsformål.