Llama Compose 是哥倫比亞人工智慧週的展示應用,旨在展示基於 Android 和 Google 技術的裝置端 AI 體驗。它基於 Kotlin Multiplatform 構建,並針對 Android 進行了優化,展示瞭如何在用戶設備本地運行先進的 AI 模型,從而實現無需依賴雲端處理的交互式對話。該應用程式支援簡單和基於代理的聊天模式,並允許用戶直接在手機上下載和管理模型。
主要功能:
- 使用 llama.cpp 進行裝置端 AI 推理
- 支援 Google 的 Gemma 和 Meta 的 Llama 模型
- 多種對話模式(簡單和代理)
- 代理功能,可透過 Koog.ai 呼叫工具
- 本機模型下載、儲存與管理
- 基於 Kotlin Multiplatform 構建,並針對 Android 進行了最佳化
- 完全基於裝置的即時互動式聊天體驗
重要免責聲明:此應用程式包含實驗性的 AI 功能。模型輸出可能具有冒犯性、不準確或不恰當的內容。使用者應謹慎操作,避免依賴此應用程式做出敏感或關鍵決策。它僅用於教育和演示目的。