TokForge Local AI Offline Chat

Defcon-One

Про цей додаток

TokForge запускає повноцінні моделі штучного інтелекту безпосередньо на вашому телефоні. Без хмари, без облікового запису, без підписки. Ваші розмови ніколи не залишають ваш пристрій.

Чат та рольова гра. Створюйте персонажів або імпортуйте картки з chub.ai та TavernAI (PNG/JSON). Персонажі, книги передісторій, альтернативні вітання та групові чати, де кожен персонаж може говорити своїм власним голосом.

Створюйте зображення на пристрої. Введіть запит та отримайте зображення без підключення до Інтернету. Працює на процесорі всюди, з прискоренням NPU на підтримуваних пристроях Snapdragon.

Розмовляйте з ним. Kokoro перетворює текст на мову з кількома голосами, а також клонування голосу: запишіть короткий зразок, і TokForge говорить цим голосом. Голосове введення включено.

Задавайте свої документи. Вставте PDF, DOCX, EPUB або текстовий файл та ставте запитання про нього. Довготривала пам'ять та графік знань відстежують те, що важливо в розмовах.

Веб-пошук, коли вам це потрібно. Вимкнено за замовчуванням. Увімкніть, щоб надати моделі актуальну інформацію.

Три механізми, налаштовані для вашого чіпа. llama.cpp (GGUF), MNN зі шляхами OpenCL та Vulkan GPU, або підключення до власного сервера, сумісного з OpenAI. Маршрутизація з урахуванням SoC автоматично вибирає найшвидший шлях.

Знайдіть та порівняйте моделі. Кураторський каталог моделей, що відповідає вашому пристрою, а також вбудований завантажувач із пошуком Hugging Face. ForgeLab порівнює кожну комбінацію моделей та серверних частин на вашому обладнанні та публікує результати у публічній таблиці лідерів на leaderboard.tokforge.ai, якщо ви цього забажаєте.

Резервне копіювання та відновлення всього. API розробника з понад 280 локальними кінцевими точками. Нульова аналітика, нульова телеметрія, працює в режимі польоту.

Що нового

beta128: voice replies no longer cut off or go silent on low-memory phones (long messages and cloned voices now fall back and finish the whole message), custom system prompts no longer trip reasoning models into a thinking loop, and the app installs about 14 MB smaller with Snapdragon NPU packs downloaded on demand.