TokForge Local AI Offline Chat

Defcon-One

Описание

TokForge запускает полноценные модели ИИ прямо на вашем телефоне. Никакого облака, никакой учетной записи, никакой подписки. Ваши разговоры никогда не покидают ваше устройство.

Чат и ролевые игры. Создавайте персонажей или импортируйте карточки из chub.ai и TavernAI (PNG/JSON). Персоны, книги знаний, альтернативные приветствия и групповые чаты, где каждый персонаж может говорить своим собственным голосом.

Генерируйте изображения на устройстве. Введите запрос и получите картинку без подключения к интернету. Работает на ЦП везде, с ускорением NPU на поддерживаемых устройствах Snapdragon.

Говорите с ним. Kokoro — преобразование текста в речь с несколькими голосами, а также клонирование голоса: запишите короткий образец, и TokForge заговорит этим голосом. Голосовой ввод включен.

Задавайте вопросы своим документам. Вставьте PDF, DOCX, EPUB или текстовый файл и задавайте вопросы о нем. Долговременная память и граф знаний отслеживают важную информацию в ходе диалогов.

Веб-поиск, когда вам это нужно. По умолчанию отключен. Включите его, чтобы предоставить модели актуальную информацию.

Три движка, оптимизированные для вашего чипа. llama.cpp (GGUF), MNN с OpenCL и путями Vulkan GPU, или подключение к собственному серверу, совместимому с OpenAI. Маршрутизация с учетом SoC автоматически выбирает самый быстрый путь.

Нахождение и тестирование моделей. Подборка моделей, адаптированная под ваше устройство, плюс встроенный загрузчик с поиском Hugging Face. ForgeLab тестирует каждую комбинацию модели и бэкенда на вашем оборудовании и публикует результаты в общедоступной таблице лидеров на leaderboard.tokforge.ai, если вы этого пожелаете.

Резервное копирование и восстановление всего. API для разработчиков с более чем 280 локальными конечными точками. Никакой аналитики, никакой телеметрии, работает в режиме полета.

Новое в приложении

beta128: voice replies no longer cut off or go silent on low-memory phones (long messages and cloned voices now fall back and finish the whole message), custom system prompts no longer trip reasoning models into a thinking loop, and the app installs about 14 MB smaller with Snapdragon NPU packs downloaded on demand.