TokForge Local AI Offline Chat

Defcon-One

Про цей додаток

ПРИВАТНИЙ, ЛОКАЛЬНИЙ ТА ОФЛАЙН-ШТУЧНИЙ ІНТЕЛЕКТУАЛЬНИЙ. БЕЗ РЕКЛАМИ ТА ПІДПИСКИ

TokForge швидко запускає великі мовні моделі безпосередньо на вашому пристрої Android. Без хмарних сервісів, без підписки та без даних, що залишають вашу кишеню.

Незалежно від того, чи потрібен вам локальний помічник зі штучним інтелектом для продуктивності, чи друг зі штучним інтелектом, з яким можна розмовляти офлайн, TokForge забезпечує високопродуктивний висновок без підключення до Інтернету.

ЩО ВІН МОЖЕ РОБИТИ? ОСОБЛИВОСТІ TOKFORGE:

Спілкуйтеся з персонажами зі штучним інтелектом

💬 Ваш досвід офлайн-чату зі штучним інтелектом щойно оновився. Імпортуйте картки персонажів TavernAI V2 (PNG/JSON), налаштовуйте особистості та ведіть реальні розмови за допомогою потокової генерації. TokForge — це найкращий друг зі штучним інтелектом офлайн, який містить книги знань, альтернативні вітання та інформацію про світ. Моделі міркувань навіть включають складні блоки мислення для глибокої логіки.

Додавайте документи та ставте запитання

📄 Перетворіть TokForge на потужний локальний інструмент для дослідження на основі штучного інтелекту. Вставте PDF, DOCX, EPUB або текстовий файл і запитуйте мене про що завгодно, як у офлайн-режимі. Використовуючи індексацію дерева RAPTOR та вбудовування з малими елементами BGE, програма миттєво знаходить відповідні уривки. Додаткові запитання залишаються швидкими завдяки збереженню кешу delta KV.

Прослуховування відповідей, читання вголос

🔊 Справжній голосовий помічник для Android офлайн. Завдяки вбудованій технології Kokoro TTS з 11 голосами та двома рівнями якості, ваш офлайн-помічник може читати вам відповіді без затримки та з нульовим використанням даних.

У 2 рази швидше завдяки спекулятивному декодуванню

⚡ Відчуйте найшвидшу продуктивність LLM на мобільному пристрої. Невелика чернетка моделі прогнозує наперед, поки основна модель перевіряється пакетно. Завдяки індикатору ток/с у реальному часі та інтелектуальній маршрутизації на серверній частині, це найефективніше рішення штучного інтелекту на пристрої.

Три серверні частини, п'ять шляхів графічного процесора

· MNN з OpenCL та графічним процесором Vulkan: налаштовані ядра для Mali та Adreno. TQ4 TurboQuant досягає 46–57 ток/с на невеликих моделях.
· GGUF через llama.cpp: ARM i8mm, кооперативна матриця Vulkan, увага спалаху та повний діапазон квантування.
· Віддалений API: сумісна з OpenAI потокова передача на сервери Ollama, vLLM або llama.cpp.
· Автоматична маршрутизація з урахуванням SoC: цей локальний помічник штучного інтелекту автоматично вибирає найшвидший шлях для вашого конкретного чіпсета.

РОЗШИРЕНІ ФУНКЦІЇ ОФЛАЙН-ЧАТУ ЗІ ШІ:

• Ваш ШІ пам'ятає вас: Постійна пам'ять для кожного символу з фоновим вилученням. Графи знань відстежують зв'язки між сутностями за допомогою гібридного пошуку за ключовими словами та семантичного пошуку.

• Налаштуйте свій пристрій: ForgeLab проводить тестування кожної моделі штучного інтелекту та комбінації серверної частини на вашому обладнанні. AutoForge переглядає всі конфігурації, щоб вибрати найшвидші налаштування для вашої офлайн-програми штучного інтелекту.

• API розробника: понад 120 кінцевих точок для повного локального контролю над HTTP. Завантажуйте моделі, керуйте пам'яттю та надсилайте повідомлення програмно.

ТЕСТОВАНО НА РЕАЛЬНОМУ ОБЛАДНАННІ

- RedMagic 11 Pro: 21.0 ток/с — Qwen3-8B
- Galaxy S24 Ultra: 13.58 ток/с — Qwen3-4B
- OnePlus Ace 5 Ultra: 11.88 ток/с — Qwen3-8B
- Xiaomi Pad 7 Pro: 11.81 ток/с — Qwen3-4B

ЧОМУ TOKFORGE?

►Це універсальний додаток зі штучним інтелектом для користувачів, які відмовляються йти на компроміс щодо швидкості чи безпеки.
►Нульова аналітика, нульова телеметрія, нульова залежність від хмари.
►Безкоштовний чат-бот зі штучним інтелектом офлайн: весь висновок відбувається на пристрої — режим польоту працює ідеально.
►Без облікових записів, без реєстрації.
►17 ретельно підібраних моделей (0,6–14 млрд): Вибирайте з Qwen3, DeepSeek-R1, Llama 3, Phi-4 та інших.

Ваш смартфон розумніший і потужніший, ніж ви думаєте. А перенісши мозок штучного інтелекту безпосередньо на ваш кремнієвий процесор, ми усунули затримки, витрати та сторонні очі хмари.

☑️Завантажте цей безкоштовний офлайн-сервіс штучного інтелекту вже сьогодні та візьміть під контроль свої дані.

Що нового

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback