TokForge Local AI Offline Chat

Defcon-One

Всичко за това приложение

ЛИЧЕН, ЛОКАЛЕН И ОФЛАЙН ИЗКУСТВЕН ИМИТ. БЕЗ РЕКЛАМИ И АБОНАМЕНТ

TokForge изпълнява големи езикови модели директно на вашето Android устройство бързо. Без облак, без абонамент и без данни, които да напускат джоба ви.

Независимо дали имате нужда от локален AI асистент за продуктивност или от говорещ AI приятел офлайн, TokForge предоставя високопроизводително извеждане без интернет връзка.

КАКВО МОЖЕ ДА НАПРАВЯ? ХАРАКТЕРИСТИКИ НА TOKFORGE:

Чат с AI герои

💬 Вашето офлайн AI чат изживяване току-що получи подобрение. Импортирайте карти с герои TavernAI V2 (PNG/JSON), персонализирайте характерите и водете реални разговори с генериране на стрийминг. TokForge е най-добрият AI приятел офлайн, включващ книги с предания, алтернативни поздрави и информация за света. Моделите за разсъждение дори включват сгъваеми блокове за мислене за дълбока логика.

Прикачване на документи и задаване на въпроси

📄 Превърнете TokForge в мощен локален инструмент за изследване с изкуствен интелект. Пуснете PDF, DOCX, EPUB или текстов файл и ме питайте всичко, както в офлайн стил. Използвайки индексиране на RAPTOR дърво и BGE-small вграждания, приложението намира подходящи пасажи мигновено. Последващите въпроси остават бързи благодарение на запазването на кеша delta KV.

Чуване на отговори, четене на глас

🔊 Истински гласов асистент за Android офлайн. С вградения Kokoro TTS с 11 гласа и две нива на качество, вашият офлайн асистент може да ви чете отговорите без забавяне и с нулево използване на данни.

2 пъти по-бързо със спекулативно декодиране

⚡ Изпитайте най-бързата производителност на LLM на мобилни устройства. Малък чернова модел прогнозира предварително, докато основният модел се проверява на партида. С индикатор за ток/с в реално време и интелигентно маршрутизиране на бекенда, това е най-ефективното решение за изкуствен интелект на устройството.

Три бекенда, пет GPU пътя

· MNN с OpenCL и Vulkan GPU: Настроени ядра за Mali и Adreno. TQ4 TurboQuant достига 46–57 ток/с на малки модели.
· GGUF чрез llama.cpp: ARM i8mm, кооперативна матрица Vulkan, светкавично внимание и пълен диапазон на квантуване.
· Отдалечен API: OpenAI-съвместимо стрийминг към Ollama, vLLM или llama.cpp сървъри.
· SoC-Aware Auto-Routing: Този локален асистент с изкуствен интелект автоматично избира най-бързия път за вашия специфичен чипсет.

РАЗШИРЕНИ ФУНКЦИИ ЗА ОФЛАЙН ЧАТ С ИИ:

• Вашият ИИ ви помни: Постоянна памет за всеки символ с извличане на фона. Графиките на знанията проследяват връзките между обектите, използвайки хибридно търсене по ключови думи и семантично търсене.

• Настройте устройството си: ForgeLab сравнява всеки модел с изкуствен интелект и комбинация от бекенд на вашия хардуер. AutoForge преглежда всички конфигурации, за да избере най-бързите настройки за вашето офлайн приложение с изкуствен интелект.

• API за разработчици: Над 120 крайни точки за пълен локален контрол над HTTP. Зареждайте модели, управлявайте паметта и изпращайте съобщения програмно.

ТЕСТВАНО НА РЕАЛЕН ХАРДУЕР

- RedMagic 11 Pro: 21.0 ток/сек — Qwen3-8B
- Galaxy S24 Ultra: 13.58 ток/сек — Qwen3-4B
- OnePlus Ace 5 Ultra: 11.88 ток/сек — Qwen3-8B
- Xiaomi Pad 7 Pro: 11.81 ток/сек — Qwen3-4B

ЗАЩО TOKFORGE?

►Това е приложение с изкуствен интелект „всичко в едно“ за потребители, които отказват да правят компромис със скоростта или сигурността.
►Нулев анализ, нулева телеметрия, нулева зависимост от облака. ►Безплатен офлайн чатбот с изкуствен интелект: Всички изводи се случват на устройството – самолетният режим работи перфектно.
►Без акаунти, без регистрация.
►17 подбрани модела (0.6B–14B): Изберете от Qwen3, DeepSeek-R1, Llama 3, Phi-4 и други.

Вашият смартфон е по-умен и по-мощен, отколкото си мислите. И като преместихме мозъка на изкуствения интелект директно върху вашия силиций, елиминирахме забавянето, разходите и любопитните погледи на облака.

☑️Изтеглете тази безплатна офлайн мощна изкуствена интелект платформа днес и поемете контрол над данните си.

Новите неща

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback