TokForge Local AI Offline Chat

Defcon-One

За апликацијава

ПРИВАТНА, ЛОКАЛНА И ОФЛАЈН ВИЕ. БЕЗ РЕКЛАМИ БЕЗ ПРЕТПЛАТА

TokForge брзо извршува големи јазични модели директно на вашиот Android уред. Без облак, без претплата и без податоци што излегуваат од вашиот џеб.

Без разлика дали ви е потребен локален асистент за вештачка интелигенција за продуктивност или пријател со вештачка интелигенција што зборува офлајн, TokForge испорачува високо-перформансни заклучоци без интернет конекција.

ШТО МОЖЕ ДА НАПРАВИ? КАРАКТЕРИСТИКИ НА TOKFORGE:

Разговарајте со ликови од вештачка интелигенција

💬 Вашето искуство со разговор со вештачка интелигенција офлајн штотуку доби надградба. Увезете картички со ликови од TavernAI V2 (PNG/JSON), прилагодете ги личностите и водете вистински разговори со генерацијата на стриминг. TokForge е врвниот пријател со вештачка интелигенција офлајн, со Lorebooks, алтернативни поздрави и информации за светот. Моделите за расудување дури вклучуваат и склопливи блокови за размислување за длабока логика.

Прикачете документи и поставувајте прашања

📄 Претворете го TokForge во моќна алатка за локално истражување со вештачка интелигенција. Ставете PDF, DOCX, EPUB или текстуална датотека и прашајте ме што било во стилот на апликацијата офлајн. Користејќи индексирање на дрвото RAPTOR и вградувања на мали BGE-датотеки, апликацијата веднаш ги наоѓа релевантните пасуси. Дополнителните прашања остануваат брзи благодарение на зачувувањето на кешот delta KV.

Слушнете ги одговорите прочитани на глас

🔊 Вистински гласовен асистент за Android офлајн. Со вграден Kokoro TTS со 11 гласови и две нивоа на квалитет, вашиот офлајн асистент може да ви ги чита одговорите без латентност и нула употреба на податоци.

2 пати побрзо со шпекулативно декодирање

⚡ Доживејте ги најбрзите перформанси на LLM на мобилен. Мал модел на нацрт предвидува однапред, додека главниот модел проверува во група. Со индикатор за tok/s во живо и паметно рутирање на задната страна, тоа е најефикасното решение за вештачка интелигенција на уредот што е достапно.

Три задни делови, пет GPU патеки

· MNN со OpenCL и Vulkan GPU: Подесени јадра за Mali и Adreno. TQ4 TurboQuant достигнува 46–57 tok/s на мали модели.
· GGUF преку llama.cpp: ARM i8mm, Vulkan кооперативна матрица, флеш внимание и целосен опсег на квантизација.
· Далечински API: Стриминг компатибилен со OpenAI до Ollama, vLLM или llama.cpp сервери.
· Автоматско рутирање со SoC-свесно: Овој локален асистент на вештачка интелигенција автоматски ја избира најбрзата патека за вашиот специфичен чипсет.

НАПРЕДНИ ФУНКЦИИ ЗА РАЗГОВОР СО ВИСТИНСКА ОФЛАЈН:

• Вашата вештачка интелигенција ве памти: Постојана меморија по карактер со екстракција во позадина. Графиконите на знаење ги следат односите меѓу ентитетите користејќи хибридно пребарување со клучни зборови и семантичко пребарување.

• Прилагодете го вашиот уред: ForgeLab ги споредува сите модели на вештачка интелигенција и комбинации на backend на вашиот хардвер. AutoForge ги пребарува сите конфигурации за да ги избере најбрзите поставки за вашата офлајн апликација за вештачка интелигенција.

• API за развивачи: 120+ крајни точки за целосна локална контрола преку HTTP. Вчитувајте модели, управувајте со меморијата и испраќајте пораки програмски.

ТЕСТИРАНО НА ВИСТИНСКИ ХАРДВЕР

- RedMagic 11 Pro: 21.0 tok/s — Qwen3-8B
- Galaxy S24 Ultra: 13.58 tok/s — Qwen3-4B
- OnePlus Ace 5 Ultra: 11.88 tok/s — Qwen3-8B
- Xiaomi Pad 7 Pro: 11.81 tok/s — Qwen3-4B

ЗОШТО TOKFORGE?

►Ова е апликација со вештачка интелигенција, сè во едно, за корисници кои одбиваат да направат компромис во однос на брзината или безбедноста.
►Нулта аналитика, нулта телеметрија, нулта зависност од облак.
►Бесплатен вештачки чатбот офлајн: Сите заклучоци се случуваат на уредот - режимот на авион работи совршено.
►Без сметки, без регистрација.
►17 курирани модели (0.6B–14B): Изберете од Qwen3, DeepSeek-R1, Llama 3, Phi-4 и други.

Вашиот паметен телефон е попаметен и помоќен отколку што мислите. И со директно поместување на мозокот на вештачката интелигенција на вашиот силикон, ги елиминиравме доцнењето, трошоците и љубопитните очи на облакот.

☑️Преземете ја оваа бесплатна офлајн вештачка интелигенција денес и преземете контрола врз вашите податоци.

Што има ново

Gemma4 omni fixes, supports vision attachments now, RAG Fixes, Samsung + Pixel performance enhancements and game mode enrollment steps, turboquant addition, vulkan fixes, stability and improvement for pixel & exynos & mediatek