TokForge Local AI Offline Chat

Defcon-One

Пра гэту праграму

ПРЫВАТНЫ, ЛАКАЛЬНЫ І АФЛАЙН-ШТУ. БЕЗ РЭКЛАМЫ І ПАДПІСКІ

TokForge хутка запускае вялікія моўныя мадэлі непасрэдна на вашай прыладзе Android. Ніякага воблака, падпіскі і ніякіх дадзеных, якія пакідаюць вашу кішэню.

Незалежна ад таго, ці патрэбен вам лакальны памочнік са штучным інтэлектам для прадукцыйнасці, ці сябар-размоўца са штучным інтэлектам афлайн, TokForge забяспечвае высокапрадукцыйны вывад без падключэння да Інтэрнэту.

ШТО ЁН МОЖА ЗРАБІЦЬ? АСАБЛІВАСЦІ TOKFORGE:

Чат з персанажамі са штучным інтэлектам

💬 Ваш афлайн-чата са штучным інтэлектам толькі што абнавіўся. Імпартуйце карткі персанажаў TavernAI V2 (PNG/JSON), наладжвайце асобы і вядзіце рэальныя размовы з дапамогай струменевай генерацыі. TokForge - гэта найлепшы сябар са штучным інтэлектам афлайн, які ўключае кнігі ведаў, альтэрнатыўныя прывітанні і інфармацыю пра свет. Мадэлі разважанняў нават уключаюць складаныя блокі мыслення для глыбокай логікі.

Далучайце дакументы і задавайце пытанні

📄 Ператварыце TokForge ў магутны лакальны інструмент для даследаванняў на аснове штучнага інтэлекту. Устаўце PDF, DOCX, EPUB або тэкставы файл і пытайцеся ў мяне што заўгодна ў стылі праграмы афлайн. Выкарыстоўваючы індэксаванне дрэва RAPTOR і ўбудаванні з малымі элементамі BGE, праграма імгненна знаходзіць адпаведныя ўрыўкі. Дадатковыя пытанні застаюцца хуткімі дзякуючы захаванню кэша delta KV.

Праслухоўванне адказаў, чытанне ўслых

🔊 Сапраўдны галасавы памочнік для Android афлайн. Дзякуючы ўбудаванай тэхналогіі Kokoro TTS з 11 галасамі і двума ўзроўнямі якасці, ваш афлайн-памочнік можа чытаць вам адказы без затрымкі і з нулявым выкарыстаннем дадзеных.

У 2 разы хутчэй са спекулятыўным дэкадаваннем

⚡ Адчуйце найхутчэйшую прадукцыйнасць LLM на мабільным тэлефоне. Невялікая чарнавіковая мадэль прадказвае наперад, у той час як асноўная мадэль правяраецца пакетна. З індыкатарам жывога часу і разумнай маршрутызацыяй бэкенда, гэта найбольш эфектыўнае рашэнне штучнага інтэлекту на прыладзе.

Тры бэкенды, пяць шляхоў графічнага працэсара

· MNN з OpenCL і графічным працэсарам Vulkan: настроеныя ядры для Mali і Adreno. TQ4 TurboQuant дасягае 46–57 тактаў/с на невялікіх мадэлях.
· GGUF праз llama.cpp: ARM i8mm, кааператыўная матрыца Vulkan, увага ўспышкі і поўны дыяпазон квантавання.
· Аддалены API: сумяшчальная з OpenAI струменевая перадача на серверы Ollama, vLLM або llama.cpp.
· Аўтаматычная маршрутызацыя з улікам SoC: гэты лакальны памочнік штучнага інтэлекту аўтаматычна выбірае самы хуткі шлях для вашага канкрэтнага чыпсэта.

ПАШЫРАНЫЯ ФУНКЦЫІ АФТ-ЧАТА СА ШІ:

• Ваш ШІ памятае вас: Пастаянная памяць для кожнага сімвала з фонавым здабываннем. Графікі ведаў адсочваюць сувязі паміж аб'ектамі з дапамогай гібрыднага пошуку па ключавых словах і семантычнага пошуку.

• Наладзьце сваю прыладу: ForgeLab правярае кожную мадэль штучнага інтэлекту і камбінацыю бэкенда на вашым абсталяванні. AutoForge апрацоўвае ўсе канфігурацыі, каб выбраць найхутчэйшыя налады для вашага аўтаномнага прыкладання штучнага інтэлекту.

• API распрацоўшчыка: Больш за 120 канчатковых кропак для поўнага лакальнага кантролю праз HTTP. Загружайце мадэлі, кіруйце памяццю і адпраўляйце паведамленні праграмна.

ПРАВЕРЫНА НА РЭАЛЬНЫМ АБСТАЛЯВАННІ

- RedMagic 11 Pro: 21,0 ток/с — Qwen3-8B
- Galaxy S24 Ultra: 13,58 ток/с — Qwen3-4B
- OnePlus Ace 5 Ultra: 11,88 ток/с — Qwen3-8B
- Xiaomi Pad 7 Pro: 11,81 ток/с — Qwen3-4B

ЧАМУ TOKFORGE?

►Гэта універсальнае прыкладанне са штучным інтэлектам для карыстальнікаў, якія адмаўляюцца ісці на кампраміс у пытаннях хуткасці або бяспекі.
►Нулявая аналітыка, нулявая тэлеметрыя, нулявая залежнасць ад воблака.
►Бясплатны чат-бот са штучным інтэлектам афлайн: усе высновы адбываюцца на прыладзе — рэжым палёту працуе ідэальна.
►Няма ўліковых запісаў, няма рэгістрацыі.
►17 адмыслова адабраных мадэляў (0,6–14 млрд): выбірайце з Qwen3, DeepSeek-R1, Llama 3, Phi-4 і іншых.

Ваш смартфон разумнейшы і магутнейшы, чым вы думаеце. А перамясціўшы мозг штучнага інтэлекту непасрэдна на ваш крэмніевы працэсар, мы пазбавіліся ад затрымкі, выдаткаў і цікаўных вачэй воблака.

☑️Запампуйце гэты бясплатны аўтаномны магутны штучны інтэлект сёння і вазьміце пад кантроль свае дадзеныя.

Што новага

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback