TokForge Local AI Offline Chat

Defcon-One

Пра гэту праграму

TokForge запускае поўныя мадэлі штучнага інтэлекту непасрэдна на вашым тэлефоне. Ніякага воблака, ніякага ўліковага запісу, ніякай падпіскі. Вашы размовы ніколі не пакідаюць вашу прыладу.

Чат і ролевая гульня. Стварайце персанажаў або імпартуйце карты з chub.ai і TavernAI (PNG/JSON). Персанажы, кнігі ведаў, альтэрнатыўныя прывітанні і групавыя чаты, дзе кожны персанаж можа гаварыць сваім голасам.

Генеруйце выявы на прыладзе. Увядзіце запыт і атрымайце малюнак без падключэння да Інтэрнэту. Працуе на працэсары ўсюды, з паскарэннем NPU на падтрымоўваных прыладах Snapdragon.

Размаўляйце з ім. Kokoro пераўтварэнне тэксту ў маўленне з некалькімі галасамі, а таксама кланаванне голасу: запішыце кароткі ўзор, і TokForge будзе гаварыць гэтым голасам. Галасавы ўвод уключаны.

Задавайце пытанні сваім дакументам. Устаўце PDF, DOCX, EPUB або тэкставы файл і задавайце пытанні пра яго. Доўгачасовая памяць і граф ведаў адсочваюць тое, што важна ў размовах.

Пошук у інтэрнэце, калі вам гэта трэба. Па змаўчанні выключана. Уключыце, каб атрымаць актуальную інфармацыю пра мадэль.

Тры рухавікі, настроеныя для вашага чыпа. llama.cpp (GGUF), MNN з OpenCL і шляхамі графічнага працэсара Vulkan або падключэнне да вашага ўласнага сервера, сумяшчальнага з OpenAI. Маршрутызацыя з улікам SoC аўтаматычна выбірае самы хуткі шлях.

Знаходзьце і праверце мадэлі. Курыраваны каталог мадэляў, які адпавядае вашай прыладзе, а таксама ўбудаваны загрузнік з пошукам Hugging Face. ForgeLab правервае кожную камбінацыю мадэляў і сервернай часткі на вашым абсталяванні і публікуе вынікі ў публічнай табліцы лідэраў на leaderboard.tokforge.ai, калі вы гэтага захочаце.

Рэзервовае капіраванне і аднаўленне ўсяго. API распрацоўшчыка з больш чым 280 лакальнымі канчатковымі кропкамі. Нулявая аналітыка, нулявая тэлеметрыя, працуе ў рэжыме палёту.

Што новага

Fixes an issue where long answers from some models could be partially hidden as collapsed thinking. Stability improvements.