TokForge Local AI Offline Chat

Defcon-One

Пра гэту праграму

TokForge 1.0 ужо тут. Поўныя мадэлі штучнага інтэлекту працуюць непасрэдна на вашым тэлефоне. Ніякага воблака, ніякага ўліковага запісу, ніякай падпіскі. Вашы размовы ніколі не пакідаюць вашу прыладу.

Чат і ролевая гульня. Стварайце персанажаў або імпартуйце карты з chub.ai і TavernAI (PNG/JSON). Персанажы, кнігі ведаў, альтэрнатыўныя прывітанні і групавыя чаты, дзе кожны персанаж можа гаварыць сваім голасам.

Стварайце выявы на прыладзе. Увядзіце запыт і атрымайце малюнак без падключэння да Інтэрнэту. Працуе на працэсары ўсюды, з паскарэннем GPU на Adreno і паскарэннем NPU на падтрымоўваных прыладах Snapdragon.

Размаўляйце з ім. Kokoro пераўтварае тэкст у маўленне з некалькімі галасамі, а таксама кланаваннем голасу: запішыце каля хвіліны аўдыё, і TokForge будзе гаварыць гэтым голасам. Галасавы ўвод уключаны.

Задавайце пытанні сваім дакументам. Устаўце PDF, DOCX, EPUB, Markdown, CSV або тэкставы файл і задавайце пытанні пра яго. Доўгатэрміновая памяць і графік ведаў адсочваюць важныя моманты ў размовах.

Пошук у інтэрнэце, калі вам гэта трэба. Па змаўчанні выключана. Уключыце, каб мадэль мела актуальную інфармацыю.

Тры рухавікі, настроеныя для вашага чыпа. llama.cpp (GGUF) з шляхамі OpenCL і Vulkan GPU, MNN з OpenCL або падключэнне да вашага ўласнага сервера, сумяшчальнага з OpenAI. Маршрутызацыя з улікам SoC аўтаматычна выбірае самы хуткі шлях.

Знаходзьце і тэстуйце мадэлі. Курыраваны каталог з 52 мадэляў, якія адпавядаюць вашай прыладзе, а таксама ўбудаваны загрузнік з пошукам Hugging Face. AutoForge тэстуе кожную камбінацыю мадэлі і бэкенда на вашым абсталяванні і публікуе вынікі ў публічнай табліцы лідэраў на leaderboard.tokforge.ai, калі вы выбераце.

Рабіце рэзервовае капіраванне і аднаўляйце свае размовы, персанажаў і налады. API распрацоўшчыка з больш чым 270 лакальнымі канчатковымі кропкамі. Нулявая аналітыка, нулявая тэлеметрыя, працуе ў рэжыме палёту. Даступна на 8 мовах.

Супольнасць.
Discord: discord.gg/Acv3CBtfVm
Таблица лідэраў: leaderboard.tokforge.ai
Вэб: tokforge.ai

iPhone і iPad: TokForge даступны ў якасці публічнай бэта-версіі на TestFlight.

Што новага

Version 1.1.1. Crash fixes from live reports: opening a file or folder picker on phones that ship without a picker app no longer closes the app (every picker now shows a clear message instead), and a startup crash on Samsung phones running Android 8 is fixed. No feature changes.