TokForge Local AI Offline Chat

Defcon-One

Kuhusu programu hii

AI YA BINAFSI, YA KIENYEJI NA YA NJE YA MTANDAO. HAINA MATANGAZO BILA USAJILI

TokForge huendesha mifumo mikubwa ya lugha moja kwa moja kwenye kifaa chako cha Android haraka. Hakuna wingu, hakuna usajili, na hakuna data inayotoka mfukoni mwako.

Iwe unahitaji msaidizi wa AI wa ndani kwa tija au rafiki wa AI anayezungumza nje ya mtandao, TokForge hutoa hitimisho la utendaji wa hali ya juu bila muunganisho wa intaneti.

INAWEZA KUFANYA NINI? VIPENGELE VYA TOKFORGE:

Ongea na Wahusika wa AI

💬 Uzoefu wako wa gumzo la AI nje ya mtandao umepata uboreshaji. Ingiza kadi za herufi za TavernAI V2 (PNG/JSON), badilisha haiba, na uwe na mazungumzo halisi na utengenezaji wa utiririshaji. TokForge ndiye rafiki wa AI wa mwisho nje ya mtandao, akiwa na Lorebooks, salamu mbadala, na taarifa za ulimwengu. Mifumo ya hoja hata inajumuisha vizuizi vya kufikiri vinavyoweza kukunjwa kwa mantiki ya kina.

Ambatisha Nyaraka na Uliza Maswali

📄 Badilisha TokForge kuwa zana yenye nguvu ya utafiti wa akili bandia ya ndani. Weka PDF, DOCX, EPUB, au faili ya maandishi na uniulize chochote mtindo wa programu nje ya mtandao. Kwa kutumia uorodheshaji wa mti wa RAPTOR na upachikaji mdogo wa BGE, programu hupata vifungu muhimu mara moja. Maswali ya ufuatiliaji hubaki haraka kutokana na uhifadhi wa akiba ya delta KV.

Sikiliza Majibu Yanayosomwa Kwa Sauti

🔊 Msaidizi wa sauti halisi wa Android nje ya mtandao. Akiwa na Kokoro TTS kwenye kifaa yenye sauti 11 na viwango viwili vya ubora, msaidizi wako wa nje ya mtandao anaweza kusoma majibu kwako bila kuchelewa na matumizi ya data sifuri.

Kasi 2x na Usimbaji wa Kutabirika

⚡ Pata uzoefu wa utendaji wa haraka zaidi wa LLM kwenye simu. Mfano mdogo wa rasimu hutabiri mbele huku mfumo mkuu ukithibitisha kwa kundi. Kwa kiashiria cha tok/s cha moja kwa moja na uelekezaji mahiri wa backend, ni suluhisho bora zaidi la AI kwenye kifaa.

Backend Tatu, Njia Tano za GPU

· MNN yenye OpenCL na Vulkan GPU: Kernels zilizorekebishwa kwa Mali na Adreno. TQ4 TurboQuant inafikia tok/s 46–57 kwenye modeli ndogo.

· GGUF kupitia llama.cpp: ARM i8mm, matrix ya ushirikiano ya Vulkan, umakini wa flash, na safu kamili ya upimaji.

API ya Mbali: Utiririshaji unaoendana na OpenAI kwa seva za Ollama, vLLM, au llama.cpp.
Uelekezaji Kiotomatiki wa SoC-Aware: Msaidizi huyu wa ndani wa ai huchagua kiotomatiki njia ya haraka zaidi kwa chipset yako maalum.

VIPENGELE VYA GUMZO LA AI LA KIPEKEE LA NJE YA MTANDAONI:

• AI Yako ya AI Inakukumbuka: Kumbukumbu inayoendelea kwa kila herufi na uchimbaji wa mandharinyuma. Grafu za maarifa hufuatilia uhusiano wa vitu kwa kutumia neno muhimu mseto na utafutaji wa kisemantiki.

• Rekebisha Kifaa Chako: ForgeLab hupima kila modeli ya ai na mchanganyiko wa nyuma kwenye vifaa vyako. AutoForge hufagia mipangilio yote ili kuchagua mipangilio ya haraka zaidi ya programu yako ya ai ya nje ya mtandao.

• API ya Msanidi Programu: Vipimo 120+ vya udhibiti kamili wa ndani wa HTTP. Pakia modeli, dhibiti kumbukumbu, na utume ujumbe kiprogramu.

IMEJARIBIWA KWENYE VIFAA HALISI

- RedMagic 11 Pro: 21.0 tok/s — Qwen3-8B
- Galaxy S24 Ultra: 13.58 tok/s — Qwen3-4B
- OnePlus Ace 5 Ultra: 11.88 tok/s — Qwen3-8B
- Xiaomi Pad 7 Pro: 11.81 tok/s — Qwen3-4B

KWA NINI TOKFORGE?

►Hii ni AI yote katika programu moja kwa watumiaji wanaokataa kuathiri kasi au usalama.
►Uchanganuzi sifuri, telemetry sifuri, utegemezi sifuri wa wingu.
►Boti ya gumzo ya ai ya bure nje ya mtandao: Uamuzi wote hufanyika kwenye kifaa—hali ya ndege inafanya kazi kikamilifu.
►Hakuna akaunti, hakuna usajili.

►Mifumo 17 iliyochaguliwa (0.6B–14B): Chagua kutoka Qwen3, DeepSeek-R1, Llama 3, Phi-4, na zaidi.

Simu yako mahiri ni nadhifu na yenye nguvu zaidi kuliko unavyofikiria. Na kwa kuhamisha ubongo wa AI moja kwa moja kwenye silikoni yako, tumeondoa ucheleweshaji, gharama, na macho ya kuchungulia ya wingu.

☑️Pakua nguvu hii ya AI ya nje ya mtandao bila malipo leo na udhibiti data yako.

Vipengele vipya

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback