TokForge Local AI Offline Chat

Defcon-One

Apie šią programą

PRIVATUS, VIETINIS IR NEPRISIJUNGĘS DIRBTINIS DARBAS. BE REKLAMŲ IR BE PRENUMERATOS

„TokForge“ greitai paleidžia didelius kalbų modelius tiesiai jūsų „Android“ įrenginyje. Jokių debesies išteklių, prenumeratų ir duomenų, kurie palieka jūsų kišenę.

Nesvarbu, ar jums reikia vietinio DI asistento produktyvumui, ar kalbančio DI draugo neprisijungus, „TokForge“ užtikrina našų išvadų darymą be interneto ryšio.

KĄ TAI GALI? TOKFORGE FUNKCIJOS:

Pokalbiai su DI veikėjais

💬 Jūsų neprisijungus veikiančio DI pokalbių patirtis buvo patobulinta. Importuokite „TavernAI V2“ veikėjų korteles (PNG/JSON), tinkinkite asmenybes ir pradėkite tikrus pokalbius su transliacijų generatoriumi. „TokForge“ yra geriausias DI draugas neprisijungus, turintis pasakojimų knygas, alternatyvius pasisveikinimus ir informaciją apie pasaulį. Samprotavimo modeliuose netgi yra sulankstomi mąstymo blokai gilesnei logikai.

Pridėkite dokumentus ir užduokite klausimus

📄 Paverskite „TokForge“ galingu vietiniu dirbtinio intelekto tyrimų įrankiu. Įkelkite PDF, DOCX, EPUB arba tekstinį failą ir užduokite man bet ką neprisijungus prie interneto. Naudodama RAPTOR medžio indeksavimą ir mažus BGE įterpimus, programa akimirksniu randa atitinkamas ištraukas. Tolesni klausimai išlieka greiti dėl delta KV talpyklos išsaugojimo.

Klausykite atsakymų garsiai skaitymo

🔊 Tikras balso asistentas, skirtas „Android“ neprisijungus prie interneto. Jūsų neprisijungus veikiantis asistentas, kuriame yra įrenginyje įdiegta „Kokoro TTS“ su 11 balsų ir dviem kokybės lygiais, gali perskaityti jums atsakymus be delsos ir be duomenų naudojimo.

2 kartus greitesnis su spekuliatyviu dekodavimu

⚡ Patirkite greičiausią LLM našumą mobiliajame telefone. Mažas juodraščio modelis prognozuoja išankstinį nustatymą, o pagrindinis modelis tikrinamas paketiniu būdu. Su tiesioginiu tok/s indikatoriumi ir išmaniuoju serverio maršrutizavimu, tai efektyviausias DI sprendimas įrenginyje.

Trys serveriai, penki GPU keliai

· MNN su OpenCL ir Vulkan GPU: suderinti branduoliai Mali ir Adreno. TQ4 TurboQuant pasiekia 46–57 tok/s mažuose modeliuose.
· GGUF per llama.cpp: ARM i8mm, Vulkan kooperacinė matrica, blykstės dėmesys ir visas kvantavimo diapazonas.
· Nuotolinis API: su OpenAI suderinamas srautinis perdavimas į Ollama, vLLM arba llama.cpp serverius.
· SoC pagrįstas automatinis maršrutizavimas: šis vietinis DI asistentas automatiškai parenka greičiausią kelią jūsų konkrečiam lustų rinkiniui.

PAŽANGIOSIOS DI POKALBIŲ NEPRISIJUNGUS FUNKCIJOS:

• Jūsų DI jus prisimena: nuolatinė atmintis kiekvienam simboliui su foniniu ištraukimu. Žinių grafikai seka objektų ryšius naudodami hibridinę raktinių žodžių ir semantinę paiešką.

• Įrenginio derinimas: „ForgeLab“ atlieka kiekvieno dirbtinio intelekto modelio ir serverio derinio jūsų aparatinėje įrangoje palyginamąją analizę. „AutoForge“ peržiūri visas konfigūracijas, kad pasirinktų greičiausius nustatymus jūsų neprisijungus veikiančiai dirbtinio intelekto programai.

• Kūrėjo API: Daugiau nei 120 galinių taškų, skirtų visiškam vietiniam valdymui per HTTP. Įkelkite modelius, valdykite atmintį ir siųskite pranešimus programiškai.

IŠBANDYTA SU TIKRA APARATŪRA

- RedMagic 11 Pro: 21,0 tok/s — Qwen3-8B
- Galaxy S24 Ultra: 13,58 tok/s — Qwen3-4B
- OnePlus Ace 5 Ultra: 11,88 tok/s — Qwen3-8B
- Xiaomi Pad 7 Pro: 11,81 tok/s — Qwen3-4B

KODĖL TOKFORGE?

►Tai dirbtinio intelekto „viskas viename“ programėlė vartotojams, kurie atsisako kompromisų dėl greičio ar saugumo.
►Nulinė analizė, nulinė telemetrija, nulinė priklausomybė nuo debesies.
►Nemokamas dirbtinio intelekto pokalbių robotas neprisijungus: visos išvados atliekamos įrenginyje – lėktuvo režimas veikia puikiai.
►Jokių paskyrų, jokių registracijų.
►17 kuruotų modelių (0,6 mlrd.–14 mlrd.): rinkitės iš „Qwen3“, „DeepSeek-R1“, „Llama 3“, „Phi-4“ ir kitų.

Jūsų išmanusis telefonas yra išmanesnis ir galingesnis, nei manote. Perkėlę dirbtinio intelekto smegenis tiesiai ant jūsų silicio, pašalinome delsą, išlaidas ir smalsius debesies žvilgsnius.

☑️Atsisiųskite šį nemokamą neprisijungus veikiantį dirbtinio intelekto galingąjį įrenginį jau šiandien ir perimkite savo duomenų kontrolę.

Kas naujo

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback