TokForge Local AI Offline Chat

Defcon-One

Rakenduse teave

PRIVAATNE, KOHALIK JA VÕRGUSÜHENDUSEGA TEHISINTELLEKT. REKLAAMITA JA ILMA TELLIMUSETA

TokForge käitab suuri keelemudeleid otse teie Android-seadmes kiiresti. Pole vaja pilve, tellimust ega andmeid teie taskust lahkuda.

Olenemata sellest, kas vajate produktiivsuse tagamiseks kohalikku tehisintellektiga abilist või võrguühenduseta vestlevat tehisintellektiga sõpra, pakub TokForge suure jõudlusega järeldusi ilma internetiühenduseta.

MIDA SEE TEHA SAAB? TOKFORGE'I OMADUSED:

Vestle tehisintellektiga tegelastega

💬 Teie võrguühenduseta tehisintellektiga vestluskogemus sai just uuenduse. Importige TavernAI V2 tegelaskaarte (PNG/JSON), kohandage isiksusi ja pidage voogedastusgeneraatoriga päris vestlusi. TokForge on ülim võrguühenduseta tehisintellektiga sõber, mis sisaldab Lorebooke, alternatiivseid tervitusi ja maailmainfot. Arutlusmudelid sisaldavad isegi kokkupandavaid mõtlemisplokke sügava loogika jaoks.

Lisa dokumente ja esita küsimusi

📄 Muuda TokForge võimsaks kohalikuks tehisintellekti uurimistööriistaks. Lisa PDF-, DOCX-, EPUB- või tekstifail ja küsi minult kõike, mida rakenduses võrguühenduseta kasutate. RAPTOR-puu indekseerimise ja BGE-väikeste manustuste abil leiab rakendus koheselt asjakohased lõigud. Täiendavad küsimused püsivad kiired tänu delta KV vahemälu säilitamisele.

Kuula vastuseid ette

🔊 Tõeline häälassistent Androidile võrguühenduseta režiimis. Seadmes oleva Kokoro TTS-iga, millel on 11 häält ja kaks kvaliteeditaset, saab teie võrguühenduseta assistent vastuseid ette lugeda ilma latentsuse ja andmemahu kasutamiseta.

2x kiirem spekulatiivse dekodeerimisega

⚡ Kogege kiireimat LLM-jõudlust mobiilseadmetes. Väike mustandimudel ennustab ette, samal ajal kui põhimudel kontrollib partiidena. Reaalajas tok/s indikaatori ja nutika taustsüsteemi marsruutimisega on see kõige tõhusam saadaolev tehisintellekti lahendus seadmes.

Kolm taustsüsteemi, viis GPU rada

· MNN OpenCL ja Vulkan GPU-ga: Häälestatud tuumad Mali ja Adreno jaoks. TQ4 TurboQuant saavutab väikestel mudelitel kiiruse 46–57 tok/s.
· GGUF llama.cpp kaudu: ARM i8mm, Vulkani koostöömaatriks, välklambi tähelepanu ja täielik kvantimisvahemik.
· Kaug-API: OpenAI-ga ühilduv voogesitus Ollama, vLLM või llama.cpp serveritesse.
· SoC-teadlik automaatne marsruutimine: See tehisintellekti kohalik assistent valib automaatselt teie konkreetse kiibistiku jaoks kiireima tee.

TÄIUSTATUD TEHISINTELLEKTI VÕRGUühenduseta vestluse funktsioonid:

• Teie tehisintellekt mäletab teid: Märgipõhine püsimälu taustal ekstraheerimisega. Teadmusgraafikud jälgivad üksuste seoseid hübriidsete märksõnade ja semantilise otsingu abil.

• Seadme häälestamine: ForgeLab võrdleb iga tehisintellekti mudeli ja taustasüsteemi kombinatsiooni teie riistvaral. AutoForge kontrollib kõiki konfiguratsioone, et valida teie võrguühenduseta tehisintellekti rakenduse jaoks kiireimad sätted.

• Arendaja API: 120+ lõpp-punkti täielikuks lokaalseks kontrolliks HTTP kaudu. Laadige mudeleid, hallake mälu ja saatke sõnumeid programmiliselt.

TESTITUD PÄRIS RIISTVARAL

- RedMagic 11 Pro: 21,0 tok/s — Qwen3-8B
- Galaxy S24 Ultra: 13,58 tok/s — Qwen3-4B
- OnePlus Ace 5 Ultra: 11,88 tok/s — Qwen3-8B
- Xiaomi Pad 7 Pro: 11,81 tok/s — Qwen3-4B

MIKS TOKFORGE?

►See on tehisintellektil põhinev kõik-ühes rakendus kasutajatele, kes keelduvad kiiruse või turvalisuse osas järeleandmisi tegemast.
►Null analüütikat, null telemeetriat, null pilvesõltuvust.
►Tasuta tehisintellektil põhinev vestlusrobot võrguühenduseta: kõik järeldused toimuvad seadmes – lennurežiim töötab ideaalselt.

Pole kontosid ega registreerumist.
►17 kureeritud mudelit (0,6–14 miljardit): vali Qwen3, DeepSeek-R1, Llama 3, Phi-4 ja teiste hulgast.

Sinu nutitelefon on targem ja võimsam, kui sa arvad. Ja tehisintellekti aju otse sinu ränikiibile kolides oleme kõrvaldanud viivituse, kulud ja pilve utelia silmad.

☑️Laadi see tasuta võrguühenduseta tehisintellekti jõujaam alla juba täna ja võta oma andmed kontrolli alla.

Mis on uut?

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback