TokForge Local AI Offline Chat

Defcon-One

O ovoj aplikaciji

PRIVATNA, LOKALNA I IZVAN LANUTA UMJETNA INTELIGENCIJA. BEZ OGLASA I PRETPLATE

TokForge brzo pokreće velike jezične modele izravno na vašem Android uređaju. Nema oblaka, nema pretplate i nema podataka koji napuštaju vaš džep.

Bez obzira trebate li lokalni UM asistent za produktivnost ili UM prijatelja koji razgovara izvan mreže, TokForge pruža visokoučinkovito zaključivanje bez internetske veze.

ŠTO MOŽE UČINITI? ZNAČAJKE TOKFORGE-a:

Čavrljajte s UM likovima

💬 Vaše izvanmrežno UM iskustvo čavrljanja upravo je dobilo nadogradnju. Uvezite TavernAI V2 kartice likova (PNG/JSON), prilagodite osobnosti i vodite stvarne razgovore uz generiranje streaminga. TokForge je ultimativni UM prijatelj izvan mreže, s knjigama znanja, alternativnim pozdravima i informacijama o svijetu. Modeli zaključivanja čak uključuju sklopive blokove razmišljanja za duboku logiku.

Priložite dokumente i postavite pitanja

📄 Pretvorite TokForge u moćan lokalni alat za istraživanje umjetne inteligencije. Ubacite PDF, DOCX, EPUB ili tekstualnu datoteku i pitajte me bilo što u stilu aplikacije izvan mreže. Koristeći RAPTOR indeksiranje stabla i BGE-small ugrađivanja, aplikacija trenutno pronalazi relevantne odlomke. Dodatna pitanja ostaju brza zahvaljujući očuvanju delta KV predmemorije.

Čujte odgovore, čitajte naglas

🔊 Pravi glasovni asistent za Android izvan mreže. S Kokoro TTS-om na uređaju s 11 glasova i dvije razine kvalitete, vaš izvanmrežni asistent može vam čitati odgovore bez latencije i bez korištenja podataka.

2x brže sa spekulativnim dekodiranjem

⚡ Doživite najbrže LLM performanse na mobilnim uređajima. Mali nacrt modela predviđa unaprijed dok se glavni model provjerava u serijama. S indikatorom toka u stvarnom vremenu i pametnim usmjeravanjem na pozadini, to je najučinkovitije dostupno AI rješenje na uređaju.

Tri pozadine, pet GPU putanja

· MNN s OpenCL-om i Vulkan GPU-om: Podešene jezgre za Mali i Adreno. TQ4 TurboQuant postiže 46–57 toka u sekundi na malim modelima.
· GGUF putem llama.cpp: ARM i8mm, Vulkan kooperativna matrica, bljeskalica pažnje i puni raspon kvantizacije.
· Udaljeni API: Streaming kompatibilan s OpenAI-jem na Ollama, vLLM ili llama.cpp poslužitelje.
· SoC-svjesno automatsko usmjeravanje: Ovaj lokalni AI asistent automatski odabire najbrži put za vaš specifični čipset.

NAPREDNE ZNAČAJKE AI OFFLINE CHATA:

• Vaš AI vas pamti: Trajna memorija po znaku s ekstrakcijom u pozadini. Grafovi znanja prate odnose entiteta pomoću hibridnog pretraživanja ključnih riječi i semantičkog pretraživanja.

• Podesite svoj uređaj: ForgeLab testira svaki model umjetne inteligencije i kombinaciju pozadinskog sustava na vašem hardveru. AutoForge pregledava sve konfiguracije kako bi odabrao najbrže postavke za vašu offline AI aplikaciju.

• API za razvojne programere: Više od 120 krajnjih točaka za potpunu lokalnu kontrolu preko HTTP-a. Učitajte modele, upravljajte memorijom i šaljite poruke programski.

TESTIRANO NA PRAVOM HARDVERU

- RedMagic 11 Pro: 21,0 toka/s — Qwen3-8B
- Galaxy S24 Ultra: 13,58 toka/s — Qwen3-4B
- OnePlus Ace 5 Ultra: 11,88 toka/s — Qwen3-8B
- Xiaomi Pad 7 Pro: 11,81 toka/s — Qwen3-4B

ZAŠTO TOKFORGE?

►Ovo je AI sve-u-jednom aplikacija za korisnike koji odbijaju kompromise u pogledu brzine ili sigurnosti.
►Nula analitika, nula telemetrije, nula ovisnosti o oblaku. ►Besplatni AI chatbot izvan mreže: Sva zaključivanja događaju se na uređaju - način rada u zrakoplovu radi savršeno.
►Nema računa, nema registracije.
►17 odabranih modela (0,6 milijardi – 14 milijardi): Birajte između Qwen3, DeepSeek-R1, Llama 3, Phi-4 i drugih.

Vaš pametni telefon je pametniji i moćniji nego što mislite. Premještanjem mozga umjetne inteligencije izravno na vaš silicij, eliminirali smo kašnjenje, troškove i znatiželjne oči oblaka.

☑️Preuzmite ovaj besplatni offline AI alat već danas i preuzmite kontrolu nad svojim podacima.

Što je novo

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback