TokForge Local AI Offline Chat

Defcon-One

Informace o aplikaci

SOUKROMÁ, LOKÁLNÍ A OFFLINE AI. BEZ REKLAM A PŘEDPLATNÉHO

TokForge rychle spouští rozsáhlé jazykové modely přímo na vašem zařízení Android. Žádný cloud, žádné předplatné a žádná data neopouštějící vaši kapsu.

Ať už potřebujete lokálního asistenta s AI pro produktivitu nebo mluvícího přítele s AI offline, TokForge poskytuje vysoce výkonnou inferenci bez připojení k internetu.

CO MŮŽE DĚLAT? FUNKCE TOKFORGE:

Chat s postavami s AI

💬 Váš offline chat s AI se právě dočkal vylepšení. Importujte karty postav TavernAI V2 (PNG/JSON), přizpůsobte si osobnosti a veďte skutečné konverzace pomocí streamovacího generování. TokForge je dokonalý offline přítel s AI, který obsahuje knihy znalostí, alternativní pozdravy a informace o světě. Modely uvažování dokonce zahrnují skládací myšlenkové bloky pro hlubokou logiku.

Přikládejte dokumenty a klást otázky

📄 Proměňte TokForge ve výkonný nástroj pro lokální výzkum s využitím umělé inteligence. Vložte PDF, DOCX, EPUB nebo textový soubor a zeptejte se mě na cokoli v offline stylu aplikace. Díky indexování stromů RAPTOR a vkládání BGE-small aplikace okamžitě najde relevantní pasáže. Doplňující otázky zůstávají rychlé díky uchování mezipaměti delta KV.

Poslechněte si odpovědi a čtete nahlas

🔊 Skutečný hlasový asistent pro Android offline. Díky integrovanému systému Kokoro TTS s 11 hlasy a dvěma úrovněmi kvality vám váš offline asistent může číst odpovědi bez latence a s nulovým využitím dat.

2x rychlejší se spekulativním dekódováním

⚡ Zažijte nejrychlejší výkon LLM na mobilních zařízeních. Malý koncept modelu předpovídá dopředu, zatímco hlavní model se ověřuje dávkově. Díky indikátoru živého toku dat a inteligentnímu směrování na backendu je to nejefektivnější dostupné řešení umělé inteligence na zařízení.

Tři backendy, pět cest GPU

· MNN s OpenCL a Vulkan GPU: Vyladěná jádra pro Mali a Adreno. TQ4 TurboQuant dosahuje 46–57 toku dat/s na malých modelech.
· GGUF přes llama.cpp: ARM i8mm, kooperativní matice Vulkan, blesková pozornost a plný rozsah kvantizace.
· Vzdálené API: Streamování kompatibilní s OpenAI na servery Ollama, vLLM nebo llama.cpp.
· Automatické směrování s ohledem na SoC: Tento lokální asistent umělé inteligence automaticky vybere nejrychlejší cestu pro váš konkrétní čipset.

POKROČILÉ FUNKCE OFFLINE CHATU S AI:

• Vaše AI si vás pamatuje: Trvalá paměť pro jednotlivé znaky s extrakcí na pozadí. Grafy znalostí sledují vztahy mezi entitami pomocí hybridního vyhledávání klíčových slov a sémantického vyhledávání.

• Vylaďte si zařízení: ForgeLab porovnává každý model umělé inteligence a kombinaci backendu na vašem hardwaru. AutoForge prochází všechny konfigurace a vybírá nejrychlejší nastavení pro vaši offline aplikaci umělé inteligence.

• API pro vývojáře: Více než 120 koncových bodů pro plnou lokální kontrolu přes HTTP. Načítání modelů, správa paměti a odesílání zpráv programově.

TESTOVÁNO NA REÁLNÉM HARDWARU

- RedMagic 11 Pro: 21,0 tok/s — Qwen3-8B
- Galaxy S24 Ultra: 13,58 tok/s — Qwen3-4B
- OnePlus Ace 5 Ultra: 11,88 tok/s — Qwen3-8B
- Xiaomi Pad 7 Pro: 11,81 tok/s — Qwen3-4B

PROČ TOKFORGE?

►Toto je aplikace s umělou inteligencí pro uživatele, kteří odmítají dělat kompromisy v rychlosti nebo zabezpečení.
►Žádná analytika, nulová telemetrie, nulová závislost na cloudu. ►Bezplatný offline chatbot s umělou inteligencí: Veškeré inference probíhají na zařízení – režim letadlo funguje perfektně.
►Žádné účty, žádná registrace.
►17 vybraných modelů (0,6 miliardy–14 miliard): Vyberte si z Qwen3, DeepSeek-R1, Llama 3, Phi-4 a dalších.

Váš chytrý telefon je chytřejší a výkonnější, než si myslíte. A přesunutím mozku umělé inteligence přímo na váš křemík jsme eliminovali zpoždění, náklady a zvědavé pohledy cloudu.

☑️Stáhněte si tento bezplatný offline AI engine ještě dnes a převezměte kontrolu nad svými daty.

Novinky

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback