TokForge Local AI Offline Chat

Defcon-One

Om denne appen

PRIVAT, LOKALT OG OFFLINE AI. ANNONSEFRI UTEN ABONNEMENT

TokForge kjører store språkmodeller direkte på Android-enheten din raskt. Ingen sky, ingen abonnement og ingen data som forlater lommeboken din.

Enten du trenger en lokal AI-assistent for produktivitet eller en snakkende AI-venn offline, leverer TokForge høytytende slutninger uten internettforbindelse.

HVA KAN DET GJØRE? TOKFORGE-FUNKSJONER:

Chat med AI-figurer

💬 Din offline AI-chatopplevelse har nettopp fått en oppgradering. Importer TavernAI V2-figurkort (PNG/JSON), tilpass personligheter og ha ekte samtaler med strømmegenerering. TokForge er den ultimate AI-vennen offline, med Lorebooks, alternative hilsener og verdensinformasjon. Resonneringsmodeller inkluderer til og med sammenleggbare tenkeblokker for dyp logikk.

Legg ved dokumenter og still spørsmål

📄 Gjør TokForge om til et kraftig lokalt AI-forskningsverktøy. Legg inn en PDF-, DOCX-, EPUB- eller tekstfil og spør meg hva som helst i appen offline-stil. Ved hjelp av RAPTOR-treindeksering og BGE-små innebygginger finner appen relevante passasjer umiddelbart. Oppfølgingsspørsmål forblir raske takket være delta KV-cache-bevaring.

Hør svar lest høyt

🔊 En ekte stemmeassistent for Android offline. Med Kokoro TTS på enheten med 11 stemmer og to kvalitetsnivåer, kan din offline-assistent lese svar tilbake til deg uten forsinkelse og null databruk.

2 ganger raskere med spekulativ dekoding

⚡ Opplev den raskeste LLM-ytelsen på mobil. En liten utkastmodell forutsier fremover mens hovedmodellen verifiserer i batch. Med en live tok/s-indikator og smart backend-ruting er dette den mest effektive AI-løsningen på enheten som er tilgjengelig.

Tre backends, fem GPU-baner

· MNN med OpenCL og Vulkan GPU: Justerte kjerner for Mali og Adreno. TQ4 TurboQuant når 46–57 tok/s på små modeller.
· GGUF via llama.cpp: ARM i8mm, Vulkan samarbeidsmatrise, flash-oppmerksomhet og fullt kvantiseringsområde.
· Ekstern API: OpenAI-kompatibel strømming til Ollama-, vLLM- eller llama.cpp-servere.
· SoC-bevisst automatisk ruting: Denne lokale AI-assistenten velger automatisk den raskeste banen for ditt spesifikke brikkesett.

AVANSERTE AI OFFLINE CHAT-FUNKSJONER:

• Din AI husker deg: Per-tegn permanent minne med bakgrunnsutvinning. Kunnskapsgrafer sporer enhetsrelasjoner ved hjelp av hybride nøkkelord og semantisk søk.

• Finjuster enheten din: ForgeLab tester benchmarks for alle AI-modeller og backend-kombinasjoner på maskinvaren din. AutoForge gjennomgår alle konfigurasjoner for å velge de raskeste innstillingene for din offline AI-app.

• Utvikler-API: 120+ endepunkter for full lokal kontroll over HTTP. Last inn modeller, administrer minne og send meldinger programmatisk.

TESTET PÅ EKTE MASKINEVARE

- RedMagic 11 Pro: 21.0 tok/s — Qwen3-8B
- Galaxy S24 Ultra: 13.58 tok/s — Qwen3-4B
- OnePlus Ace 5 Ultra: 11.88 tok/s — Qwen3-8B
- Xiaomi Pad 7 Pro: 11.81 tok/s — Qwen3-4B

HVORFOR TOKFORGE?

►Dette er AI-alt-i-ett-appen for brukere som nekter å gå på akkord med hastighet eller sikkerhet.

►Null analyser, null telemetri, null skyavhengighet.

►Gratis AI-chatbot offline: All slutning skjer på enheten – flymodus fungerer perfekt.

►Ingen kontoer, ingen registrering.
►17 utvalgte modeller (0,6–14 milliarder): Velg mellom Qwen3, DeepSeek-R1, Llama 3, Phi-4 og flere.

Smarttelefonen din er smartere og kraftigere enn du tror. Og ved å flytte hjernen til AI-en direkte over på silisiumet ditt, har vi eliminert forsinkelsen, kostnadene og skyens nysgjerrige øyne.

☑️Last ned dette gratis offline AI-kraftverket i dag og ta kontroll over dataene dine.

Hva er nytt?

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback