TokForge Local AI Offline Chat

Defcon-One

Om denne app

PRIVAT, LOKALT & OFFLINE AI. UDEN REKLAMER UDEN ABONNEMENT

TokForge kører store sprogmodeller direkte på din Android-enhed hurtigt. Ingen cloud, intet abonnement og ingen data, der forlader din lomme.

Uanset om du har brug for en lokal AI-assistent til produktivitet eller en talende AI-ven offline, leverer TokForge højtydende inferens uden en internetforbindelse.

HVAD KAN DET? TOKFORGE-FUNKTIONER:

Chat med AI-figurer

💬 Din offline AI-chatoplevelse har lige fået en opgradering. Importer TavernAI V2-figurkort (PNG/JSON), tilpas personligheder og hav rigtige samtaler med streaminggenerering. TokForge er den ultimative AI-ven offline med Lorebooks, alternative hilsner og verdensinformation. Ræsonnementmodeller inkluderer endda sammenklappelige tænkeblokke til dyb logik.

Vedhæft dokumenter og stil spørgsmål

📄 Forvandl TokForge til et effektivt lokalt AI-forskningsværktøj. Indsæt en PDF-, DOCX-, EPUB- eller tekstfil, og spørg mig om hvad som helst i offline-appstil. Ved hjælp af RAPTOR-træindeksering og BGE-små indlejringer finder appen relevante passager med det samme. Opfølgende spørgsmål forbliver hurtige takket være delta KV-cachebevarelse.

Hør svar læst højt

🔊 En ægte stemmeassistent til Android offline. Med Kokoro TTS på enheden med 11 stemmer og to kvalitetsniveauer kan din offlineassistent læse svar tilbage til dig uden latenstid og uden dataforbrug.

2x hurtigere med spekulativ afkodning

⚡ Oplev den hurtigste LLM-ydeevne på mobilen. En lille kladdemodel forudsiger, mens hovedmodellen verificerer i batch. Med en live tok/s-indikator og smart backend-routing er det den mest effektive AI-løsning på enheden, der er tilgængelig.

Tre backends, fem GPU-stier

· MNN med OpenCL og Vulkan GPU: Tunede kerner til Mali og Adreno. TQ4 TurboQuant når 46-57 tok/s på små modeller.
· GGUF via llama.cpp: ARM i8mm, Vulkan kooperativ matrix, flash-opmærksomhed og fuldt kvantiseringsområde.
· Fjern-API: OpenAI-kompatibel streaming til Ollama-, vLLM- eller llama.cpp-servere.
· SoC-bevidst automatisk routing: Denne lokale AI-assistent vælger automatisk den hurtigste sti til dit specifikke chipset.

AVANCEREDE AI OFFLINE CHAT-FUNKTIONER:

• Din AI husker dig: Vedvarende hukommelse pr. tegn med baggrundsudtrækning. Vidensgrafer sporer entitetsrelationer ved hjælp af hybride søgeord og semantisk søgning.

• Juster din enhed: ForgeLab benchmarker alle AI-modeller og backend-kombinationer på din hardware. AutoForge scanner alle konfigurationer for at vælge de hurtigste indstillinger til din offline AI-app.

• Udvikler-API: 120+ slutpunkter for fuld lokal kontrol over HTTP. Indlæs modeller, administrer hukommelse og send beskeder programmatisk.

TESTET PÅ ÆGTE HARDWARE

- RedMagic 11 Pro: 21.0 tok/s — Qwen3-8B
- Galaxy S24 Ultra: 13.58 tok/s — Qwen3-4B
- OnePlus Ace 5 Ultra: 11.88 tok/s — Qwen3-8B
- Xiaomi Pad 7 Pro: 11.81 tok/s — Qwen3-4B

HVORFOR TOKFORGE?

►Dette er AI alt-i-én-appen til brugere, der nægter at gå på kompromis med hastighed eller sikkerhed.

►Ingen analyser, nul telemetri, nul cloudafhængighed.

►Gratis AI-chatbot offline: Al inferens sker på enheden - flytilstand fungerer perfekt.

►Ingen konti, ingen tilmelding.
►17 udvalgte modeller (0,6B–14B): Vælg mellem Qwen3, DeepSeek-R1, Llama 3, Phi-4 og flere.

Din smartphone er smartere og mere kraftfuld, end du tror. Og ved at flytte hjernen fra AI'en direkte over på din enhed har vi elimineret forsinkelsen, omkostningerne og skyens nysgerrige blikke.

☑️Download dette gratis offline AI-kraftværk i dag, og tag kontrol over dine data.

Nyheder

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback