TokForge Local AI Offline Chat

Defcon-One

Sobre l'aplicació

IA PRIVADA, LOCAL I FORA DE LÍNIA. SENSE ANUNCIS NI SUBSCRIPCIÓ

TokForge executa models de llenguatge grans directament al vostre dispositiu Android ràpidament. Sense núvol, sense subscripció i sense dades que surtin de la vostra butxaca.

Tant si necessiteu un assistent d'IA local per a la productivitat com un amic d'IA parlant fora de línia, TokForge ofereix inferència d'alt rendiment sense connexió a Internet.

QUÈ POT FER? CARACTERÍSTIQUES DE TOKFORGE:

Xateja amb personatges d'IA

💬 La vostra experiència de xat d'IA fora de línia acaba de ser actualitzada. Importeu targetes de personatges TavernAI V2 (PNG/JSON), personalitzeu personalitats i tingueu converses reals amb la generació de streaming. TokForge és l'amic d'IA fora de línia definitiu, amb llibres de tradicions, salutacions alternatives i informació del món. Els models de raonament fins i tot inclouen blocs de pensament plegables per a una lògica profunda.

Adjunta documents i fes preguntes

📄 Converteix TokForge en una potent eina de recerca d'IA local. Afegeix un fitxer PDF, DOCX, EPUB o de text i pregunta'm qualsevol cosa a l'estil de l'aplicació fora de línia. Mitjançant la indexació d'arbre RAPTOR i les incrustacions petites de BGE, l'aplicació troba passatges rellevants a l'instant. Les preguntes de seguiment es mantenen ràpides gràcies a la preservació de la memòria cau delta KV.

Escolta les respostes en veu alta

🔊 Un veritable assistent de veu per a Android fora de línia. Amb Kokoro TTS al dispositiu amb 11 veus i dos nivells de qualitat, el teu assistent fora de línia pot llegir les respostes sense latència i sense ús de dades.

2 vegades més ràpid amb descodificació especulativa

⚡ Experimenta el rendiment LLM més ràpid al mòbil. Un petit model d'esborrany prediu amb antelació mentre el model principal verifica per lots. Amb un indicador de tok/s en directe i un enrutament intel·ligent del backend, és la solució d'IA al dispositiu més eficient disponible.

Tres backends, cinc camins de GPU

· MNN amb GPU OpenCL i Vulkan: nuclis ajustats per a Mali i Adreno. TQ4 TurboQuant arriba als 46–57 tok/s en models petits.
· GGUF via llama.cpp: ARM i8mm, matriu cooperativa Vulkan, atenció flaix i rang de quantificació complet.
· API remota: transmissió compatible amb OpenAI a servidors Ollama, vLLM o llama.cpp.
· Enrutament automàtic amb coneixement de SoC: aquest assistent local d'IA tria automàticament el camí més ràpid per al vostre chipset específic.

FUNCCIONS AVANÇADES DE XAT FORA DE LÍNIA D'IA:

• La teva IA et recorda: Memòria persistent per caràcter amb extracció en segon pla. Els gràfics de coneixement rastregen les relacions entre entitats mitjançant paraules clau híbrides i cerca semàntica.

• Ajusta el teu dispositiu: ForgeLab fa una anàlisi comparativa de tots els models d'IA i combinacions de backend del teu maquinari. AutoForge revisa totes les configuracions per triar els paràmetres més ràpids per a la teva aplicació d'IA fora de línia.

• API per a desenvolupadors: Més de 120 punts finals per a un control local complet sobre HTTP. Carrega models, gestiona la memòria i envia missatges mitjançant programació.

PROVAT AMB MAQUINARI REAL

- RedMagic 11 Pro: 21.0 tok/s — Qwen3-8B
- Galaxy S24 Ultra: 13.58 tok/s — Qwen3-4B
- OnePlus Ace 5 Ultra: 11.88 tok/s — Qwen3-8B
- Xiaomi Pad 7 Pro: 11.81 tok/s — Qwen3-4B

PER QUÈ TOKFORGE?

►Aquesta és l'aplicació d'IA tot en un per a usuaris que es neguen a comprometre la velocitat o la seguretat.
►Zero anàlisis, zero telemetria, zero dependència del núvol.
►Chatbot d'IA gratuït fora de línia: Tota la inferència es produeix al dispositiu; el mode avió funciona perfectament.
►Sense comptes, sense registre. ►17 models seleccionats (0.6B–14B): Trieu entre Qwen3, DeepSeek-R1, Llama 3, Phi-4 i més.

El vostre telèfon intel·ligent és més intel·ligent i potent del que penseu. I en traslladar el cervell de la IA directament al vostre silici, hem eliminat el retard, els costos i les mirades indiscretes del núvol.

☑️Baixeu aquesta potència d'IA fora de línia gratuïta avui mateix i preneu el control de les vostres dades.

Novetats

Gemma4 omni fixes, supports vision attachments now, RAG Fixes, Samsung + Pixel performance enhancements and game mode enrollment steps, turboquant addition, vulkan fixes, stability and improvement for pixel & exynos & mediatek