TokForge Local AI Offline Chat

Defcon-One

Perihal apl ini

AI PERSENDIRIAN, TEMPATAN & LUAR TALIAN. BEBAS IKLAN TANPA LANGGANAN

TokForge menjalankan model bahasa yang besar terus pada peranti Android anda dengan pantas. Tiada awan, tiada langganan dan tiada data yang meninggalkan poket anda.

Sama ada anda memerlukan pembantu AI tempatan untuk produktiviti atau rakan AI yang bercakap di luar talian, TokForge memberikan inferens berprestasi tinggi tanpa sambungan internet.

APAKAH YANG BOLEH DILAKUKANNYA? CIRI-CIRI TOKFORGE:

Bersembang dengan Watak AI

💬 Pengalaman sembang AI luar talian anda baru sahaja dinaik taraf. Import kad watak TavernAI V2 (PNG/JSON), sesuaikan personaliti dan lakukan perbualan sebenar dengan penjanaan penstriman. TokForge ialah rakan AI luar talian yang terbaik, menampilkan Lorebook, ucapan alternatif dan maklumat dunia. Model penaakulan juga termasuk blok pemikiran yang boleh dilipat untuk logik yang mendalam.

Lampirkan Dokumen & Tanya Soalan

📄 Tukarkan TokForge menjadi alat penyelidikan AI tempatan yang berkuasa. Masukkan fail PDF, DOCX, EPUB atau teks dan tanya saya apa sahaja aplikasi dalam gaya luar talian. Menggunakan pengindeksan pokok RAPTOR dan penyematan kecil BGE, aplikasi ini menemui petikan yang berkaitan serta-merta. Soalan susulan kekal pantas terima kasih kepada pemeliharaan cache delta KV.

Dengarkan Respons Dibaca Dengan Kuat

🔊 Pembantu suara sebenar untuk Android luar talian. Menampilkan Kokoro TTS pada peranti dengan 11 suara dan dua peringkat kualiti, pembantu luar talian anda boleh membaca respons kembali kepada anda tanpa kependaman dan penggunaan data sifar.

2x Lebih Pantas dengan Penyahkodan Spekulatif

⚡ Alami prestasi LLM terpantas pada mudah alih. Model draf kecil meramalkan lebih awal manakala model utama mengesahkan secara kelompok. Dengan penunjuk tok/s langsung dan penghalaan hujung belakang pintar, ia merupakan penyelesaian AI pada peranti yang paling cekap.

Tiga Hujung Belakang, Lima Laluan GPU

· MNN dengan GPU OpenCL dan Vulkan: Kernel yang ditala untuk Mali dan Adreno. TQ4 TurboQuant mencapai 46–57 tok/s pada model kecil.
· GGUF melalui llama.cpp: ARM i8mm, matriks koperasi Vulkan, perhatian kilat dan julat pengkuantuman penuh.
· API Jauh: Penstriman serasi OpenAI ke pelayan Ollama, vLLM atau llama.cpp.
· Penghalaan Automatik SoC-Aware: Pembantu tempatan ai ini secara automatik memilih laluan terpantas untuk cipset khusus anda.

CIRI-CIRI SEMBANG LUAR TALIAN AI LANJUTAN:

• AI Anda Mengingati Anda: Memori berterusan setiap aksara dengan pengekstrakan latar belakang. Graf pengetahuan menjejaki perhubungan entiti menggunakan kata kunci hibrid dan carian semantik.

• Laraskan Peranti Anda: ForgeLab menanda aras setiap model ai dan kombo bahagian belakang pada perkakasan anda. AutoForge menyapu semua konfigurasi untuk memilih tetapan terpantas untuk aplikasi ai luar talian anda.

• API Pembangun: 120+ titik akhir untuk kawalan setempat penuh ke atas HTTP. Muatkan model, uruskan memori dan hantar mesej secara pengaturcaraan.

DIUJI PADA PERKAKASAN SEBENAR

- RedMagic 11 Pro: 21.0 tok/s — Qwen3-8B
- Galaxy S24 Ultra: 13.58 tok/s — Qwen3-4B
- OnePlus Ace 5 Ultra: 11.88 tok/s — Qwen3-8B
- Xiaomi Pad 7 Pro: 11.81 tok/s — Qwen3-4B

KENAPA TOKFORGE?

►Ini ialah aplikasi AI semua-dalam-satu untuk pengguna yang enggan berkompromi dengan kelajuan atau keselamatan.
►Sifar analitik, sifar telemetri, sifar kebergantungan awan.
►Bot sembang ai percuma di luar talian: Semua inferens berlaku pada peranti—mod pesawat berfungsi dengan sempurna.
►Tiada akaun, tiada pendaftaran.
►17 model pilihan (0.6B–14B): Pilih daripada Qwen3, DeepSeek-R1, Llama 3, Phi-4 dan banyak lagi.

Telefon pintar anda lebih pintar dan lebih berkuasa daripada yang anda sangkakan. Dan dengan menggerakkan otak AI terus ke silikon anda, kami telah menghapuskan kelewatan, kos dan pandangan awan yang mengintip.

☑️Muat turun kuasa AI luar talian percuma ini hari ini dan kawal data anda.

Perkara baharu

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback