TokForge Local AI Offline Chat

Defcon-One

このアプリについて

プライベート、ローカル、オフラインAI。広告なし、サブスクリプション不要

TokForgeは、Androidデバイス上で大規模な言語モデルを高速に実行します。クラウド不要、サブスクリプション不要、データ通信も不要です。

生産性向上のためのローカルAIアシスタントが必要な場合でも、オフラインで会話できるAIフレンドが必要な場合でも、TokForgeはインターネット接続なしで高性能な推論を提供します。

TokForgeの機能：

AIキャラクターとのチャット

💬 オフラインAIチャット体験がさらに進化しました。TavernAI V2のキャラクターカード（PNG/JSON形式）をインポートし、個性をカスタマイズして、ストリーミング生成によるリアルな会話を楽しめます。TokForgeは、ロアブック、代替挨拶、世界情報などを備えた究極のオフラインAIフレンドです。推論モデルには、高度な論理的思考のための折りたたみ可能な思考ブロックも含まれています。

ドキュメントを添付して質問

📄 TokForgeを強力なローカルAIリサーチツールに変身させましょう。PDF、DOCX、EPUB、またはテキストファイルをドロップインするだけで、オフラインアプリのように何でも質問できます。RAPTORツリーインデックスとBGE-small埋め込みにより、アプリは関連する箇所を瞬時に検索します。デルタKVキャッシュの保持により、追加の質問も高速に処理されます。

回答を読み上げます

🔊 Android向けオフライン音声アシスタント。11種類の音声と2段階の品質レベルを備えたオンデバイスKokoro TTSを搭載し、オフラインアシスタントは遅延やデータ使用量ゼロで回答を読み上げます。

スペキュラティブデコードで2倍高速

⚡ モバイルで最速のLLMパフォーマンスを体験してください。小さなドラフトモデルが予測を行い、メインモデルがバッチで検証を行います。リアルタイムのtok/sインジケーターとスマートなバックエンドルーティングを備えた、最も効率的なオンデバイスAIソリューションです。

3つのバックエンド、5つのGPUパス

・OpenCLおよびVulkan GPU対応MNN：MaliとAdreno向けに最適化されたカーネル。TQ4 TurboQuantは、小規模モデルで46～57tok/sの速度を実現します。

・llama.cpp経由のGGUF：ARM i8mm、Vulkan協調マトリックス、フラッシュアテンション、フル量子化範囲に対応。

・リモートAPI：OpenAI互換のストリーミングをOllama、vLLM、またはllama.cppサーバーへ送信。

・SoC対応自動ルーティング：このAIローカルアシスタントは、お使いのチップセットに最適なパスを自動的に選択します。

高度なAIオフラインチャット機能

• AIがあなたを記憶します バックグラウンド抽出による文字単位の永続メモリ。知識グラフは、ハイブリッドキーワード検索とセマンティック検索を使用してエンティティ間の関係を追跡します。

• デバイスを最適化 ForgeLabは、お使いのハードウェア上で、あらゆるAIモデルとバックエンドの組み合わせをベンチマークします。AutoForgeはすべての設定をスキャンし、オフラインAIアプリに最適な設定を選択します。

• 開発者向けAPI HTTP経由で完全なローカル制御を実現する120以上のエンドポイント。モデルのロード、メモリ管理、メッセージの送信をプログラムで行えます。

実機でテスト済み

- RedMagic 11 Pro: 21.0 tok/s — Qwen3-8B
- Galaxy S24 Ultra: 13.58 tok/s — Qwen3-4B
- OnePlus Ace 5 Ultra: 11.88 tok/s — Qwen3-8B
- Xiaomi Pad 7 Pro: 11.81 tok/s — Qwen3-4B

TOKFORGEを選ぶ理由

►スピードとセキュリティに妥協したくないユーザーのための、オールインワンAIアプリです。

►アナリティクス、テレメトリ、クラウドへの依存は一切ありません。

►オフラインで使える無料AIチャットボット：推論処理はすべて端末上で行われるため、機内モードでも問題なく動作します。

►アカウント登録不要。

►厳選された17種類のモデル（0.6B～14B）：Qwen3、DeepSeek-R1、Llama 3、Phi-4などからお選びいただけます。

あなたのスマートフォンは、想像以上にスマートでパワフルです。AIの頭脳をスマートフォンのシリコンチップに直接搭載することで、クラウドによる遅延、コスト、そしてプライバシー侵害といった問題を解消しました。

☑️今すぐこの無料のオフラインAIアプリをダウンロードして、データ管理をマスターしましょう。

新機能

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback