TokForge Local AI Offline Chat

Defcon-One

このアプリについて

TokForgeは、スマートフォン上でAIモデルを直接実行します。クラウドもアカウントもサブスクリプションも不要です。会話データは端末から外部に送信されることはありません。

チャットとロールプレイ。キャラクターを作成したり、chub.aiやTavernAIからカード（PNG/JSON形式）をインポートしたりできます。ペルソナ、伝承、代替挨拶、そして各キャラクターが独自の音声で話せるグループチャットも利用可能です。

端末上で画像を生成。インターネット接続なしで、プロンプトを入力するだけで画像を取得できます。対応Snapdragon端末ではNPUアクセラレーションに対応し、CPUのみで動作します。

話しかけてみましょう。複数の音声に対応したKokoroテキスト読み上げ機能に加え、音声クローン機能も搭載。短い音声サンプルを録音すれば、TokForgeがその音声で話します。音声入力にも対応しています。

ドキュメントに質問。PDF、DOCX、EPUB、またはテキストファイルをドラッグ＆ドロップして、ドキュメントに関する質問をすることができます。長期記憶とナレッジグラフにより、会話全体を通して重要な情報を記憶します。

必要な時にウェブ検索を利用できます。デフォルトでは無効になっています。モデルに最新の情報を提供するには、有効にしてください。

チップに合わせて最適化された3つのエンジン。 llama.cpp (GGUF)、OpenCLおよびVulkan GPUパスを備えたMNN、または独自のOpenAI互換サーバーに接続できます。SoC対応ルーティングにより、最速のパスが自動的に選択されます。

モデルの検索とベンチマーク。デバイスに合わせた厳選されたモデルカタログに加え、Hugging Face検索機能を備えたダウンローダーが内蔵されています。ForgeLabは、お使いのハードウェア上であらゆるモデルとバックエンドの組み合わせをベンチマークし、ご希望に応じてleaderboard.tokforge.aiの公開リーダーボードに結果を投稿します。

すべてのデータのバックアップと復元が可能です。280以上のローカルエンドポイントを備えた開発者APIを提供しています。分析機能、テレメトリは一切使用せず、機内モードでも動作します。

新機能

beta128: voice replies no longer cut off or go silent on low-memory phones (long messages and cloned voices now fall back and finish the whole message), custom system prompts no longer trip reasoning models into a thinking loop, and the app installs about 14 MB smaller with Snapdragon NPU packs downloaded on demand.