TokForge Local AI Offline Chat

Defcon-One

Thông tin về ứng dụng này

TokForge 1.0 đã ra mắt. Mô hình AI đầy đủ chạy trực tiếp trên điện thoại của bạn. Không cần đám mây, không cần tài khoản, không cần đăng ký. Cuộc trò chuyện của bạn không bao giờ rời khỏi thiết bị.

Trò chuyện và nhập vai. Tạo nhân vật hoặc nhập thẻ từ chub.ai và TavernAI (PNG/JSON). Hồ sơ nhân vật, sách truyền thuyết, lời chào thay thế và các cuộc trò chuyện nhóm, nơi mỗi nhân vật có thể nói bằng giọng nói riêng của mình.

Tạo hình ảnh trên thiết bị. Nhập lệnh và nhận hình ảnh mà không cần kết nối internet. Chạy trên CPU ở mọi nơi, với khả năng tăng tốc GPU trên Adreno và tăng tốc NPU trên các thiết bị Snapdragon được hỗ trợ.

Nói chuyện với nó. Kokoro chuyển văn bản thành giọng nói với nhiều giọng nói, cộng với khả năng sao chép giọng nói: ghi âm khoảng một phút và TokForge sẽ nói bằng giọng đó. Bao gồm tính năng nhập liệu bằng giọng nói.

Hỏi tài liệu của bạn. Kéo thả tệp PDF, DOCX, EPUB, Markdown, CSV hoặc tệp văn bản và đặt câu hỏi về nó. Bộ nhớ dài hạn và biểu đồ tri thức theo dõi những thông tin quan trọng xuyên suốt các cuộc hội thoại.

Tìm kiếm trên web, khi bạn cần. Mặc định là tắt. Bật tính năng này để cung cấp thông tin hiện tại cho mô hình.

Ba công cụ, được tinh chỉnh cho chip của bạn. llama.cpp (GGUF) với đường dẫn GPU OpenCL và Vulkan, MNN với OpenCL, hoặc kết nối với máy chủ tương thích OpenAI của riêng bạn. Định tuyến nhận biết SoC tự động chọn đường dẫn nhanh nhất.

Tìm và đánh giá hiệu năng các mô hình. Một danh mục được tuyển chọn gồm 52 mô hình phù hợp với thiết bị của bạn, cùng với trình tải xuống tích hợp sẵn với tính năng tìm kiếm Hugging Face. AutoForge đánh giá hiệu năng mọi sự kết hợp giữa mô hình và máy chủ phụ trợ trên phần cứng của bạn và đăng lên bảng xếp hạng công khai tại leaderboard.tokforge.ai nếu bạn chọn.

Sao lưu và khôi phục các cuộc hội thoại, nhân vật và cài đặt của bạn. API dành cho nhà phát triển với hơn 270 điểm cuối cục bộ. Không phân tích dữ liệu, không thu thập dữ liệu từ xa, hoạt động ở chế độ máy bay. Có sẵn 8 ngôn ngữ.

Cộng đồng.
Discord: discord.gg/Acv3CBtfVm
Bảng xếp hạng: leaderboard.tokforge.ai
Trang web: tokforge.ai

iPhone và iPad: TokForge hiện có bản beta công khai trên TestFlight.

Tính năng mới

Version 1.2.1. Responsiveness fixes: the app no longer competes with itself for CPU while a model loads, so the screen stays smooth during loading. Image generation gains extra protection against rare freezes on some GPUs. Several background storage checks were moved off the main thread. The typing indicator now uses less power, and replies start slightly faster.