TokForge Local AI Offline Chat

Defcon-One

ಈ ಆ್ಯಪ್ ಕುರಿತು

ಖಾಸಗಿ, ಸ್ಥಳೀಯ ಮತ್ತು ಆಫ್‌ಲೈನ್ AI. ಯಾವುದೇ ಚಂದಾದಾರಿಕೆ ಇಲ್ಲದೆ ಜಾಹೀರಾತು-ಮುಕ್ತ

TokForge ನಿಮ್ಮ Android ಸಾಧನದಲ್ಲಿ ನೇರವಾಗಿ ದೊಡ್ಡ ಭಾಷಾ ಮಾದರಿಗಳನ್ನು ವೇಗವಾಗಿ ರನ್ ಮಾಡುತ್ತದೆ. ಕ್ಲೌಡ್ ಇಲ್ಲ, ಯಾವುದೇ ಚಂದಾದಾರಿಕೆ ಇಲ್ಲ ಮತ್ತು ನಿಮ್ಮ ಜೇಬಿನಿಂದ ಯಾವುದೇ ಡೇಟಾ ಹೊರಹೋಗುವುದಿಲ್ಲ.

ಉತ್ಪಾದಕತೆಗಾಗಿ ನಿಮಗೆ ಸ್ಥಳೀಯ AI ಸಹಾಯಕ ಬೇಕೇ ಅಥವಾ ಆಫ್‌ಲೈನ್‌ನಲ್ಲಿ ಮಾತನಾಡುವ AI ಸ್ನೇಹಿತ ಬೇಕೇ, TokForge ಇಂಟರ್ನೆಟ್ ಸಂಪರ್ಕವಿಲ್ಲದೆಯೇ ಹೆಚ್ಚಿನ ಕಾರ್ಯಕ್ಷಮತೆಯ ನಿರ್ಣಯವನ್ನು ನೀಡುತ್ತದೆ.

ಇದು ಏನು ಮಾಡಬಹುದು? TOKFORGE ವೈಶಿಷ್ಟ್ಯಗಳು:

AI ಅಕ್ಷರಗಳೊಂದಿಗೆ ಚಾಟ್ ಮಾಡಿ

💬 ನಿಮ್ಮ ಆಫ್‌ಲೈನ್ AI ಚಾಟ್ ಅನುಭವವು ಇದೀಗ ಅಪ್‌ಗ್ರೇಡ್ ಅನ್ನು ಪಡೆದುಕೊಂಡಿದೆ. TavernAI V2 ಅಕ್ಷರ ಕಾರ್ಡ್‌ಗಳನ್ನು (PNG/JSON) ಆಮದು ಮಾಡಿಕೊಳ್ಳಿ, ವ್ಯಕ್ತಿತ್ವಗಳನ್ನು ಕಸ್ಟಮೈಸ್ ಮಾಡಿ ಮತ್ತು ಸ್ಟ್ರೀಮಿಂಗ್ ಉತ್ಪಾದನೆಯೊಂದಿಗೆ ನೈಜ ಸಂಭಾಷಣೆಗಳನ್ನು ಮಾಡಿ. TokForge ಅಂತಿಮ AI ಸ್ನೇಹಿತ ಆಫ್‌ಲೈನ್ ಆಗಿದೆ, ಇದು Lorebooks, ಪರ್ಯಾಯ ಶುಭಾಶಯಗಳು ಮತ್ತು ವಿಶ್ವ ಮಾಹಿತಿಯನ್ನು ಒಳಗೊಂಡಿದೆ. ತಾರ್ಕಿಕ ಮಾದರಿಗಳು ಆಳವಾದ ತರ್ಕಕ್ಕಾಗಿ ಬಾಗಿಕೊಳ್ಳಬಹುದಾದ ಚಿಂತನಾ ಬ್ಲಾಕ್‌ಗಳನ್ನು ಸಹ ಒಳಗೊಂಡಿವೆ.

ಡಾಕ್ಯುಮೆಂಟ್‌ಗಳನ್ನು ಲಗತ್ತಿಸಿ & ಪ್ರಶ್ನೆಗಳನ್ನು ಕೇಳಿ

📄 TokForge ಅನ್ನು ಪ್ರಬಲ ಸ್ಥಳೀಯ AI ಸಂಶೋಧನಾ ಸಾಧನವಾಗಿ ಪರಿವರ್ತಿಸಿ. PDF, DOCX, EPUB, ಅಥವಾ ಪಠ್ಯ ಫೈಲ್ ಅನ್ನು ಹಾಕಿ ಮತ್ತು ಯಾವುದೇ ಅಪ್ಲಿಕೇಶನ್ ಆಫ್‌ಲೈನ್ ಶೈಲಿಯನ್ನು ಕೇಳಿ. RAPTOR ಟ್ರೀ ಇಂಡೆಕ್ಸಿಂಗ್ ಮತ್ತು BGE-ಸಣ್ಣ ಎಂಬೆಡಿಂಗ್‌ಗಳನ್ನು ಬಳಸಿಕೊಂಡು, ಅಪ್ಲಿಕೇಶನ್ ತಕ್ಷಣವೇ ಸಂಬಂಧಿತ ಪ್ಯಾಸೇಜ್‌ಗಳನ್ನು ಕಂಡುಕೊಳ್ಳುತ್ತದೆ. ಡೆಲ್ಟಾ KV ಕ್ಯಾಶ್ ಸಂರಕ್ಷಣೆಗೆ ಧನ್ಯವಾದಗಳು ಫಾಲೋ-ಅಪ್ ಪ್ರಶ್ನೆಗಳು ವೇಗವಾಗಿ ಇರುತ್ತವೆ.

ಹಿಯರ್ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಗಟ್ಟಿಯಾಗಿ ಓದಿ

🔊 ಆಂಡ್ರಾಯ್ಡ್ ಆಫ್‌ಲೈನ್‌ಗಾಗಿ ನಿಜವಾದ ಧ್ವನಿ ಸಹಾಯಕ. 11 ಧ್ವನಿಗಳು ಮತ್ತು ಎರಡು ಗುಣಮಟ್ಟದ ಶ್ರೇಣಿಗಳೊಂದಿಗೆ ಆನ್-ಡಿವೈಸ್ ಕೊಕೊರೊ TTS ಅನ್ನು ಒಳಗೊಂಡಿರುವ ನಿಮ್ಮ ಆಫ್‌ಲೈನ್ ಸಹಾಯಕವು ಯಾವುದೇ ವಿಳಂಬ ಮತ್ತು ಶೂನ್ಯ ಡೇಟಾ ಬಳಕೆಯೊಂದಿಗೆ ನಿಮಗೆ ಪ್ರತಿಕ್ರಿಯೆಗಳನ್ನು ಓದಬಹುದು.

ಊಹಾತ್ಮಕ ಡಿಕೋಡಿಂಗ್‌ನೊಂದಿಗೆ 2x ವೇಗವಾಗಿ

⚡ ಮೊಬೈಲ್‌ನಲ್ಲಿ ವೇಗವಾದ LLM ಕಾರ್ಯಕ್ಷಮತೆಯನ್ನು ಅನುಭವಿಸಿ. ಮುಖ್ಯ ಮಾದರಿಯು ಬ್ಯಾಚ್‌ನಲ್ಲಿ ಪರಿಶೀಲಿಸುವಾಗ ಸಣ್ಣ ಡ್ರಾಫ್ಟ್ ಮಾದರಿಯು ಮುಂದೆ ಭವಿಷ್ಯ ನುಡಿಯುತ್ತದೆ. ಲೈವ್ ಟೋಕ್/ಸೆ ಸೂಚಕ ಮತ್ತು ಸ್ಮಾರ್ಟ್ ಬ್ಯಾಕೆಂಡ್ ರೂಟಿಂಗ್‌ನೊಂದಿಗೆ, ಇದು ಲಭ್ಯವಿರುವ ಅತ್ಯಂತ ಪರಿಣಾಮಕಾರಿ AI ಆನ್-ಡಿವೈಸ್ ಪರಿಹಾರವಾಗಿದೆ.

ಮೂರು ಬ್ಯಾಕೆಂಡ್‌ಗಳು, ಐದು GPU ಮಾರ್ಗಗಳು

· OpenCL ಮತ್ತು Vulkan GPU ನೊಂದಿಗೆ MNN: ಮಾಲಿ ಮತ್ತು ಅಡ್ರಿನೊಗಾಗಿ ಟ್ಯೂನ್ ಮಾಡಲಾದ ಕರ್ನಲ್‌ಗಳು. TQ4 ಟರ್ಬೊಕ್ವಾಂಟ್ ಸಣ್ಣ ಮಾದರಿಗಳಲ್ಲಿ 46–57 ಟೋಕ್/ಸೆ ತಲುಪುತ್ತದೆ.
· llama.cpp ಮೂಲಕ GGUF: ARM i8mm, ವಲ್ಕನ್ ಸಹಕಾರಿ ಮ್ಯಾಟ್ರಿಕ್ಸ್, ಫ್ಲ್ಯಾಷ್ ಗಮನ ಮತ್ತು ಪೂರ್ಣ ಕ್ವಾಂಟೈಸೇಶನ್ ಶ್ರೇಣಿ.
· ರಿಮೋಟ್ API: ಒಲ್ಲಾಮಾ, vLLM, ಅಥವಾ llama.cpp ಸರ್ವರ್‌ಗಳಿಗೆ OpenAI-ಹೊಂದಾಣಿಕೆಯ ಸ್ಟ್ರೀಮಿಂಗ್.
· SoC-ಅವೇರ್ ಆಟೋ-ರೂಟಿಂಗ್: ಈ AI ಸ್ಥಳೀಯ ಸಹಾಯಕವು ನಿಮ್ಮ ನಿರ್ದಿಷ್ಟ ಚಿಪ್‌ಸೆಟ್‌ಗಾಗಿ ವೇಗವಾದ ಮಾರ್ಗವನ್ನು ಸ್ವಯಂಚಾಲಿತವಾಗಿ ಆಯ್ಕೆ ಮಾಡುತ್ತದೆ.

ಸುಧಾರಿತ AI ಆಫ್‌ಲೈನ್ ಚಾಟ್ ವೈಶಿಷ್ಟ್ಯಗಳು:

• ನಿಮ್ಮ AI ನಿಮ್ಮನ್ನು ನೆನಪಿಸುತ್ತದೆ: ಹಿನ್ನೆಲೆ ಹೊರತೆಗೆಯುವಿಕೆಯೊಂದಿಗೆ ಪ್ರತಿ-ಅಕ್ಷರ ನಿರಂತರ ಮೆಮೊರಿ. ಜ್ಞಾನ ಗ್ರಾಫ್‌ಗಳು ಹೈಬ್ರಿಡ್ ಕೀವರ್ಡ್ ಮತ್ತು ಶಬ್ದಾರ್ಥದ ಹುಡುಕಾಟವನ್ನು ಬಳಸಿಕೊಂಡು ಅಸ್ತಿತ್ವದ ಸಂಬಂಧಗಳನ್ನು ಟ್ರ್ಯಾಕ್ ಮಾಡುತ್ತದೆ.

• ನಿಮ್ಮ ಸಾಧನವನ್ನು ಟ್ಯೂನ್ ಮಾಡಿ: ನಿಮ್ಮ ಹಾರ್ಡ್‌ವೇರ್‌ನಲ್ಲಿ ಪ್ರತಿ AI ಮಾದರಿ ಮತ್ತು ಬ್ಯಾಕೆಂಡ್ ಕಾಂಬೊವನ್ನು ForgeLab ಮಾನದಂಡಗೊಳಿಸುತ್ತದೆ. ನಿಮ್ಮ ಆಫ್‌ಲೈನ್ AI ಅಪ್ಲಿಕೇಶನ್‌ಗಾಗಿ ವೇಗವಾದ ಸೆಟ್ಟಿಂಗ್‌ಗಳನ್ನು ಆಯ್ಕೆ ಮಾಡಲು AutoForge ಎಲ್ಲಾ ಕಾನ್ಫಿಗರೇಶನ್‌ಗಳನ್ನು ಸ್ವೀಪ್ ಮಾಡುತ್ತದೆ.

• ಡೆವಲಪರ್ API: HTTP ಮೇಲೆ ಸಂಪೂರ್ಣ ಸ್ಥಳೀಯ ನಿಯಂತ್ರಣಕ್ಕಾಗಿ 120+ ಎಂಡ್‌ಪಾಯಿಂಟ್‌ಗಳು. ಮಾದರಿಗಳನ್ನು ಲೋಡ್ ಮಾಡಿ, ಮೆಮೊರಿಯನ್ನು ನಿರ್ವಹಿಸಿ ಮತ್ತು ಪ್ರೋಗ್ರಾಮ್ಯಾಟಿಕ್ ಆಗಿ ಸಂದೇಶಗಳನ್ನು ಕಳುಹಿಸಿ.

ನಿಜವಾದ ಹಾರ್ಡ್‌ವೇರ್‌ನಲ್ಲಿ ಪರೀಕ್ಷಿಸಲಾಗಿದೆ

- RedMagic 11 Pro: 21.0 tok/s — Qwen3-8B
- Galaxy S24 Ultra: 13.58 tok/s — Qwen3-4B
- OnePlus Ace 5 Ultra: 11.88 tok/s — Qwen3-8B
- Xiaomi Pad 7 Pro: 11.81 tok/s — Qwen3-4B

ಏಕೆ TOKFORGE?

►ವೇಗ ಅಥವಾ ಸುರಕ್ಷತೆಯಲ್ಲಿ ರಾಜಿ ಮಾಡಿಕೊಳ್ಳಲು ನಿರಾಕರಿಸುವ ಬಳಕೆದಾರರಿಗಾಗಿ ಇದು AI ಆಲ್ ಇನ್ ಒನ್ ಅಪ್ಲಿಕೇಶನ್ ಆಗಿದೆ.
►ಶೂನ್ಯ ವಿಶ್ಲೇಷಣೆ, ಶೂನ್ಯ ಟೆಲಿಮೆಟ್ರಿ, ಶೂನ್ಯ ಕ್ಲೌಡ್ ಅವಲಂಬನೆ.
►ಉಚಿತ AI ಚಾಟ್‌ಬಾಟ್ ಆಫ್‌ಲೈನ್: ಎಲ್ಲಾ ನಿರ್ಣಯಗಳು ಸಾಧನದಲ್ಲಿಯೇ ನಡೆಯುತ್ತವೆ—ಏರ್‌ಪ್ಲೇನ್ ಮೋಡ್ ಸಂಪೂರ್ಣವಾಗಿ ಕಾರ್ಯನಿರ್ವಹಿಸುತ್ತದೆ.
►ಖಾತೆಗಳಿಲ್ಲ, ಸೈನ್-ಅಪ್ ಇಲ್ಲ.
►17 ಕ್ಯುರೇಟೆಡ್ ಮಾದರಿಗಳು (0.6B–14B): Qwen3, DeepSeek-R1, Llama 3, Phi-4, ಮತ್ತು ಇತರವುಗಳಿಂದ ಆರಿಸಿಕೊಳ್ಳಿ.

ನಿಮ್ಮ ಸ್ಮಾರ್ಟ್‌ಫೋನ್ ನೀವು ಯೋಚಿಸುವುದಕ್ಕಿಂತ ಸ್ಮಾರ್ಟ್ ಮತ್ತು ಹೆಚ್ಚು ಶಕ್ತಿಶಾಲಿಯಾಗಿದೆ. ಮತ್ತು AI ನ ಮೆದುಳನ್ನು ನೇರವಾಗಿ ನಿಮ್ಮ ಸಿಲಿಕಾನ್‌ಗೆ ಸರಿಸುವ ಮೂಲಕ, ನಾವು ವಿಳಂಬ, ವೆಚ್ಚಗಳು ಮತ್ತು ಮೋಡದ ಗೂಢಾಚಾರಿಕೆಯ ಕಣ್ಣುಗಳನ್ನು ತೆಗೆದುಹಾಕಿದ್ದೇವೆ.

☑️ಈ ಉಚಿತ ಆಫ್‌ಲೈನ್ AI ಪವರ್‌ಹೌಸ್ ಅನ್ನು ಇಂದೇ ಡೌನ್‌ಲೋಡ್ ಮಾಡಿ ಮತ್ತು ನಿಮ್ಮ ಡೇಟಾವನ್ನು ನಿಯಂತ್ರಿಸಿ.

ಹೊಸದೇನಿದೆ

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback