TokForge Local AI Offline Chat

Defcon-One

या अ‍ॅपविषयी

खाजगी, स्थानिक आणि ऑफलाइन एआय. जाहिरातमुक्त आणि सबस्क्रिप्शनशिवाय

टोकफोर्ज मोठे लँग्वेज मॉडेल्स थेट तुमच्या अँड्रॉइड डिव्हाइसवर वेगाने चालवते. क्लाउड नाही, सबस्क्रिप्शन नाही आणि तुमच्या खिशातून कोणताही डेटा बाहेर जात नाही.

तुम्हाला उत्पादकतेसाठी स्थानिक एआय असिस्टंटची गरज असो किंवा ऑफलाइन बोलणाऱ्या एआय मित्राची, टोकफोर्ज इंटरनेट कनेक्शनशिवाय उच्च-कार्यक्षमतेचे अनुमान (इन्फरन्स) प्रदान करते.

हे काय करू शकते? टोकफोर्जची वैशिष्ट्ये:

एआय कॅरेक्टर्ससोबत चॅट करा

💬 तुमचा ऑफलाइन एआय चॅटचा अनुभव आता अधिक चांगला झाला आहे. TavernAI V2 कॅरेक्टर कार्ड्स (PNG/JSON) इम्पोर्ट करा, व्यक्तिमत्त्वे कस्टमाइझ करा आणि स्ट्रीमिंग जनरेशनसह वास्तविक संभाषणे करा. टोकफोर्ज हा ऑफलाइनसाठी सर्वोत्तम एआय मित्र आहे, ज्यामध्ये लॉरबुक्स, पर्यायी अभिवादन आणि जगाची माहिती यांसारखी वैशिष्ट्ये आहेत. तर्क मॉडेलमध्ये सखोल तर्कासाठी कोलॅप्सिबल थिंकिंग ब्लॉक्सचाही समावेश आहे.

दस्तऐवज जोडा आणि प्रश्न विचारा

📄 टोकफोर्जला (TokForge) एका शक्तिशाली स्थानिक एआय (AI) संशोधन साधनामध्ये रूपांतरित करा. एक पीडीएफ (PDF), डॉकएक्स (DOCX), ईपब (EPUB) किंवा टेक्स्ट फाईल टाका आणि ऑफलाइन ॲपप्रमाणे 'मला काहीही विचारा' (ask me anything) शैलीत प्रश्न विचारा. रॅप्टर ट्री इंडेक्सिंग (RAPTOR tree indexing) आणि बीजीई-स्मॉल एम्बेडिंग्ज (BGE-small embeddings) वापरून, हे ॲप संबंधित परिच्छेद त्वरित शोधते. डेल्टा केव्ही कॅशे प्रिझर्वेशनमुळे (delta KV cache preservation) पुढील प्रश्न जलदगतीने पोहोचतात.

प्रतिसाद मोठ्याने वाचून ऐका

🔊 अँड्रॉइड ऑफलाइनसाठी एक खरा व्हॉइस असिस्टंट. ११ आवाज आणि दोन गुणवत्ता स्तरांसह ऑन-डिव्हाइस कोकोरो टीटीएस (Kokoro TTS) वैशिष्ट्यासह, तुमचा ऑफलाइन असिस्टंट कोणताही विलंब न होता आणि शून्य डेटा वापरासह तुम्हाला प्रतिसाद वाचून दाखवू शकतो.

स्पेक्युलेटिव्ह डिकोडिंगसह (Speculative Decoding) २ पट अधिक वेगवान

⚡ मोबाइलवर सर्वात वेगवान एलएलएम (LLM) कामगिरीचा अनुभव घ्या. एक लहान ड्राफ्ट मॉडेल पुढे अंदाज वर्तवते, तर मुख्य मॉडेल बॅचमध्ये पडताळणी करते. लाइव्ह टोक/सेकंद इंडिकेटर आणि स्मार्ट बॅकएंड रूटिंगसह, हे उपलब्ध असलेले सर्वात कार्यक्षम एआय ऑन-डिव्हाइस सोल्यूशन आहे.

तीन बॅकएंड्स, पाच जीपीयू पाथ्स

· ओपनसीएल (OpenCL) आणि वल्कन जीपीयू (Vulkan GPU) सह एमएनएन (MNN): माली (Mali) आणि ॲड्रेनो (Adreno) साठी ट्यून केलेले कर्नल्स. लहान मॉडेल्सवर टीक्यू४ टर्बोक्वांट (TQ4 TurboQuant) ४६-५७ टोक/सेकंदचा वेग गाठते.

· llama.cpp द्वारे जीजीयूएफ (GGUF): एआरएम आय८एमएम (ARM i8mm), वल्कन कोऑपरेटिव्ह मॅट्रिक्स, फ्लॅश अटेंशन आणि संपूर्ण क्वांटायझेशन रेंज.

· रिमोट एपीआय (Remote API): ओलामा (Ollama), व्हीएलएलएम (vLLM), किंवा llama.cpp सर्व्हरवर ओपनएआय-सुसंगत स्ट्रीमिंग.

· एसओसी-अवेअर ऑटो-रूटिंग (SoC-Aware Auto-Routing): हा एआय लोकल असिस्टंट तुमच्या विशिष्ट चिपसेटसाठी सर्वात वेगवान मार्ग आपोआप निवडतो.

प्रगत एआय ऑफलाइन चॅट वैशिष्ट्ये:

• तुमचा एआय तुम्हाला लक्षात ठेवतो: बॅकग्राउंड एक्स्ट्रॅक्शनसह प्रत्येक कॅरेक्टरसाठी कायमस्वरूपी मेमरी. नॉलेज ग्राफ्स हायब्रीड कीवर्ड आणि सिमेंटिक सर्च वापरून एंटिटीमधील संबंधांचा मागोवा घेतात.

• तुमचे डिव्हाइस ट्यून करा: फोर्जलॅब तुमच्या हार्डवेअरवर प्रत्येक एआय मॉडेल आणि बॅकएंड कॉम्बिनेशनची चाचणी घेते. ऑटोफोर्ज तुमच्या ऑफलाइन एआय ॲपसाठी सर्वात वेगवान सेटिंग्ज निवडण्याकरिता सर्व कॉन्फिग्स तपासते.

• डेव्हलपर एपीआय: HTTP वरून पूर्ण स्थानिक नियंत्रणासाठी १२०+ एंडपॉइंट्स. मॉडेल्स लोड करा, मेमरी व्यवस्थापित करा आणि प्रोग्रामद्वारे संदेश पाठवा.

प्रत्यक्ष हार्डवेअरवर तपासलेले

- रेडमॅजिक 11 प्रो: 21.0 टोक/से — Qwen3-8B
- गॅलेक्सी S24 अल्ट्रा: 13.58 टोक/से — Qwen3-4B
- वनप्लस एस 5 अल्ट्रा: 11.88 टोक/से — Qwen3-8B
- शाओमी पॅड 7 प्रो: 11.81 टोक/से — Qwen3-4B

टोकफोर्ज का?

►हे अशा वापरकर्त्यांसाठी एक सर्वसमावेशक एआय ॲप आहे, जे वेग किंवा सुरक्षेच्या बाबतीत कोणतीही तडजोड करत नाहीत.

►शून्य ॲनालिटिक्स, शून्य टेलीमेट्री, क्लाउडवर शून्य अवलंबित्व.

►मोफत एआय चॅटबॉट ऑफलाइन: सर्व अनुमान डिव्हाइसवरच लावले जाते—एअरप्लेन मोडवर उत्तम प्रकारे काम करते.

►कोणतीही खाती नाहीत, नोंदणी नाही.

►१७ निवडक मॉडेल्स (०.६ अब्ज–१४ अब्ज): क्वेन३ (Qwen3), डीपसीक-आर१ (DeepSeek-R1), लामा ३ (Llama 3), फाय-४ (Phi-4) आणि इतर अनेक मॉडेल्समधून निवडा.

तुमचा स्मार्टफोन तुमच्या कल्पनेपेक्षा अधिक स्मार्ट आणि शक्तिशाली आहे. आणि एआयचा (AI) मुख्य भाग थेट तुमच्या सिलिकॉनवर आणून, आम्ही क्लाउडमधील विलंब, खर्च आणि कुतूहलपूर्ण नजरा दूर केल्या आहेत.

☑️आजच हे मोफत ऑफलाइन एआय पॉवरहाऊस डाउनलोड करा आणि तुमच्या डेटावर नियंत्रण मिळवा.

नवीन काय आहे

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback