TokForge Local AI Offline Chat

Defcon-One

ఈ యాప్ గురించి పరిచయం

ప్రైవేట్, లోకల్ & ఆఫ్‌లైన్ AI. సబ్‌స్క్రిప్షన్ లేకుండా ప్రకటనలు లేనిది

టోక్‌ఫోర్జ్ పెద్ద భాషా నమూనాలను నేరుగా మీ ఆండ్రాయిడ్ పరికరంలో వేగంగా నడుపుతుంది. క్లౌడ్ లేదు, సబ్‌స్క్రిప్షన్ లేదు, మరియు మీ జేబు నుండి డేటా బయటకు వెళ్లదు.

మీకు ఉత్పాదకత కోసం లోకల్ AI అసిస్టెంట్ అవసరమైనా లేదా ఆఫ్‌లైన్‌లో మాట్లాడే AI స్నేహితుడు అవసరమైనా, టోక్‌ఫోర్జ్ ఇంటర్నెట్ కనెక్షన్ లేకుండానే అధిక-పనితీరు గల ఇన్ఫరెన్స్‌ను అందిస్తుంది.

ఇది ఏమి చేయగలదు? టోక్‌ఫోర్జ్ ఫీచర్లు:

AI పాత్రలతో చాట్ చేయండి

💬 మీ ఆఫ్‌లైన్ AI చాట్ అనుభవం ఇప్పుడు అప్‌గ్రేడ్ చేయబడింది. TavernAI V2 క్యారెక్టర్ కార్డ్‌లను (PNG/JSON) ఇంపోర్ట్ చేయండి, వ్యక్తిత్వాలను అనుకూలీకరించండి మరియు స్ట్రీమింగ్ జనరేషన్‌తో నిజమైన సంభాషణలు జరపండి. టోక్‌ఫోర్జ్ అనేది ఆఫ్‌లైన్‌లో అంతిమ AI స్నేహితుడు, ఇందులో లోర్‌బుక్స్, ప్రత్యామ్నాయ శుభాకాంక్షలు మరియు ప్రపంచ సమాచారం ఉంటాయి. రీజనింగ్ మోడల్స్‌లో లోతైన తర్కం కోసం కుదించగల థింకింగ్ బ్లాక్‌లు కూడా ఉన్నాయి.

పత్రాలను జతచేయండి & ప్రశ్నలు అడగండి

📄 టోక్‌ఫోర్జ్‌ను ఒక శక్తివంతమైన స్థానిక AI పరిశోధన సాధనంగా మార్చండి. ఒక PDF, DOCX, EPUB, లేదా టెక్స్ట్ ఫైల్‌ను డ్రాప్ చేసి, యాప్ ఆఫ్‌లైన్ శైలిలో ఏదైనా అడగండి. రాప్టర్ ట్రీ ఇండెక్సింగ్ మరియు BGE-స్మాల్ ఎంబెడ్డింగ్‌లను ఉపయోగించి, ఈ యాప్ సంబంధిత భాగాలను తక్షణమే కనుగొంటుంది. డెల్టా KV కాష్ ప్రిజర్వేషన్ కారణంగా తదుపరి ప్రశ్నలు వేగంగా ఉంటాయి.

సమాధానాలను బిగ్గరగా చదవడం వినండి

🔊 ఆండ్రాయిడ్ ఆఫ్‌లైన్ కోసం ఒక నిజమైన వాయిస్ అసిస్టెంట్. 11 వాయిస్‌లు మరియు రెండు నాణ్యతా శ్రేణులతో ఆన్-డివైస్ కొకోరో TTS ఫీచర్‌తో, మీ ఆఫ్‌లైన్ అసిస్టెంట్ ఎటువంటి జాప్యం లేకుండా మరియు సున్నా డేటా వినియోగంతో మీకు సమాధానాలను తిరిగి చదవగలదు.

స్పెక్యులేటివ్ డీకోడింగ్‌తో 2 రెట్లు వేగవంతం

⚡ మొబైల్‌లో అత్యంత వేగవంతమైన LLM పనితీరును అనుభవించండి. ప్రధాన మోడల్ బ్యాచ్‌లో ధృవీకరిస్తుండగా, ఒక చిన్న డ్రాఫ్ట్ మోడల్ ముందుగానే అంచనా వేస్తుంది. లైవ్ టోక్/సెకన్ సూచిక మరియు స్మార్ట్ బ్యాకెండ్ రూటింగ్‌తో, ఇది అందుబాటులో ఉన్న అత్యంత సమర్థవంతమైన AI ఆన్-డివైస్ పరిష్కారం.

మూడు బ్యాకెండ్‌లు, ఐదు GPU మార్గాలు

· OpenCL మరియు Vulkan GPUతో MNN: మాలి మరియు అడ్రెనో కోసం ట్యూన్ చేయబడిన కెర్నల్స్. TQ4 టర్బోక్వాంట్ చిన్న మోడళ్లపై 46–57 టోక్/సెకన్ వేగాన్ని అందుకుంటుంది.

· llama.cpp ద్వారా GGUF: ARM i8mm, వల్కన్ కోఆపరేటివ్ మ్యాట్రిక్స్, ఫ్లాష్ అటెన్షన్, మరియు పూర్తి క్వాంటైజేషన్ పరిధి.

· రిమోట్ API: ఒల్లామా, vLLM, లేదా llama.cpp సర్వర్‌లకు OpenAI-అనుకూల స్ట్రీమింగ్.

· SoC-అవేర్ ఆటో-రూటింగ్: ఈ AI లోకల్ అసిస్టెంట్ మీ నిర్దిష్ట చిప్‌సెట్ కోసం అత్యంత వేగవంతమైన మార్గాన్ని స్వయంచాలకంగా ఎంచుకుంటుంది.

అధునాతన AI ఆఫ్‌లైన్ చాట్ ఫీచర్లు:

• మీ AI మిమ్మల్ని గుర్తుంచుకుంటుంది: బ్యాక్‌గ్రౌండ్ ఎక్స్‌ట్రాక్షన్‌తో ప్రతి అక్షరానికి పర్సిస్టెంట్ మెమరీ. నాలెడ్జ్ గ్రాఫ్‌లు హైబ్రిడ్ కీవర్డ్ మరియు సెమాంటిక్ సెర్చ్‌ను ఉపయోగించి ఎంటిటీ సంబంధాలను ట్రాక్ చేస్తాయి.

• మీ పరికరాన్ని ట్యూన్ చేసుకోండి: ForgeLab మీ హార్డ్‌వేర్‌పై ప్రతి AI మోడల్ మరియు బ్యాకెండ్ కాంబోను బెంచ్‌మార్క్ చేస్తుంది. AutoForge మీ ఆఫ్‌లైన్ AI యాప్ కోసం అత్యంత వేగవంతమైన సెట్టింగ్‌లను ఎంచుకోవడానికి అన్ని కాన్ఫిగరేషన్‌లను స్వీప్ చేస్తుంది.

• డెవలపర్ API: HTTP ద్వారా పూర్తి స్థానిక నియంత్రణ కోసం 120+ ఎండ్‌పాయింట్లు. ప్రోగ్రామాటిక్‌గా మోడల్‌లను లోడ్ చేయండి, మెమరీని నిర్వహించండి మరియు సందేశాలను పంపండి.

నిజమైన హార్డ్‌వేర్‌పై పరీక్షించబడింది

- రెడ్‌మ్యాజిక్ 11 ప్రో: 21.0 టోక్/సె — క్వెన్3-8బి

- గెలాక్సీ ఎస్24 అల్ట్రా: 13.58 టోక్/సె — క్వెన్3-4బి

- వన్‌ప్లస్ ఏస్ 5 అల్ట్రా: 11.88 టోక్/సె — క్వెన్3-8బి

- షియోమీ ప్యాడ్ 7 ప్రో: 11.81 టోక్/సె — క్వెన్3-4బి

టోక్‌ఫోర్జ్ ఎందుకు?

►వేగం లేదా భద్రత విషయంలో రాజీ పడని వినియోగదారుల కోసం ఇది ఒక ఆల్ ఇన్ వన్ ఏఐ యాప్.

►జీరో అనలిటిక్స్, జీరో టెలిమెట్రీ, జీరో క్లౌడ్ డిపెండెన్సీ.

►ఉచిత ఏఐ చాట్‌బాట్ ఆఫ్‌లైన్: మొత్తం ఇన్ఫరెన్స్ పరికరంలోనే జరుగుతుంది—ఏరోప్లేన్ మోడ్‌లో కూడా ఇది ఖచ్చితంగా పనిచేస్తుంది.

►అకౌంట్లు లేవు, సైన్-అప్ లేదు.

►17 ఎంపిక చేసిన మోడల్స్ (0.6B–14B): Qwen3, DeepSeek-R1, Llama 3, Phi-4, మరియు మరిన్నింటి నుండి ఎంచుకోండి.

మీ స్మార్ట్‌ఫోన్ మీరు అనుకున్నదానికంటే తెలివైనది మరియు శక్తివంతమైనది. మరియు AI యొక్క మెదడును నేరుగా మీ సిలికాన్‌పైకి తరలించడం ద్వారా, మేము క్లౌడ్ యొక్క జాప్యం, ఖర్చులు మరియు నిఘాను తొలగించాము.

☑️ఈ ఉచిత ఆఫ్‌లైన్ AI పవర్‌హౌస్‌ను ఈరోజే డౌన్‌లోడ్ చేసుకోండి మరియు మీ డేటాపై నియంత్రణ సాధించండి.

కొత్తగా ఏమి ఉన్నాయి

Lot's of changes vs last upload. TurboQuant added under advanced settings, Cache clearing, RAG + Attachment support (Very Beta), Metrics/API work, UI/UX cleaning and improvements from beta tester feedback