OpenWeights: Edge Inference
किशोर
info
1+
डाउनलोड
इस ऐप्लिकेशन के बारे में जानकारी
OpenWeights आपके फ़ोन पर सीधे ओपन-वेट भाषा मॉडल चलाता है। कोई खाता बनाने की ज़रूरत नहीं, किसी सर्वर से बात करने की ज़रूरत नहीं, और आपके बारे में कोई जानकारी नहीं मापी जाती।
ऐप के अंदर से Hugging Face खोजें, डाउनलोड करने से पहले पता करें कि कोई मॉडल आपके डिवाइस पर चलेगा या नहीं, और उससे चैट करें। हर टोकन आपके अपने हार्डवेयर द्वारा उत्पन्न होता है।
कोई भी मॉडल, कोई सूची नहीं
अन्य ऑन-डिवाइस ऐप्स आपको किसी और द्वारा चुनी गई एक छोटी सूची देते हैं। OpenWeights आपको हब देता है। अगर किसी ने एक घंटे पहले GGUF प्रकाशित किया है, तो आप उसे चला सकते हैं।
आपके डिवाइस के बारे में सटीक जानकारी
गीगाबाइट्स खर्च करने से पहले, ऐप नेटवर्क पर मॉडल का हेडर पढ़ता है और आपको बताता है कि आपके द्वारा चुनी गई कॉन्टेक्स्ट लंबाई पर उसे क्या चाहिए, उसकी अनुमानित गति क्या होगी, और क्या वह आपके फ़ोन पर चलेगा।
वास्तविक आंकड़े, आपके सामने
टोकन प्रति सेकंड, पहले टोकन तक का समय, और कॉन्टेक्स्ट विंडो कितनी भरी है, ये सभी जानकारी चैट करते समय दिखाई जाती है, छिपी नहीं रहती।
आपकी सुविधा के अनुसार
तापमान, टॉप-पी, टॉप-के, दोहराव दंड, संदर्भ की लंबाई, सिस्टम प्रॉम्प्ट और मॉडल को उसके टूल्स के बारे में दी गई जानकारी, ये सभी प्रत्येक मॉडल के लिए सहेजे जाते हैं। मॉडल के उत्तर देने से पहले सोचने की सुविधा भी उपलब्ध है, और एक कार्यशील जीपीयू वाले फोन पर आप बता सकते हैं कि कौन सा प्रोसेसर लेयर्स को संभालता है।
केवल टेक्स्ट से कहीं अधिक
प्रोजेक्टर वाले मॉडलों के लिए चित्र और ऑडियो, कोई भी मॉडल पढ़ सकने वाले दस्तावेज़, आपके फोन के ऑन-डिवाइस रिकॉग्नाइज़र के माध्यम से डिक्टेशन और पढ़कर सुनाना।
एक सहायक जो कार्य कर सकता है
मॉडल वेब पर खोज कर सकता है, एक पृष्ठ पढ़ सकता है और आपके द्वारा साझा किए गए फ़ोल्डर के साथ काम कर सकता है। आप तय करते हैं कि इसे कितनी स्वतंत्रता दी जाए: प्रत्येक चरण को अनुमोदित करें, इसे चलने दें, या पहले योजना बनाने के लिए कहें और कुछ भी होने से पहले यह बताएं कि यह क्या करेगा। यह आपसे स्पष्टीकरण प्रश्न पूछ सकता है और एक चेकलिस्ट का पालन कर सकता है जिसे आप स्वयं चिह्नित कर सकते हैं। प्रत्येक टूल को बंद किया जा सकता है।
निर्माण के अनुसार निजता
आपकी बातचीत, आपके मॉडल और आपका उपयोग डिवाइस पर ही रहता है। इसमें कोई एनालिटिक्स SDK, क्रैश रिपोर्टर या हमारा कोई बैकएंड नहीं है। स्वचालित बैकअप और डिवाइस ट्रांसफर बंद हैं, इसलिए नया फ़ोन आपकी चैट को अपने साथ नहीं ले जाता। अनइंस्टॉल करने पर सब कुछ हट जाता है।
दो टूल इंटरनेट का उपयोग करते हैं, क्योंकि यह आवश्यक है: वेब सर्च और पेज फ़ेचिंग। दोनों को एक शीर्षक के अंतर्गत सूचीबद्ध किया गया है जिसमें लिखा है कि वे डिवाइस से बाहर जाते हैं, दोनों को बंद किया जा सकता है, और प्रत्येक कॉल के लिए उत्तर में एक पंक्ति होती है जिसमें उसका नाम और दी गई जानकारी होती है। यदि आपने अपना हगिंग फेस टोकन सेट किया है, तो वह एंड्रॉइड कीस्टोर में रखी कुंजी से एन्क्रिप्ट किया जाता है और केवल हगिंग फेस को भेजा जाता है।
आवश्यकताएँ
एंड्रॉइड 12 या नया संस्करण, एक 64-बिट ARM डिवाइस, और आपके द्वारा चुने गए मॉडल के लिए पर्याप्त मेमोरी। ऐप आपको डाउनलोड करने से पहले बता देगा।
मॉडल तृतीय पक्षों से आते हैं। आप चुन सकते हैं कि कौन सा चलाना है, और इसमें जो लिखा है वह इसके प्रकाशक का काम है, हमारा नहीं। ओपन सोर्स, github.com/alpharomercoma/openweights पर उपलब्ध है।
ऐप के अंदर से Hugging Face खोजें, डाउनलोड करने से पहले पता करें कि कोई मॉडल आपके डिवाइस पर चलेगा या नहीं, और उससे चैट करें। हर टोकन आपके अपने हार्डवेयर द्वारा उत्पन्न होता है।
कोई भी मॉडल, कोई सूची नहीं
अन्य ऑन-डिवाइस ऐप्स आपको किसी और द्वारा चुनी गई एक छोटी सूची देते हैं। OpenWeights आपको हब देता है। अगर किसी ने एक घंटे पहले GGUF प्रकाशित किया है, तो आप उसे चला सकते हैं।
आपके डिवाइस के बारे में सटीक जानकारी
गीगाबाइट्स खर्च करने से पहले, ऐप नेटवर्क पर मॉडल का हेडर पढ़ता है और आपको बताता है कि आपके द्वारा चुनी गई कॉन्टेक्स्ट लंबाई पर उसे क्या चाहिए, उसकी अनुमानित गति क्या होगी, और क्या वह आपके फ़ोन पर चलेगा।
वास्तविक आंकड़े, आपके सामने
टोकन प्रति सेकंड, पहले टोकन तक का समय, और कॉन्टेक्स्ट विंडो कितनी भरी है, ये सभी जानकारी चैट करते समय दिखाई जाती है, छिपी नहीं रहती।
आपकी सुविधा के अनुसार
तापमान, टॉप-पी, टॉप-के, दोहराव दंड, संदर्भ की लंबाई, सिस्टम प्रॉम्प्ट और मॉडल को उसके टूल्स के बारे में दी गई जानकारी, ये सभी प्रत्येक मॉडल के लिए सहेजे जाते हैं। मॉडल के उत्तर देने से पहले सोचने की सुविधा भी उपलब्ध है, और एक कार्यशील जीपीयू वाले फोन पर आप बता सकते हैं कि कौन सा प्रोसेसर लेयर्स को संभालता है।
केवल टेक्स्ट से कहीं अधिक
प्रोजेक्टर वाले मॉडलों के लिए चित्र और ऑडियो, कोई भी मॉडल पढ़ सकने वाले दस्तावेज़, आपके फोन के ऑन-डिवाइस रिकॉग्नाइज़र के माध्यम से डिक्टेशन और पढ़कर सुनाना।
एक सहायक जो कार्य कर सकता है
मॉडल वेब पर खोज कर सकता है, एक पृष्ठ पढ़ सकता है और आपके द्वारा साझा किए गए फ़ोल्डर के साथ काम कर सकता है। आप तय करते हैं कि इसे कितनी स्वतंत्रता दी जाए: प्रत्येक चरण को अनुमोदित करें, इसे चलने दें, या पहले योजना बनाने के लिए कहें और कुछ भी होने से पहले यह बताएं कि यह क्या करेगा। यह आपसे स्पष्टीकरण प्रश्न पूछ सकता है और एक चेकलिस्ट का पालन कर सकता है जिसे आप स्वयं चिह्नित कर सकते हैं। प्रत्येक टूल को बंद किया जा सकता है।
निर्माण के अनुसार निजता
आपकी बातचीत, आपके मॉडल और आपका उपयोग डिवाइस पर ही रहता है। इसमें कोई एनालिटिक्स SDK, क्रैश रिपोर्टर या हमारा कोई बैकएंड नहीं है। स्वचालित बैकअप और डिवाइस ट्रांसफर बंद हैं, इसलिए नया फ़ोन आपकी चैट को अपने साथ नहीं ले जाता। अनइंस्टॉल करने पर सब कुछ हट जाता है।
दो टूल इंटरनेट का उपयोग करते हैं, क्योंकि यह आवश्यक है: वेब सर्च और पेज फ़ेचिंग। दोनों को एक शीर्षक के अंतर्गत सूचीबद्ध किया गया है जिसमें लिखा है कि वे डिवाइस से बाहर जाते हैं, दोनों को बंद किया जा सकता है, और प्रत्येक कॉल के लिए उत्तर में एक पंक्ति होती है जिसमें उसका नाम और दी गई जानकारी होती है। यदि आपने अपना हगिंग फेस टोकन सेट किया है, तो वह एंड्रॉइड कीस्टोर में रखी कुंजी से एन्क्रिप्ट किया जाता है और केवल हगिंग फेस को भेजा जाता है।
आवश्यकताएँ
एंड्रॉइड 12 या नया संस्करण, एक 64-बिट ARM डिवाइस, और आपके द्वारा चुने गए मॉडल के लिए पर्याप्त मेमोरी। ऐप आपको डाउनलोड करने से पहले बता देगा।
मॉडल तृतीय पक्षों से आते हैं। आप चुन सकते हैं कि कौन सा चलाना है, और इसमें जो लिखा है वह इसके प्रकाशक का काम है, हमारा नहीं। ओपन सोर्स, github.com/alpharomercoma/openweights पर उपलब्ध है।
अपने फ़ोन पर ओपन-वेट एआई मॉडल चलाएँ। कोई खाता नहीं, कोई क्लाउड नहीं, कोई टेलीमेट्री नहीं।
पिछली बार अपडेट होने की तारीख
डेटा सुरक्षा के लिहाज़ से यह जानना बेहद अहम है कि डेवलपर, आपका डेटा कैसे इकट्ठा और शेयर करते हैं. डेटा को निजी और सुरक्षित रखने के अलग-अलग तरीके हो सकते हैं. ये आपकी जगह, उम्र, और ऐप्लिकेशन के इस्तेमाल के हिसाब से तय किए जाते हैं. यह जानकारी डेवलपर से मिली है और वह समय-समय पर इसमें अपडेट भी कर सकता है.
- तीसरे पक्षों के साथ कोई डेटा शेयर नहीं किया जाताडेवलपर किस तरह से आपका डेटा शेयर करते हैं, इस बारे में ज़्यादा जानें
- कोई डेटा इकट्ठा नहीं किया जाताडेवलपर किस तरह से आपका डेटा इकट्ठा करते हैं, इस बारे में ज़्यादा जानें
इसमें नया क्या है
Compiled models fixed, and a search that listens
- ExecuTorch models now open on every phone; a crash on load is fixed
- The model picker shows all your models at once, with each compiled model's context window
- Compiled models say their context window before you download, and no longer overflow it: tools step aside and long chats fold to make room
- Typing in Discover searches all of Hugging Face
- Big downloads finish without a long check at the end, and Cancel stops them at once
- ExecuTorch models now open on every phone; a crash on load is fixed
- The model picker shows all your models at once, with each compiled model's context window
- Compiled models say their context window before you download, and no longer overflow it: tools step aside and long chats fold to make room
- Typing in Discover searches all of Hugging Face
- Big downloads finish without a long check at the end, and Cancel stops them at once
ऐप्लिकेशन से जुड़ी सहायता
डेवलपर के बारे में
Alpha Romer N. Coma
alpha.coma.ict@gmail.com
Blk 193 LOT 16 17th Street Phase 5B
Meycauayan
3020
Philippines
