OpenWeights: Edge Inference
किशोरवयीन
info
१+
डाउनलोड
या अॅपविषयी
ओपनवेट्स (OpenWeights) ओपन-वेट लँग्वेज मॉडेल्स थेट तुमच्या फोनवर चालवते. कोणतेही खाते तयार करण्याची गरज नाही, कोणत्याही सर्व्हरशी संवाद साधण्याची आवश्यकता नाही आणि तुमच्याबद्दल काहीही मोजले जात नाही.
ॲपमधूनच 'हगिंग फेस' (Hugging Face) शोधा, एखादे मॉडेल डाउनलोड करण्यापूर्वी ते तुमच्या डिव्हाइसवर खरोखर चालेल की नाही हे जाणून घ्या आणि त्याच्याशी चॅट करा. प्रत्येक टोकन तुमच्या स्वतःच्या हार्डवेअरद्वारे तयार केले जाते.
कोणतेही मॉडेल, कॅटलॉग नाही
इतर ऑन-डिव्हाइस ॲप्स तुम्हाला दुसऱ्या कोणीतरी निवडलेली एक छोटी यादी देतात. ओपनवेट्स तुम्हाला हब (Hub) देते. जर कोणी एका तासापूर्वी GGUF प्रकाशित केले असेल, तर तुम्ही ते चालवू शकता.
तुमच्या डिव्हाइसबद्दल प्रामाणिक
तुम्ही गिगाबाईट्स खर्च करण्यापूर्वी, ॲप नेटवर्कवरून मॉडेलचे हेडर वाचते आणि तुम्ही निवडलेल्या कॉन्टेक्स्ट लेंथनुसार त्याला काय आवश्यक आहे, ते अंदाजे किती वेगाने चालेल आणि ते तुमच्या फोनवर चालेल की नाही हे सांगते.
वास्तविक आकडे, तुमच्या समोर
प्रति सेकंद टोकन्स, पहिल्या टोकनपर्यंत लागणारा वेळ आणि कॉन्टेक्स्ट विंडो किती भरली आहे, हे सर्व तुम्ही चॅट करत असताना लपवण्याऐवजी दाखवले जाते.
तुमच्या नियंत्रणाखाली
तापमान, टॉप-पी, टॉप-के, रिपीट पेनल्टी, संदर्भाची लांबी, सिस्टम प्रॉम्प्ट आणि मॉडेलला त्याच्या साधनांबद्दल काय सांगितले जाते, हे सर्व प्रत्येक मॉडेलनुसार सेव्ह केले जाते. मॉडेल उत्तर देण्यापूर्वी कुठे विचार करू शकते, यासाठी देखील एक स्विच आहे, आणि कार्यरत GPU असलेल्या फोनवर तुम्ही सांगू शकता की कोणत्या प्रोसेसरमध्ये लेयर्स आहेत.
केवळ मजकुरापेक्षा अधिक
ज्या मॉडेल्ससोबत प्रोजेक्टर येतो त्यांच्यासाठी प्रतिमा आणि ऑडिओ, कोणतेही मॉडेल वाचू शकणारे दस्तऐवज, तुमच्या फोनच्या स्वतःच्या ऑन-डिव्हाइस रेकग्नायझरद्वारे श्रुतलेखन, आणि मोठ्याने वाचण्याची सोय.
कृती करू शकणारा एक सहाय्यक
मॉडेल वेबवर शोध घेऊ शकते, एखादे पान वाचू शकते, आणि तुम्ही शेअर करण्यासाठी निवडलेल्या फोल्डरवर काम करू शकते. त्याला किती मोकळीक द्यायची हे तुम्ही ठरवता: प्रत्येक टप्प्याला मान्यता द्या, त्याला चालू द्या, किंवा काहीही होण्यापूर्वी त्याला आधी नियोजन करण्यास आणि ते काय करेल हे सांगण्यास सांगा. ते तुम्हाला स्पष्टीकरणात्मक प्रश्न विचारू शकते आणि तुम्ही स्वतः टिक करू शकणाऱ्या चेकलिस्टचे पालन करू शकते. प्रत्येक साधन बंद केले जाऊ शकते.
रचनेनुसार खाजगी
तुमची संभाषणे, तुमचे मॉडेल्स आणि तुमचा वापर डिव्हाइसवरच राहतो. यात कोणतेही ॲनालिटिक्स SDK, क्रॅश रिपोर्टर किंवा आमचे बॅकएंड नाही. ऑटोमॅटिक बॅकअप आणि डिव्हाइस ट्रान्सफर बंद केलेले आहेत, त्यामुळे नवीन फोनमध्ये तुमच्या चॅट्सचा समावेश होत नाही. अनइन्स्टॉल केल्यास सर्व काही काढून टाकले जाते.
दोन टूल्स इंटरनेटवर पोहोचतात, कारण त्यांना तसे करणे आवश्यक आहे: वेब सर्च आणि पेज फेचिंग. दोन्ही 'ते डिव्हाइस सोडतात' या शीर्षकाखाली सूचीबद्ध आहेत, दोन्ही बंद केले जाऊ शकतात आणि तुम्ही केलेला प्रत्येक कॉल उत्तरामध्ये एका ओळीत नमूद केला जातो, ज्यात त्याचे नाव आणि त्याला काय माहिती दिली होती हे सांगितले जाते. तुम्ही सेट केलेले तुमचे हगिंग फेस टोकन, अँड्रॉइड कीस्टोअरमध्ये असलेल्या कीने एनक्रिप्ट केलेले असते आणि ते फक्त हगिंग फेसला पाठवले जाते.
तुम्हाला काय आवश्यक आहे
अँड्रॉइड 12 किंवा त्याहून नवीन, एक 64-बिट ARM डिव्हाइस आणि तुम्ही निवडलेल्या मॉडेलसाठी पुरेशी मेमरी. ॲप तुम्हाला डाउनलोड करण्यापूर्वी सांगेल.
मॉडेल्स तृतीय पक्षांकडून येतात. तुम्ही कोणते मॉडेल चालवायचे हे निवडता आणि ते जे काही दाखवते ते आमच्याऐवजी त्याच्या प्रकाशकाचे काम असते. ओपन सोर्स, github.com/alpharomercoma/openweights येथे उपलब्ध.
ॲपमधूनच 'हगिंग फेस' (Hugging Face) शोधा, एखादे मॉडेल डाउनलोड करण्यापूर्वी ते तुमच्या डिव्हाइसवर खरोखर चालेल की नाही हे जाणून घ्या आणि त्याच्याशी चॅट करा. प्रत्येक टोकन तुमच्या स्वतःच्या हार्डवेअरद्वारे तयार केले जाते.
कोणतेही मॉडेल, कॅटलॉग नाही
इतर ऑन-डिव्हाइस ॲप्स तुम्हाला दुसऱ्या कोणीतरी निवडलेली एक छोटी यादी देतात. ओपनवेट्स तुम्हाला हब (Hub) देते. जर कोणी एका तासापूर्वी GGUF प्रकाशित केले असेल, तर तुम्ही ते चालवू शकता.
तुमच्या डिव्हाइसबद्दल प्रामाणिक
तुम्ही गिगाबाईट्स खर्च करण्यापूर्वी, ॲप नेटवर्कवरून मॉडेलचे हेडर वाचते आणि तुम्ही निवडलेल्या कॉन्टेक्स्ट लेंथनुसार त्याला काय आवश्यक आहे, ते अंदाजे किती वेगाने चालेल आणि ते तुमच्या फोनवर चालेल की नाही हे सांगते.
वास्तविक आकडे, तुमच्या समोर
प्रति सेकंद टोकन्स, पहिल्या टोकनपर्यंत लागणारा वेळ आणि कॉन्टेक्स्ट विंडो किती भरली आहे, हे सर्व तुम्ही चॅट करत असताना लपवण्याऐवजी दाखवले जाते.
तुमच्या नियंत्रणाखाली
तापमान, टॉप-पी, टॉप-के, रिपीट पेनल्टी, संदर्भाची लांबी, सिस्टम प्रॉम्प्ट आणि मॉडेलला त्याच्या साधनांबद्दल काय सांगितले जाते, हे सर्व प्रत्येक मॉडेलनुसार सेव्ह केले जाते. मॉडेल उत्तर देण्यापूर्वी कुठे विचार करू शकते, यासाठी देखील एक स्विच आहे, आणि कार्यरत GPU असलेल्या फोनवर तुम्ही सांगू शकता की कोणत्या प्रोसेसरमध्ये लेयर्स आहेत.
केवळ मजकुरापेक्षा अधिक
ज्या मॉडेल्ससोबत प्रोजेक्टर येतो त्यांच्यासाठी प्रतिमा आणि ऑडिओ, कोणतेही मॉडेल वाचू शकणारे दस्तऐवज, तुमच्या फोनच्या स्वतःच्या ऑन-डिव्हाइस रेकग्नायझरद्वारे श्रुतलेखन, आणि मोठ्याने वाचण्याची सोय.
कृती करू शकणारा एक सहाय्यक
मॉडेल वेबवर शोध घेऊ शकते, एखादे पान वाचू शकते, आणि तुम्ही शेअर करण्यासाठी निवडलेल्या फोल्डरवर काम करू शकते. त्याला किती मोकळीक द्यायची हे तुम्ही ठरवता: प्रत्येक टप्प्याला मान्यता द्या, त्याला चालू द्या, किंवा काहीही होण्यापूर्वी त्याला आधी नियोजन करण्यास आणि ते काय करेल हे सांगण्यास सांगा. ते तुम्हाला स्पष्टीकरणात्मक प्रश्न विचारू शकते आणि तुम्ही स्वतः टिक करू शकणाऱ्या चेकलिस्टचे पालन करू शकते. प्रत्येक साधन बंद केले जाऊ शकते.
रचनेनुसार खाजगी
तुमची संभाषणे, तुमचे मॉडेल्स आणि तुमचा वापर डिव्हाइसवरच राहतो. यात कोणतेही ॲनालिटिक्स SDK, क्रॅश रिपोर्टर किंवा आमचे बॅकएंड नाही. ऑटोमॅटिक बॅकअप आणि डिव्हाइस ट्रान्सफर बंद केलेले आहेत, त्यामुळे नवीन फोनमध्ये तुमच्या चॅट्सचा समावेश होत नाही. अनइन्स्टॉल केल्यास सर्व काही काढून टाकले जाते.
दोन टूल्स इंटरनेटवर पोहोचतात, कारण त्यांना तसे करणे आवश्यक आहे: वेब सर्च आणि पेज फेचिंग. दोन्ही 'ते डिव्हाइस सोडतात' या शीर्षकाखाली सूचीबद्ध आहेत, दोन्ही बंद केले जाऊ शकतात आणि तुम्ही केलेला प्रत्येक कॉल उत्तरामध्ये एका ओळीत नमूद केला जातो, ज्यात त्याचे नाव आणि त्याला काय माहिती दिली होती हे सांगितले जाते. तुम्ही सेट केलेले तुमचे हगिंग फेस टोकन, अँड्रॉइड कीस्टोअरमध्ये असलेल्या कीने एनक्रिप्ट केलेले असते आणि ते फक्त हगिंग फेसला पाठवले जाते.
तुम्हाला काय आवश्यक आहे
अँड्रॉइड 12 किंवा त्याहून नवीन, एक 64-बिट ARM डिव्हाइस आणि तुम्ही निवडलेल्या मॉडेलसाठी पुरेशी मेमरी. ॲप तुम्हाला डाउनलोड करण्यापूर्वी सांगेल.
मॉडेल्स तृतीय पक्षांकडून येतात. तुम्ही कोणते मॉडेल चालवायचे हे निवडता आणि ते जे काही दाखवते ते आमच्याऐवजी त्याच्या प्रकाशकाचे काम असते. ओपन सोर्स, github.com/alpharomercoma/openweights येथे उपलब्ध.
तुमच्या फोनवर ओपन-वेट एआय मॉडेल्स चालवा. अकाउंट नाही, क्लाउड नाही, टेलिमेट्री नाही.
या रोजी अपडेट केले
डेव्हलपर तुमचा डेटा कसा गोळा करतात आणि शेअर करतात हे समजून घेण्यापासून सुरक्षितता सुरू होते. तुमचा वापर, प्रदेश आणि वय यांच्या आधारे डेटा गोपनीयता व सुरक्षेशी संबंधित पद्धती बदलू शकतात. डेव्हलपरने ही माहिती पुरवली आहे आणि ती कालांतराने अपडेट केली जाऊ शकते.
- तृतीय पक्षांसोबत कोणताही डेटा शेअर केलेला नाहीडेव्हलपर शेअर करण्याविषयी माहिती कशी घोषित करतात याविषयी अधिक जाणून घ्या
- कोणताही डेटा गोळा केलेला नाहीडेव्हलपर डेटा गोळा करण्याविषयी माहिती कशी घोषित करतात याविषयी अधिक जाणून घ्या
नवीन काय आहे
Compiled models for everyone, a search that listens, and a shortcut from "Ready to use"
- Every install now runs both engines, so ExecuTorch models download on any phone
- Typing in Discover searches all of Hugging Face, not just the recommended shelf
- Recommended compiled models now follow our five-phone benchmarks: Qwen3 1.7B, LFM2.5 1.2B and Llama 3.2 3B
- Tapping the download-finished notification opens a fresh chat on that model
- Every install now runs both engines, so ExecuTorch models download on any phone
- Typing in Discover searches all of Hugging Face, not just the recommended shelf
- Recommended compiled models now follow our five-phone benchmarks: Qwen3 1.7B, LFM2.5 1.2B and Llama 3.2 3B
- Tapping the download-finished notification opens a fresh chat on that model
ॲप सपोर्ट
डेव्हलपर याविषयी
Alpha Romer N. Coma
alpha.coma.ict@gmail.com
Blk 193 LOT 16 17th Street Phase 5B
Meycauayan
3020
Philippines
