OpenWeights: Edge Inference

Alpha Romer Coma‏

اس ایپ کے بارے میں

OpenWeights آپ کے فون پر براہ راست اوپن ویٹ لینگویج ماڈل چلاتا ہے۔ بنانے کے لیے کوئی اکاؤنٹ نہیں ہے، بات کرنے کے لیے کوئی سرور نہیں ہے، اور آپ کے بارے میں کچھ بھی نہیں ماپا گیا ہے۔

ایپ کے اندر سے Hugging Face تلاش کریں، معلوم کریں کہ آیا آپ کے آلے کو ڈاؤن لوڈ کرنے سے پہلے آپ کے آلے پر کوئی ماڈل چلائے گا، اور اس کے ساتھ چیٹ کریں۔ ہر ٹوکن آپ کے اپنے ہارڈ ویئر کے ذریعہ تیار کیا جاتا ہے۔

کوئی بھی ماڈل، کیٹلاگ نہیں۔

دیگر آن ڈیوائس ایپس آپ کو ایک مختصر فہرست فراہم کرتی ہیں جسے کسی اور نے منتخب کیا ہے۔ OpenWeights آپ کو مرکز کے حوالے کرتا ہے۔ اگر کسی نے ایک گھنٹہ پہلے GGUF شائع کیا تو آپ اسے چلا سکتے ہیں۔

آپ کے آلے کے بارے میں ایماندار

اس سے پہلے کہ آپ گیگا بائٹس خرچ کریں، ایپ نیٹ ورک پر ماڈل کے ہیڈر کو پڑھتی ہے اور آپ کو بتاتی ہے کہ آپ کے منتخب کردہ سیاق و سباق کی لمبائی پر اسے کیا ضرورت ہے، تقریباً یہ کتنی تیز ہوگی، اور آیا یہ آپ کے فون پر بالکل بھی چلے گی۔

حقیقی نمبر، آپ کے سامنے

ٹوکن فی سیکنڈ، پہلے ٹوکن کا وقت، اور سیاق و سباق کی ونڈو کتنی بھری ہوئی ہے، جب آپ چیٹ کرتے وقت چھپنے کی بجائے دکھائی دیتے ہیں۔

ٹیون کرنے کے لیے آپ کا

درجہ حرارت، ٹاپ-پی، ٹاپ-کے، ریپیٹ پینلٹی، سیاق و سباق کی لمبائی، سسٹم پرامپٹ اور ماڈل کو اس کے ٹولز کے بارے میں کیا بتایا گیا ہے، یہ سب فی ماڈل محفوظ ہیں۔ جہاں ایک ماڈل جواب دینے سے پہلے سوچ سکتا ہے کہ یہ ایک سوئچ بھی ہے، اور کام کرنے والے GPU والے فون پر آپ کہہ سکتے ہیں کہ کون سا پروسیسر تہوں کو رکھتا ہے۔

متن سے زیادہ

ان ماڈلز کے لیے امیجز اور آڈیو جو ان کے لیے پروجیکٹر بھیجتے ہیں، وہ دستاویزات جو کوئی بھی ماڈل پڑھ سکتا ہے، آپ کے فون کے اپنے آن ڈیوائس ریکگنائزر کے ذریعے ڈکٹیشن، اور بلند آواز میں پڑھنا۔

ایک اسسٹنٹ جو کام کر سکتا ہے۔

ماڈل ویب پر تلاش کر سکتا ہے، صفحہ پڑھ سکتا ہے، اور اس فولڈر کے ساتھ کام کر سکتا ہے جسے آپ اشتراک کرنے کا انتخاب کرتے ہیں۔ آپ فیصلہ کریں کہ اسے کتنی رسی ملتی ہے: ہر قدم کو منظور کریں، اسے چلنے دیں، یا اس سے پہلے منصوبہ بندی کرنے کو کہیں اور کہیں کہ یہ کچھ ہونے سے پہلے کیا کرے گا۔ یہ آپ سے ایک واضح سوال پوچھ سکتا ہے اور ایک چیک لسٹ کی پیروی کر سکتا ہے جس پر آپ خود نشان لگا سکتے ہیں۔ ہر ٹول کو بند کیا جا سکتا ہے۔

تعمیر کے لحاظ سے نجی

آپ کی گفتگو، آپ کے ماڈلز اور آپ کا استعمال ڈیوائس پر ہی رہتا ہے۔ کوئی اینالیٹکس SDK نہیں ہے، کوئی کریش رپورٹر نہیں ہے، اور ہمارا کوئی بیک اینڈ نہیں ہے۔ خودکار بیک اپ اور ڈیوائس کی منتقلی بند کردی گئی ہے، اس لیے نیا فون آپ کی چیٹس کا وارث نہیں ہوتا ہے۔ ان انسٹال کرنا ہر چیز کو ہٹا دیتا ہے۔

دو ٹولز انٹرنیٹ تک پہنچتے ہیں، کیونکہ انہیں یہ کرنا پڑتا ہے: ویب سرچ اور صفحہ بازیافت کرنا۔ دونوں کو ایک عنوان کے تحت درج کیا گیا ہے جس میں کہا گیا ہے کہ وہ ڈیوائس کو چھوڑ دیتے ہیں، دونوں کو بند کیا جا سکتا ہے، اور جو بھی کال کرتا ہے اس کے جواب میں ایک قطار ہوتی ہے جو اس کے نام اور اسے کیا دیا گیا تھا۔ آپ کا Hugging Face ٹوکن، اگر آپ اسے سیٹ کرتے ہیں، تو اینڈرائیڈ کیسٹور میں رکھی ہوئی کلید کے ساتھ انکرپٹ کیا جاتا ہے اور صرف Hugging Face کو بھیجا جاتا ہے۔

آپ کو کیا ضرورت ہے

Android 12 یا جدید تر، ایک 64-bit ARM ڈیوائس، اور آپ کے منتخب کردہ ماڈل کے لیے کافی میموری۔ ایپ ڈاؤن لوڈ کرنے سے پہلے آپ کو بتائے گی۔

ماڈل تیسرے فریق سے آتے ہیں۔ آپ انتخاب کرتے ہیں کہ کون سا چلانا ہے، اور یہ جو کہتا ہے وہ ہمارے بجائے اس کے پبلشر کا کام ہے۔ اوپن سورس، github.com/alpharomercoma/openweights پر۔

نیا کیا ہے

Compiled models for everyone, a search that listens, and a shortcut from "Ready to use"

- Every install now runs both engines, so ExecuTorch models download on any phone
- Typing in Discover searches all of Hugging Face, not just the recommended shelf
- Recommended compiled models now follow our five-phone benchmarks: Qwen3 1.7B, LFM2.5 1.2B and Llama 3.2 3B
- Tapping the download-finished notification opens a fresh chat on that model