OpenWeights: Edge Inference

Alpha Romer Coma‏

لمحة عن هذا التطبيق

يُشغّل OpenWeights نماذج اللغة مفتوحة الوزن مباشرةً على هاتفك. لا حاجة لإنشاء حساب، ولا خادم للتواصل معه، ولا يتم قياس أي بيانات عنك.

ابحث عن Hugging Face من داخل التطبيق، وتأكد من توافق النموذج مع جهازك قبل تنزيله، وجرّبه في المحادثة. كل رمز يُنتج بواسطة جهازك.

أي نموذج، وليس مجرد قائمة

تقدم لك تطبيقات أخرى قائمة مختصرة مختارة من قِبل جهات أخرى. أما OpenWeights فيمنحك المنصة. إذا نشر أحدهم نموذج GGUF قبل ساعة، يمكنك تشغيله.

شفافية تامة بشأن جهازك

قبل استهلاك أي بيانات، يقرأ التطبيق رأس النموذج عبر الشبكة، ويُخبرك بما يحتاجه بناءً على طول السياق الذي اخترته، وسرعته التقريبية، وما إذا كان سيعمل على هاتفك.

أرقام حقيقية أمامك

عدد الرموز في الثانية، والوقت اللازم لظهور أول رمز، ومدى امتلاء نافذة السياق، تظهر جميعها أثناء المحادثة بدلاً من إخفائها.

خيارات قابلة للتخصيص

درجة الحرارة، وأعلى قيمة لكل رمز، وأعلى قيمة لكل ألف رمز، وعقوبة التكرار، وطول السياق، ورسالة النظام، والمعلومات التي يتلقاها النموذج حول أدواته، كل ذلك يُحفظ لكل نموذج على حدة. كما يمكنك تفعيل خيار "التفكير قبل الإجابة"، وفي الهواتف المزودة بمعالج رسومات (GPU) يعمل، يمكنك تحديد المعالج المسؤول عن الطبقات.

أكثر من مجرد نص

صور وملفات صوتية للنماذج المزودة بجهاز عرض، ومستندات يمكن لأي نموذج قراءتها، وإملاء صوتي عبر مُعرّف الصوت المدمج في هاتفك، وقراءة صوتية.

مساعد قادر على العمل

يستطيع النموذج البحث في الإنترنت، وقراءة صفحة، والعمل مع مجلد تختاره للمشاركة. أنت من يحدد صلاحياته: يمكنك الموافقة على كل خطوة، أو تركه يعمل تلقائيًا، أو مطالبته بالتخطيط أولاً وتحديد ما سيفعله قبل البدء. يمكن للتطبيق طرح سؤال توضيحي عليك واتباع قائمة تحقق يمكنك تحديدها بنفسك. يمكنك إيقاف تشغيل أي أداة.

خصوصية تامة

تبقى محادثاتك ونماذجك وبيانات استخدامك على جهازك. لا يوجد برنامج تحليلات، ولا أداة للإبلاغ عن الأعطال، ولا نظام خلفي خاص بنا. النسخ الاحتياطي التلقائي ونقل البيانات من الجهاز مُعطّلان، لذا لن تنتقل محادثاتك إلى هاتف جديد. يؤدي إلغاء التثبيت إلى حذف كل شيء.

تصل أداتان إلى الإنترنت، لأنهما مضطرتان لذلك: البحث على الويب وجلب الصفحات. يتم إدراج كلتيهما تحت عنوان يشير إلى أنهما تغادران الجهاز، ويمكن إيقاف تشغيلهما، وكل مكالمة تُجرى تُسجّل في الرد باسمها ومضمونها. يتم تشفير رمز Hugging Face الخاص بك، إن قمت بتعيينه، باستخدام مفتاح موجود في Android Keystore، ويتم إرساله فقط إلى Hugging Face.

المتطلبات

نظام Android 12 أو أحدث، جهاز بمعالج ARM 64 بت، وذاكرة كافية للطراز الذي تختاره. سيُعلمك التطبيق بذلك قبل التنزيل.

النماذج مُقدمة من جهات خارجية. أنت من يختار النموذج الذي ترغب بتشغيله، وما يُذكر هنا هو من عمل ناشره وليس من عملنا. البرنامج مفتوح المصدر، على الرابط github.com/alpharomercoma/openweights.

أحدث الميزات

Image detail, search width, and a breakdown of every reply

- Added a per-reply breakdown: long-press a reply for its timings, what the cache reused, and prefill and decode speeds.
- Added an image detail setting for vision models, trading speed against how much of a picture is read.
- Added a setting for how many results a search returns.
- Added a cancel button to downloads, and copying a reply as Markdown.
- Improved web page reading and pasted links.
- Fixed a greeting answered as a date.