OpenWeights პირდაპირ თქვენს ტელეფონზე ამუშავებს ღია წონის ენის მოდელებს. არ არის ანგარიშის შექმნა, სერვერთან საუბარი და არაფერია თქვენს შესახებ გაზომილი.
მოძებნეთ Hugging Face აპლიკაციაში, გაარკვიეთ, რეალურად იმუშავებს თუ არა მოდელი თქვენს მოწყობილობაზე მის ჩამოტვირთვამდე და ესაუბრეთ მას. ყველა ტოკენი თქვენივე აპარატურით არის შექმნილი.
ნებისმიერი მოდელი, არა კატალოგი
სხვა მოწყობილობაზე დამონტაჟებული აპლიკაციები გთავაზობენ სხვის მიერ არჩეული მოკლე სიას. OpenWeights გთავაზობს ჰაბს. თუ ვინმემ GGUF გამოაქვეყნა ერთი საათის წინ, შეგიძლიათ გაუშვათ.
გულწრფელად ისაუბრეთ თქვენს მოწყობილობაზე
სანამ გიგაბაიტებს დახარჯავთ, აპლიკაცია კითხულობს მოდელის სათაურს ქსელში და გეუბნებათ, რა სჭირდება მას თქვენს მიერ არჩეული კონტექსტის სიგრძეზე, დაახლოებით რამდენად სწრაფი იქნება ის და იმუშავებს თუ არა საერთოდ თქვენს ტელეფონზე.
რეალური რიცხვები, თქვენს წინაშე
წამში ტოკენები, პირველი ტოკენის დრო და რამდენად სავსეა კონტექსტური ფანჯარა, ნაჩვენებია ჩატის დროს და არა დამალული.
თქვენი არჩევანი
ტემპერატურა, ზედა p, ზედა k, გამეორების ჯარიმა, კონტექსტის ხანგრძლივობა, სისტემის მოთხოვნა და ის, რაც მოდელს ეუბნება მისი ხელსაწყოების შესახებ, ყველაფერი ინახება თითოეული მოდელის მიხედვით. სადაც მოდელს შეუძლია იფიქროს პასუხის გაცემამდე, ეს ასევე გადამრთველია, ხოლო ტელეფონზე, რომელსაც აქვს მომუშავე GPU, შეგიძლიათ თქვათ, რომელ პროცესორს აქვს ფენები.
მეტი, ვიდრე ტექსტი
სურათები და აუდიო იმ მოდელებისთვის, რომლებიც მათთვის პროექტორს აგზავნიან, დოკუმენტები, რომელთა წაკითხვაც ნებისმიერ მოდელს შეუძლია, კარნახი თქვენი ტელეფონის საკუთარი მოწყობილობის ამოცნობის საშუალებით და ხმამაღლა კითხვა.
ასისტენტი, რომელსაც შეუძლია მოქმედება
მოდელს შეუძლია ინტერნეტში ძიება, გვერდის წაკითხვა და თქვენს მიერ გაზიარებულ საქაღალდესთან მუშაობა. თქვენ წყვეტთ, რამდენი თოკი ექნება მას: დაამტკიცეთ თითოეული ნაბიჯი, მიეცით მას საშუალება იმუშაოს ან სთხოვეთ, ჯერ დაგეგმოს და თქვას, რას გააკეთებს, სანამ რამე მოხდება. მას შეუძლია დაგისვათ განმარტებითი კითხვა და დაიცვას საკონტროლო სია, რომლის მონიშვნაც თავად შეგიძლიათ. ყველა ხელსაწყოს გამორთვა შესაძლებელია.
კონსტრუირებით კონფიდენციალური
თქვენი საუბრები, თქვენი მოდელები და თქვენი გამოყენება მოწყობილობაზე რჩება. არ არსებობს ანალიტიკის SDK, ავარიის შესახებ რეპორტიორი და ჩვენი ბექენდი. ავტომატური სარეზერვო ასლი და მოწყობილობის გადაცემა გამორთულია, ამიტომ ახალი ტელეფონი არ მემკვიდრეობით იღებს თქვენს ჩატებს. დეინსტალაცია ყველაფერს შლის.
ინტერნეტამდე ორი ინსტრუმენტი აღწევს, რადგან მათ ეს უნდა გააკეთონ: ვებ ძიება და გვერდის მოძიება. ორივე ჩამოთვლილია სათაურის ქვეშ, რომელიც ამბობს, რომ ისინი ტოვებენ მოწყობილობას, ორივეს გამორთვა შესაძლებელია და თითოეული ზარი, რომელიც თქვენ განახორციელებთ, არის ხაზი პასუხში, რომელიც ასახელებს მას და რა მიენიჭა მას. თქვენი Hugging Face ტოკენი, თუ დააყენებთ, დაშიფრულია Android Keystore-ში შენახული გასაღებით და იგზავნება მხოლოდ Hugging Face-ზე.
რა გჭირდებათ
Android 12 ან უფრო ახალი, 64-ბიტიანი ARM მოწყობილობა და საკმარისი მეხსიერება თქვენს მიერ არჩეული მოდელისთვის. აპლიკაცია გეტყვით ჩამოტვირთვის წინ.
მოდელები მესამე მხარისგან მოდის. თქვენ ირჩევთ რომელი გაუშვათ და ის, რაც მასშია მითითებული, მისი გამომცემლის ნამუშევარია და არა ჩვენი. ღია კოდი, github.com/alpharomercoma/openweights-ზე.
გაუშვით ღია წონის ხელოვნური ინტელექტის მოდელები თქვენს ტელეფონზე. არც ანგარიში, არც ღრუბელი, არც ტელემეტრია.