OpenWeights kører open-weight sprogmodeller direkte på din telefon. Der er ingen konto at oprette, ingen server at tale med, og intet måles om dig.
Søg efter Hugging Face indefra appen, find ud af, om en model rent faktisk vil køre på din enhed, før du downloader den, og chat med den. Hver token produceres af din egen hardware.
ENHVER MODEL, IKKE ET KATALOG
Andre apps på enheden giver dig en kort liste, som en anden har valgt. OpenWeights giver dig Hubben. Hvis nogen har udgivet en GGUF for en time siden, kan du køre den.
ÆRLIG OM DIN ENHED
Før du bruger gigabyte, læser appen modellens header over netværket og fortæller dig, hvad den har brug for ved den valgte kontekstlængde, omtrent hvor hurtig den vil være, og om den overhovedet vil køre på din telefon.
REELT TAL, FORAN DIG
Tokens pr. sekund, tid til første token og hvor fuldt kontekstvinduet er, vist mens du chatter i stedet for skjult.
DIN INDSTILLING
Temperatur, top-p, top-k, gentagelsesstraf, kontekstlængde, systemprompten og hvad modellen får at vide om sine værktøjer, alt gemt pr. model. Hvor en model kan tænke, før den svarer, er der også en switch, og på en telefon med en fungerende GPU kan du angive, hvilken processor der indeholder lagene.
MERE END TEKST
Billeder og lyd til modeller, der sender en projektor til dem, dokumenter, som enhver model kan læse, diktering gennem din telefons egen genkendelsesprogram på enheden og højtlæsning.
EN ASSISTENT, DER KAN HANDLE
Modellen kan søge på nettet, læse en side og arbejde med en mappe, du vælger at dele. Du bestemmer, hvor meget reb den får: godkend hvert trin, lad den køre, eller bed den om at planlægge først og sige, hvad den ville gøre, før der sker noget. Den kan stille dig et afklarende spørgsmål og følge en tjekliste, du selv kan krydse af. Alle værktøjer kan slukkes.
PRIVAT VED KONSTRUKTION
Dine samtaler, dine modeller og din brug forbliver på enheden. Der er intet analyse-SDK, ingen crashrapporter og ingen backend fra os. Automatisk backup og enhedsoverførsel er slået fra, så en ny telefon arver ikke dine chats. Afinstallation fjerner alt.
To værktøjer når internettet, fordi de skal: websøgning og sidehentning. Begge er angivet under en overskrift, der siger, at de forlader enheden, begge kan slås fra, og hvert opkald, man foretager, er en række i svaret, der navngiver det og hvad det blev givet. Dit Hugging Face-token, hvis du indstiller et, er krypteret med en nøgle, der opbevares i Android Keystore, og sendes kun til Hugging Face.
HVAD DU SKAL BRUGE
Android 12 eller nyere, en 64-bit ARM-enhed og nok hukommelse til den model, du vælger. Appen fortæller dig det, før du downloader.
Modeller kommer fra tredjeparter. Du vælger, hvilken der skal køres, og det, der står, er udgiverens arbejde snarere end vores. Open source, på github.com/alpharomercoma/openweights.
Kør åbne AI-modeller på din telefon. Ingen konto, ingen cloud, ingen telemetri.