OpenWeights: Edge Inference
13 éven felülieknek
info
1+
letöltés
Az alkalmazásról
Az OpenWeights nyílt súlyú nyelvi modelleket futtat közvetlenül a telefonodon. Nincs szükség fiók létrehozására, nincs szerver, amellyel kommunikálni lehetne, és semmi sem mérhető rólad.
Keresd meg a Hugging Face-t az alkalmazáson belül, ellenőrizd, hogy a modell valóban fut-e az eszközödön, mielőtt letöltenéd, és csevegj vele. Minden tokent a saját hardvered állít elő.
BÁRMELY MODELL, NEM KATALÓGUS
Más eszközön futó alkalmazások egy rövid listát adnak át, amelyet valaki más választott. Az OpenWeights a Hubot adja át. Ha valaki egy órával ezelőtt közzétett egy GGUF-et, akkor futtathatod.
ŐSZINTE AZ ESZKÖZÖDRŐL
Mielőtt elköltenél néhány gigabájtot, az alkalmazás beolvassa a modell fejlécét a hálózaton keresztül, és megmondja, hogy mire van szüksége a kiválasztott kontextushossz mellett, nagyjából milyen gyors lesz, és hogy egyáltalán fut-e a telefonodon.
VALÓS SZÁMOK, ELŐTTED
Tokenek másodpercenként, az első tokenig eltelt idő és a kontextusablak teltségének mértéke, csevegés közben látható, nem pedig rejtve.
TIÉD A HANGOLÁS
Hőmérséklet, top-p, top-k, ismétlési büntetés, kontextushossz, a rendszerkérdés és az, amit a modell kap az eszközeiről, mind modellenként mentve. Ahol a modell gondolkodhat, mielőtt válaszol, az szintén egy kapcsoló, és egy működő GPU-val rendelkező telefonon megmondhatod, hogy melyik processzor tartalmazza a rétegeket.
TÖBB, MINT SZÖVEG
Képek és hanganyagok olyan modellekhez, amelyek projektort szállítanak nekik, dokumentumok, amelyeket bármely modell elolvashat, diktálás a telefonod saját eszközfelismerőjén keresztül, és hangos felolvasás.
EGY ASSZISZTENS, AKI CSELEKVÉSRE TUD
A modell kereshet a weben, felolvashat egy oldalt, és dolgozhat egy általad megosztott mappával. Te döntöd el, hogy mennyi kötelet kap: hagyd jóvá minden lépést, hagyd futni, vagy kérd meg, hogy először tervezzen, és mondja el, mit tenne, mielőtt bármi történne. Feltehet neked egy tisztázó kérdést, és követhet egy ellenőrzőlistát, amelyet magad is kipipálhatsz. Minden eszköz kikapcsolható.
A KIALAKÍTÁS ÁLTAL BIZTOSÍTOTT
A beszélgetéseid, a modelljeid és a használatod az eszközön maradnak. Nincs analitikai SDK, nincs hibajelentés-készítő, és nincs saját backendünk. Az automatikus biztonsági mentés és az eszközátvitel ki van kapcsolva, így az új telefon nem örökli a csevegéseket. Az eltávolítás mindent eltávolít.
Két eszköz éri el az internetet, mert muszáj: a webes keresés és az oldalak lekérése. Mindkettő egy olyan címsor alatt szerepel, amely szerint elhagyják az eszközt, mindkettő kikapcsolható, és minden hívás egy sor a válaszban, amely megnevezi és megadja, hogy mit kapott. Az Ölelő Face tokened, ha beállítasz egyet, titkosítva van az Android Keystore-ban tárolt kulccsal, és csak az Ölelő Face-nek kerül elküldésre.
AMIRE SZÜKSÉGED VAN
Android 12 vagy újabb, 64 bites ARM eszköz és elegendő memória a választott modellhez. Az alkalmazás a letöltés előtt tájékoztat.
A modellek harmadik féltől származnak. Te választod ki, hogy melyiket futtatod, és amit ír, az a kiadó munkája, nem pedig a miénk. Nyílt forráskódú, a github.com/alpharomercoma/openweights oldalon.
Keresd meg a Hugging Face-t az alkalmazáson belül, ellenőrizd, hogy a modell valóban fut-e az eszközödön, mielőtt letöltenéd, és csevegj vele. Minden tokent a saját hardvered állít elő.
BÁRMELY MODELL, NEM KATALÓGUS
Más eszközön futó alkalmazások egy rövid listát adnak át, amelyet valaki más választott. Az OpenWeights a Hubot adja át. Ha valaki egy órával ezelőtt közzétett egy GGUF-et, akkor futtathatod.
ŐSZINTE AZ ESZKÖZÖDRŐL
Mielőtt elköltenél néhány gigabájtot, az alkalmazás beolvassa a modell fejlécét a hálózaton keresztül, és megmondja, hogy mire van szüksége a kiválasztott kontextushossz mellett, nagyjából milyen gyors lesz, és hogy egyáltalán fut-e a telefonodon.
VALÓS SZÁMOK, ELŐTTED
Tokenek másodpercenként, az első tokenig eltelt idő és a kontextusablak teltségének mértéke, csevegés közben látható, nem pedig rejtve.
TIÉD A HANGOLÁS
Hőmérséklet, top-p, top-k, ismétlési büntetés, kontextushossz, a rendszerkérdés és az, amit a modell kap az eszközeiről, mind modellenként mentve. Ahol a modell gondolkodhat, mielőtt válaszol, az szintén egy kapcsoló, és egy működő GPU-val rendelkező telefonon megmondhatod, hogy melyik processzor tartalmazza a rétegeket.
TÖBB, MINT SZÖVEG
Képek és hanganyagok olyan modellekhez, amelyek projektort szállítanak nekik, dokumentumok, amelyeket bármely modell elolvashat, diktálás a telefonod saját eszközfelismerőjén keresztül, és hangos felolvasás.
EGY ASSZISZTENS, AKI CSELEKVÉSRE TUD
A modell kereshet a weben, felolvashat egy oldalt, és dolgozhat egy általad megosztott mappával. Te döntöd el, hogy mennyi kötelet kap: hagyd jóvá minden lépést, hagyd futni, vagy kérd meg, hogy először tervezzen, és mondja el, mit tenne, mielőtt bármi történne. Feltehet neked egy tisztázó kérdést, és követhet egy ellenőrzőlistát, amelyet magad is kipipálhatsz. Minden eszköz kikapcsolható.
A KIALAKÍTÁS ÁLTAL BIZTOSÍTOTT
A beszélgetéseid, a modelljeid és a használatod az eszközön maradnak. Nincs analitikai SDK, nincs hibajelentés-készítő, és nincs saját backendünk. Az automatikus biztonsági mentés és az eszközátvitel ki van kapcsolva, így az új telefon nem örökli a csevegéseket. Az eltávolítás mindent eltávolít.
Két eszköz éri el az internetet, mert muszáj: a webes keresés és az oldalak lekérése. Mindkettő egy olyan címsor alatt szerepel, amely szerint elhagyják az eszközt, mindkettő kikapcsolható, és minden hívás egy sor a válaszban, amely megnevezi és megadja, hogy mit kapott. Az Ölelő Face tokened, ha beállítasz egyet, titkosítva van az Android Keystore-ban tárolt kulccsal, és csak az Ölelő Face-nek kerül elküldésre.
AMIRE SZÜKSÉGED VAN
Android 12 vagy újabb, 64 bites ARM eszköz és elegendő memória a választott modellhez. Az alkalmazás a letöltés előtt tájékoztat.
A modellek harmadik féltől származnak. Te választod ki, hogy melyiket futtatod, és amit ír, az a kiadó munkája, nem pedig a miénk. Nyílt forráskódú, a github.com/alpharomercoma/openweights oldalon.
Futtass nyílt súlyú MI modelleket a telefonodon. Nincs fiók, nincs felhő, nincs telemetria.
Frissítve:
A biztonság annak megértésével kezdődik, hogy miként gyűjtik és osztják meg a fejlesztők az adataidat. Az adatvédelemmel és -biztonsággal kapcsolatos gyakorlat a használattól, a régiótól és életkortól függően változhat. A fejlesztő adta meg ezeket az információkat, és idővel frissítheti őket.
- Nem osztanak meg adatokat harmadik felekkelTovábbi információ arról, hogy miként deklarálják a fejlesztők a megosztást
- Nem történt adatgyűjtésTovábbi információ arról, hogy miként deklarálják a fejlesztők a gyűjtést
Újdonságok
Compiled models for everyone, a search that listens, and a shortcut from "Ready to use"
- Every install now runs both engines, so ExecuTorch models download on any phone
- Typing in Discover searches all of Hugging Face, not just the recommended shelf
- Recommended compiled models now follow our five-phone benchmarks: Qwen3 1.7B, LFM2.5 1.2B and Llama 3.2 3B
- Tapping the download-finished notification opens a fresh chat on that model
- Every install now runs both engines, so ExecuTorch models download on any phone
- Typing in Discover searches all of Hugging Face, not just the recommended shelf
- Recommended compiled models now follow our five-phone benchmarks: Qwen3 1.7B, LFM2.5 1.2B and Llama 3.2 3B
- Tapping the download-finished notification opens a fresh chat on that model
Alkalmazás támogatása
A fejlesztőről
Alpha Romer N. Coma
alpha.coma.ict@gmail.com
Blk 193 LOT 16 17th Street Phase 5B
Meycauayan
3020
Philippines
