OpenWeights: Edge Inference
Yli 13-vuotiaat
info
1+
latausta
Tietoa sovelluksesta
OpenWeights suorittaa avoimen painotuksen kielimalleja suoraan puhelimellasi. Sinun ei tarvitse luoda tiliä, ei ole palvelinta, jonka kanssa keskustella, eikä mitään mitata sinusta.
Hae Hugging Face -sovellusta sovelluksen sisältä, selvitä, toimiiko malli todella laitteellasi ennen sen lataamista, ja keskustele sen kanssa. Jokainen token on oman laitteistosi tuottama.
MIKÄ TAHANSA MALLI, EI LUETTELO
Muut laitteella olevat sovellukset antavat sinulle jonkun muun valitseman lyhyen listan. OpenWeights antaa sinulle Hubin. Jos joku julkaisi GGUF:n tunti sitten, voit suorittaa sen.
REHELLINEN LAITTEESTASI
Ennen kuin kulutat gigatavuja, sovellus lukee mallin otsikon verkon kautta ja kertoo sinulle, mitä se tarvitsee valitsemallasi kontekstin pituudella, kuinka nopeasti se on suunnilleen ja toimiiko se ollenkaan puhelimellasi.
TODELLISIA NUMEROITA, EDESSÄSI
Tokeneita sekunnissa, aika ensimmäiseen tokeniin ja konteksti-ikkunan täyttyminen, näkyvät chattailun aikana piilottamatta niitä.
SINUN VIRITTÄMISTÄSI
Lämpötila, top-p, top-k, toistorangaistus, kontekstin pituus, järjestelmäkehote ja mitä mallille kerrotaan sen työkaluista, kaikki tallennetaan mallikohtaisesti. Malli voi ajatella ennen vastausta, mutta se on myös kytkin, ja puhelimessa, jossa on toimiva näytönohjain, voit sanoa, mikä prosessori pitää tasoja.
ENEMMÄN KUIN TEKSTIÄ
Kuvia ja ääntä malleille, jotka toimittavat projektorin, dokumentteja, joita mikä tahansa malli voi lukea, sanelua puhelimesi oman laitteen tunnistimen kautta ja ääneen lukemista.
AVUSTAJA, JOKA VOI TOIMIA
Malli voi etsiä verkosta, lukea sivun ja työskennellä valitsemasi kansion kanssa. Sinä päätät, kuinka paljon köyttä se saa: hyväksy jokainen vaihe, anna sen suorittaa tai pyydä sitä suunnittelemaan ensin ja kertomaan, mitä se tekisi ennen kuin mitään tapahtuu. Se voi kysyä sinulta selventävän kysymyksen ja seurata tarkistuslistaa, jonka voit itse rastittaa. Jokainen työkalu voidaan kytkeä pois päältä.
YKSITYINEN RAKENTEEN AVULLA
Keskustelusi, mallisi ja käyttösi pysyvät laitteella. Ei ole analytiikka-SDK:ta, kaatumisraportointia eikä omaa taustajärjestelmäämme. Automaattinen varmuuskopiointi ja laitteen siirto on kytketty pois päältä, joten uusi puhelin ei peri keskustelujasi. Asennuksen poistaminen poistaa kaiken.
Kaksi työkalua pääsee internetiin, koska niiden on pakko: verkkohaku ja sivujen nouto. Molemmat on lueteltu otsikon alla, jossa lukee, että ne poistuvat laitteesta, molemmat voidaan kytkeä pois päältä, ja jokainen tehty puhelu on vastauksessa rivi, jossa mainitaan sen nimi ja mitä se sai. Hugging Face -tunnuksesi, jos asetat sellaisen, salataan Android Keystoressa olevalla avaimella ja lähetetään vain Hugging Facelle.
TARVITSET
Android 12 tai uudempi, 64-bittinen ARM-laite ja riittävästi muistia valitsemaasi malliin. Sovellus kertoo sinulle ennen lataamista.
Mallit tulevat kolmansilta osapuolilta. Sinä valitset, mitä mallia käytät, ja se, mitä siinä sanotaan, on sen julkaisijan työtä eikä meidän työtämme. Avoin lähdekoodi, osoitteessa github.com/alpharomercoma/openweights.
Hae Hugging Face -sovellusta sovelluksen sisältä, selvitä, toimiiko malli todella laitteellasi ennen sen lataamista, ja keskustele sen kanssa. Jokainen token on oman laitteistosi tuottama.
MIKÄ TAHANSA MALLI, EI LUETTELO
Muut laitteella olevat sovellukset antavat sinulle jonkun muun valitseman lyhyen listan. OpenWeights antaa sinulle Hubin. Jos joku julkaisi GGUF:n tunti sitten, voit suorittaa sen.
REHELLINEN LAITTEESTASI
Ennen kuin kulutat gigatavuja, sovellus lukee mallin otsikon verkon kautta ja kertoo sinulle, mitä se tarvitsee valitsemallasi kontekstin pituudella, kuinka nopeasti se on suunnilleen ja toimiiko se ollenkaan puhelimellasi.
TODELLISIA NUMEROITA, EDESSÄSI
Tokeneita sekunnissa, aika ensimmäiseen tokeniin ja konteksti-ikkunan täyttyminen, näkyvät chattailun aikana piilottamatta niitä.
SINUN VIRITTÄMISTÄSI
Lämpötila, top-p, top-k, toistorangaistus, kontekstin pituus, järjestelmäkehote ja mitä mallille kerrotaan sen työkaluista, kaikki tallennetaan mallikohtaisesti. Malli voi ajatella ennen vastausta, mutta se on myös kytkin, ja puhelimessa, jossa on toimiva näytönohjain, voit sanoa, mikä prosessori pitää tasoja.
ENEMMÄN KUIN TEKSTIÄ
Kuvia ja ääntä malleille, jotka toimittavat projektorin, dokumentteja, joita mikä tahansa malli voi lukea, sanelua puhelimesi oman laitteen tunnistimen kautta ja ääneen lukemista.
AVUSTAJA, JOKA VOI TOIMIA
Malli voi etsiä verkosta, lukea sivun ja työskennellä valitsemasi kansion kanssa. Sinä päätät, kuinka paljon köyttä se saa: hyväksy jokainen vaihe, anna sen suorittaa tai pyydä sitä suunnittelemaan ensin ja kertomaan, mitä se tekisi ennen kuin mitään tapahtuu. Se voi kysyä sinulta selventävän kysymyksen ja seurata tarkistuslistaa, jonka voit itse rastittaa. Jokainen työkalu voidaan kytkeä pois päältä.
YKSITYINEN RAKENTEEN AVULLA
Keskustelusi, mallisi ja käyttösi pysyvät laitteella. Ei ole analytiikka-SDK:ta, kaatumisraportointia eikä omaa taustajärjestelmäämme. Automaattinen varmuuskopiointi ja laitteen siirto on kytketty pois päältä, joten uusi puhelin ei peri keskustelujasi. Asennuksen poistaminen poistaa kaiken.
Kaksi työkalua pääsee internetiin, koska niiden on pakko: verkkohaku ja sivujen nouto. Molemmat on lueteltu otsikon alla, jossa lukee, että ne poistuvat laitteesta, molemmat voidaan kytkeä pois päältä, ja jokainen tehty puhelu on vastauksessa rivi, jossa mainitaan sen nimi ja mitä se sai. Hugging Face -tunnuksesi, jos asetat sellaisen, salataan Android Keystoressa olevalla avaimella ja lähetetään vain Hugging Facelle.
TARVITSET
Android 12 tai uudempi, 64-bittinen ARM-laite ja riittävästi muistia valitsemaasi malliin. Sovellus kertoo sinulle ennen lataamista.
Mallit tulevat kolmansilta osapuolilta. Sinä valitset, mitä mallia käytät, ja se, mitä siinä sanotaan, on sen julkaisijan työtä eikä meidän työtämme. Avoin lähdekoodi, osoitteessa github.com/alpharomercoma/openweights.
Suorita avoimen painoluokan tekoälymalleja puhelimellasi. Ei tiliä, ei pilvipalvelua, ei telemetriaa.
Päivitetty
Turvallisuus alkaa siitä, että ymmärrät, miten kehittäjät keräävät ja jakavat dataasi. Datan yksityisyys- ja turvallisuuskäytännöt saattavat vaihdella käytön, alueen ja iän mukaan. Kehittäjä on antanut nämä tiedot ja saattaa päivittää niitä myöhemmin.
Uutta
Compiled models fixed, and a search that listens
- ExecuTorch models now open on every phone; a crash on load is fixed
- The model picker shows all your models at once, with each compiled model's context window
- Compiled models say their context window before you download, and no longer overflow it: tools step aside and long chats fold to make room
- Typing in Discover searches all of Hugging Face
- Big downloads finish without a long check at the end, and Cancel stops them at once
- ExecuTorch models now open on every phone; a crash on load is fixed
- The model picker shows all your models at once, with each compiled model's context window
- Compiled models say their context window before you download, and no longer overflow it: tools step aside and long chats fold to make room
- Typing in Discover searches all of Hugging Face
- Big downloads finish without a long check at the end, and Cancel stops them at once
Sovelluksen tuki
Tietoa kehittäjästä
Alpha Romer N. Coma
alpha.coma.ict@gmail.com
Blk 193 LOT 16 17th Street Phase 5B
Meycauayan
3020
Philippines
