RAMDeck: Distributed AI

TradeMAV LLC

O ovoj aplikaciji

RAMDeck je službena popratna aplikacija za vašeg lokalnog RAMDeck koordinatora. Pretvara vaš Android uređaj u aktivni radni čvor, omogućujući vam da besprijekorno doprinesete neaktivnom RAM-om vašeg telefona za pokretanje masivnih, privatnih AI modela - izravno na vašoj vlastitoj lokalnoj mreži.

Udruživanjem memorije vaših svakodnevnih uređaja (telefona, starih prijenosnih računala i računala s jednom pločom), RAMDeckov distribuirani inferencijski mehanizam omogućuje vam pokretanje najsuvremenijih modela velikih jezika (LLM) koji bi inače zahtijevali tisuće dolara u vrhunskim grafičkim karticama.

Ključne značajke:

• Jednostavan doprinos: Jednostavno se povežite s lokalnim RAMDeck koordinatorom i dodirnite "Počni doprinositi". Aplikacija automatski obrađuje složeno RPC umrežavanje.

• Pametno upravljanje resursima: Ugrađena pravila osiguravaju da vaš uređaj ostane zdrav. Aplikacija automatski pauzira doprinos tijekom visokog pritiska memorije, slabe baterije ili kada ste isključeni s Wi-Fi mreže.

• Uvidi uživo: Pogledajte točno koliko RAM-a dajete klasteru u stvarnom vremenu, stanje vaše veze i vašu dnevnu povijest doprinosa.
• 100% privatno i lokalno: RAMDeck radi u potpunosti na vašoj lokalnoj mreži (LAN). Podaci se ne šalju u oblak i nisu potrebni API-ji trećih strana. Vaši podaci i modeli ostaju potpuno lokalno.
• Besprijekorno ponovno balansiranje: Dok se spajate i odspajate s mreže, RAMDeck koordinator trenutačno ponovno balansira slojeve AI modela na preostalim aktivnim čvorovima bez prekida sesije.

Zahtjevi:
• RAMDeck koordinator koji radi (npr. Orange Pi, Raspberry Pi ili lokalni poslužitelj) na vašoj lokalnoj mreži.
• Wi-Fi veza s vašom lokalnom LAN mrežom.

Napomena: Ova aplikacija ne pokreće AI modele samostalno. Djeluje kao memorijski i računalni čvor koji se spaja na vaš postojeći RAMDeck klaster. Za početak morate instalirati softver RAMDeck koordinatora na svoj primarni host uređaj.