RAMDeck: Distributed AI

TradeMAV LLC

Informazioni sull'app

RAMDeck è l'app complementare ufficiale per il tuo coordinatore RAMDeck locale. Trasforma il tuo dispositivo Android in un nodo worker attivo, permettendoti di contribuire senza problemi con la RAM inutilizzata del tuo telefono per alimentare modelli di intelligenza artificiale privati ​​e di grandi dimensioni, direttamente sulla tua rete locale.

Mettendo in comune la memoria dei tuoi dispositivi di uso quotidiano (smartphone, vecchi laptop e computer a scheda singola), il motore di inferenza distribuita di RAMDeck ti consente di eseguire modelli linguistici di grandi dimensioni (LLM) all'avanguardia che normalmente richiederebbero migliaia di dollari in schede grafiche di fascia alta.

Caratteristiche principali:

• Contribuzione semplificata: basta connettersi al coordinatore RAMDeck locale e toccare "Inizia a contribuire". L'app gestisce automaticamente la complessa rete RPC.

• Gestione intelligente delle risorse: le regole integrate garantiscono il corretto funzionamento del dispositivo. L'app mette automaticamente in pausa la contribuzione in caso di elevato utilizzo della memoria, batteria scarica o disconnessione dal Wi-Fi.

• Statistiche in tempo reale: visualizza in tempo reale la quantità di RAM che stai fornendo al cluster, lo stato della tua connessione e la cronologia dei tuoi contributi giornalieri.

• 100% privato e locale: RAMDeck opera interamente sulla rete locale (LAN). Nessun dato viene inviato al cloud e non sono necessarie API di terze parti. I dati e i modelli rimangono completamente in locale.

• Ribilanciamento automatico: quando ci si connette o ci si disconnette dalla rete, il coordinatore RAMDeck ribilancia istantaneamente i layer del modello AI sui nodi attivi rimanenti senza interrompere la sessione.

Requisiti:
• Un coordinatore RAMDeck in esecuzione (ad esempio, Orange Pi, Raspberry Pi o un server locale) sulla rete locale.

• Una connessione Wi-Fi alla rete LAN locale.

Nota: questa app non esegue modelli AI autonomamente. Agisce come nodo di memoria e di calcolo che si connette al cluster RAMDeck esistente. Per iniziare, è necessario installare il software del coordinatore RAMDeck sul dispositivo host principale.