RAMDeck: Distributed AI

TradeMAV LLC

Despre aplicație

RAMDeck este aplicația oficială de însoțire pentru coordonatorul tău local RAMDeck. Transformă dispozitivul tău Android într-un nod de lucru activ, permițându-ți să contribui fără probleme cu memoria RAM inactivă a telefonului tău pentru a alimenta modele AI masive și private - direct în propria rețea locală.

Prin punerea în comun a memoriei dispozitivelor tale de zi cu zi (telefoane, laptopuri vechi și computere cu o singură placă de bază), motorul de inferență distribuit al RAMDeck îți permite să rulezi Modele de Limbaj Mari (LLM) de ultimă generație, care în mod normal ar necesita mii de dolari în plăci grafice de ultimă generație.

Caracteristici cheie:
• Contribuție fără efort: Pur și simplu conectează-te la coordonatorul tău local RAMDeck și atinge „Începe contribuția”. Aplicația gestionează automat rețeaua complexă RPC.
• Gestionare inteligentă a resurselor: Regulile încorporate asigură că dispozitivul tău rămâne sănătos. Aplicația întrerupe automat contribuția în timpul presiunii ridicate a memoriei, al bateriei descărcate sau când este deconectat de la Wi-Fi.
• Informații live: Vezi exact câtă memorie RAM furnizezi clusterului în timp real, starea conexiunii tale și istoricul zilnic al contribuțiilor.
• 100% Privat și Local: RAMDeck funcționează în întregime în rețeaua locală (LAN). Nu se trimit date în cloud și nu sunt necesare API-uri terțe. Datele și modelele rămân complet locale.

• Reechilibrare perfectă: Pe măsură ce vă conectați și vă deconectați de la rețea, coordonatorul RAMDeck reechilibrează instantaneu straturile modelului AI pe nodurile active rămase, fără a întrerupe sesiunea.

Cerințe:
• Un coordonator RAMDeck care rulează (de exemplu, Orange Pi, Raspberry Pi sau un server local) în rețeaua locală.

• O conexiune Wi-Fi la rețeaua locală locală.

Notă: Această aplicație nu rulează modele AI de una singură. Acționează ca un nod de memorie și calcul care se conectează la clusterul RAMDeck existent. Pentru a începe, trebuie să implementați software-ul coordonatorului RAMDeck pe dispozitivul gazdă principal.