RAMDeck: Distributed AI

TradeMAV LLC

Sobre l'aplicació

RAMDeck és l'aplicació complementària oficial del vostre coordinador RAMDeck local. Transforma el vostre dispositiu Android en un node de treballador actiu, cosa que us permet contribuir sense problemes amb la RAM inactiva del vostre telèfon per alimentar models d'IA massius i privats, directament a la vostra pròpia xarxa local.

En agrupar la memòria dels vostres dispositius quotidians (telèfons, portàtils antics i ordinadors de placa única), el motor d'inferència distribuït de RAMDeck us permet executar models de llenguatge gran (LLM) d'última generació que normalment requeririen milers de dòlars en targetes gràfiques d'alta gamma.

Característiques principals:
• Contribució sense esforç: simplement connecteu-vos al vostre coordinador RAMDeck local i toqueu "Comença a contribuir". L'aplicació gestiona automàticament la complexa xarxa RPC.
• Gestió intel·ligent de recursos: les regles integrades garanteixen que el vostre dispositiu es mantingui en bon estat. L'aplicació pausa automàticament la contribució durant la pressió de memòria alta, la bateria baixa o quan es desconnecta de la Wi-Fi.
• Informació en directe: vegeu exactament quanta RAM esteu proporcionant al clúster en temps real, l'estat de la vostra connexió i el vostre historial de contribucions diàries. • 100% privat i local: RAMDeck funciona completament a la vostra xarxa d'àrea local (LAN). No s'envien dades al núvol i no es requereixen API de tercers. Les vostres dades i models es mantenen completament localment.

• Reequilibri sense problemes: A mesura que us connecteu i us desconnecteu de la xarxa, el coordinador de RAMDeck reequilibra instantàniament les capes del model d'IA entre els nodes actius restants sense interrompre la sessió.

Requisits:
• Un coordinador de RAMDeck en execució (per exemple, Orange Pi, Raspberry Pi o un servidor local) a la vostra xarxa local.

• Una connexió Wi-Fi a la vostra LAN local.

Nota: Aquesta aplicació no executa models d'IA per si sola. Actua com un node de memòria i càlcul que es connecta al vostre clúster RAMDeck existent. Per començar, heu d'implementar el programari del coordinador de RAMDeck al vostre dispositiu amfitrió principal.