RAMDeck: Distributed AI

TradeMAV LLC

À propos de cette appli

RAMDeck est l'application compagnon officielle de votre coordinateur RAMDeck local. Elle transforme votre appareil Android en un nœud de calcul actif, vous permettant de contribuer facilement à l'exécution de modèles d'IA privés et de grande envergure grâce à la mémoire RAM inutilisée de votre téléphone, directement sur votre réseau local.

En mutualisant la mémoire de vos appareils du quotidien (téléphones, anciens ordinateurs portables et ordinateurs monocartes), le moteur d'inférence distribuée de RAMDeck vous permet d'exécuter des modèles de langage de grande taille (LLM) de pointe, qui nécessiteraient normalement des cartes graphiques haut de gamme coûtant des milliers d'euros.

Fonctionnalités clés :

• Contribution simplifiée : Connectez-vous simplement à votre coordinateur RAMDeck local et appuyez sur « Démarrer la contribution ». L'application gère automatiquement la complexité du réseau RPC.

• Gestion intelligente des ressources : Des règles intégrées garantissent le bon fonctionnement de votre appareil. L'application suspend automatiquement la contribution en cas de forte sollicitation de la mémoire, de batterie faible ou de déconnexion Wi-Fi.

• Statistiques en temps réel : Visualisez en temps réel la quantité de RAM que vous fournissez au cluster, l'état de votre connexion et votre historique de contribution quotidien. • 100 % privé et local : RAMDeck fonctionne entièrement sur votre réseau local (LAN). Aucune donnée n'est envoyée vers le cloud et aucune API tierce n'est requise. Vos données et modèles restent entièrement sur site.

• Rééquilibrage transparent : Lorsque vous vous connectez ou vous déconnectez du réseau, le coordinateur RAMDeck rééquilibre instantanément les couches du modèle d'IA sur les nœuds actifs restants, sans interruption de session.

Prérequis :

• Un coordinateur RAMDeck en cours d'exécution (par exemple, Orange Pi, Raspberry Pi ou un serveur local) sur votre réseau local.

• Une connexion Wi-Fi à votre réseau local.

Remarque : Cette application n'exécute pas de modèles d'IA de manière autonome. Elle agit comme un nœud de mémoire et de calcul qui se connecte à votre cluster RAMDeck existant. Pour commencer, vous devez déployer le logiciel coordinateur RAMDeck sur votre appareil hôte principal.