RAMDeck: Distributed AI

TradeMAV LLC

Informacje o aplikacji

RAMDeck to oficjalna aplikacja towarzysząca dla lokalnego koordynatora RAMDeck. Przekształca urządzenie z Androidem w aktywny węzeł roboczy, umożliwiając bezproblemowe udostępnianie nieaktywnej pamięci RAM telefonu do zasilania ogromnych, prywatnych modeli AI — bezpośrednio w sieci lokalnej.

Dzięki łączeniu pamięci urządzeń codziennego użytku (telefonów, starych laptopów i komputerów jednopłytkowych), rozproszony silnik wnioskowania RAMDeck umożliwia uruchamianie najnowocześniejszych modeli LLM (Large Language Models), które normalnie wymagałyby tysięcy dolarów na wysokiej klasy karty graficzne.

Główne funkcje:
• Łatwe udostępnianie: Wystarczy połączyć się z lokalnym koordynatorem RAMDeck i kliknąć „Rozpocznij udostępnianie”. Aplikacja automatycznie obsługuje złożoną sieć RPC.
• Inteligentne zarządzanie zasobami: Wbudowane reguły zapewniają prawidłowe działanie urządzenia. Aplikacja automatycznie wstrzymuje udostępnianie w przypadku dużego obciążenia pamięci, niskiego poziomu naładowania baterii lub utraty połączenia z siecią Wi-Fi.
• Live Insights: Zobacz dokładnie, ile pamięci RAM dostarczasz do klastra w czasie rzeczywistym, stan połączenia i historię dziennego wkładu.
• 100% prywatny i lokalny: RAMDeck działa w całości w Twojej sieci lokalnej (LAN). Żadne dane nie są przesyłane do chmury i nie są wymagane żadne zewnętrzne interfejsy API. Twoje dane i modele pozostają w pełni lokalne.
• Płynne równoważenie obciążenia: Gdy łączysz się i rozłączasz z siecią, koordynator RAMDeck natychmiast równoważy warstwy modelu AI w pozostałych aktywnych węzłach, bez przerywania sesji.

Wymagania:
• Działający koordynator RAMDeck (np. Orange Pi, Raspberry Pi lub serwer lokalny) w Twojej sieci lokalnej.
• Połączenie Wi-Fi z lokalną siecią LAN.

Uwaga: Ta aplikacja nie uruchamia samodzielnie modeli AI. Działa jako węzeł pamięci i obliczeń, który łączy się z istniejącym klastrem RAMDeck. Aby rozpocząć, musisz wdrożyć oprogramowanie koordynatora RAMDeck na głównym urządzeniu hostującym.