RAMDeck: Distributed AI

TradeMAV LLC

Az alkalmazásról

A RAMDeck a helyi RAMDeck koordinátor hivatalos társalkalmazása. Android-eszközét aktív munkacsomóponttá alakítja, lehetővé téve, hogy zökkenőmentesen hozzájáruljon telefonja üresjárati RAM-jához hatalmas, privát MI-modellek működtetéséhez – közvetlenül a saját helyi hálózatán.

A mindennapi eszközei (telefonok, régi laptopok és egykártyás számítógépek) memóriájának összevonásával a RAMDeck elosztott következtetési motorja lehetővé teszi a legmodernebb nagynyelvi modellek (LLM) futtatását, amelyekhez általában több ezer dolláros csúcskategóriás grafikus kártyákra lenne szükség.

Főbb jellemzők:

• Könnyed közreműködés: Egyszerűen csatlakozzon a helyi RAMDeck koordinátorhoz, és koppintson a „Közreműködés indítása” gombra. Az alkalmazás automatikusan kezeli a komplex RPC-hálózatkezelést.

• Intelligens erőforrás-kezelés: A beépített szabályok biztosítják, hogy eszköze egészséges maradjon. Az alkalmazás automatikusan szünetelteti a közreműködést nagy memóriaterhelés, alacsony akkumulátortöltöttség vagy Wi-Fi-kapcsolat hiánya esetén.

• Élő elemzések: Pontosan megtekintheti valós időben, hogy mennyi RAM-ot biztosít a klaszternek, a kapcsolat állapotát és a napi hozzájárulási előzményeit.
• 100%-ban privát és helyi: A RAMDeck teljes mértékben a helyi hálózaton (LAN) működik. Nincsenek adatok küldve a felhőbe, és nincs szükség harmadik féltől származó API-kra. Az adatai és modelljei teljes mértékben a helyszínen maradnak.

• Zökkenőmentes újraegyensúlyozás: Ahogy csatlakozik és lecsatlakozik a hálózatról, a RAMDeck koordinátor azonnal újraegyensúlyozza a mesterséges intelligencia modell rétegeit a fennmaradó aktív csomópontok között a munkamenet megszakítása nélkül.

Követelmények:

• Egy futó RAMDeck koordinátor (pl. Orange Pi, Raspberry Pi vagy egy helyi szerver) a helyi hálózaton.

• Wi-Fi kapcsolat a helyi helyi hálózattal.

Megjegyzés: Ez az alkalmazás nem futtat önmagában mesterséges intelligencia modelleket. Memória- és számítási csomópontként működik, amely csatlakozik a meglévő RAMDeck klaszterhez. A kezdéshez telepítenie kell a RAMDeck koordinátor szoftvert az elsődleges gazdagépére.