RAMDeck: Distributed AI

TradeMAV LLC

關於此應用程式

RAMDeck 是您本地 RAMDeck 協調器的官方配套應用。它將您的 Android 裝置變成一個活躍的工作節點，讓您可以無縫地將手機的空閒 RAM 貢獻出來，在您自己的本地網路上運行大規模的私人 AI 模型。

透過匯集您日常設備（手機、舊筆記型電腦和單板計算機）的內存，RAMDeck 的分散式推理引擎使您能夠運行最先進的大型語言模型 (LLM)，而這些模型通常需要價值數千美元的高端顯卡才能運行。

主要功能：

• 輕鬆貢獻：只需連接到您的本地 RAMDeck 協調器，然後點擊「開始貢獻」。該應用程式會自動處理複雜的 RPC 網路通訊。

• 智慧資源管理：內建規則可確保您的裝置保持健康狀態。當記憶體壓力過大、電量不足或斷開 Wi-Fi 連線時，應用程式會自動暫停貢獻。

• 即時洞察：即時查看您為叢集提供的記憶體量、連接健康狀況以及每日貢獻歷史記錄。

• 100% 私有且本地化：RAMDeck 完全在您的區域網路 (LAN) 上運作。無需將任何資料傳送到雲端，也無需任何第三方 API。您的資料和模型完全保留在本地。

• 無縫重新平衡：當您連接並中斷網路連線時，RAMDeck 協調器會立即在剩餘的活動節點之間重新平衡 AI 模型層，而不會中斷會話。

要求：

• 在本地網路上執行的 RAMDeck 協調器（例如 Orange Pi、Raspberry Pi 或本機伺服器）。

• 連接到本地 LAN 的 Wi-Fi 網路。

注意：此應用程式本身不運行 AI 模型。它充當記憶體和運算節點，連接到您現有的 RAMDeck 叢集。要開始使用，您必須在主主機裝置上部署 RAMDeck 協調器軟體。