RAMDeck: Distributed AI

TradeMAV LLC

关于此应用

RAMDeck 是您本地 RAMDeck 协调器的官方配套应用。它能将您的 Android 设备变成一个活跃的工作节点，让您可以无缝地将手机的空闲 RAM 贡献出来，在您自己的本地网络上运行大规模的私有 AI 模型。

通过汇集您日常设备（手机、旧笔记本电脑和单板计算机）的内存，RAMDeck 的分布式推理引擎使您能够运行最先进的大型语言模型 (LLM)，而这些模型通常需要价值数千美元的高端显卡才能运行。

主要功能：

• 轻松贡献：只需连接到您的本地 RAMDeck 协调器，然后点击“开始贡献”。该应用会自动处理复杂的 RPC 网络通信。

• 智能资源管理：内置规则确保您的设备保持健康状态。当内存压力过大、电量不足或断开 Wi-Fi 连接时，该应用会自动暂停贡献。

• 实时洞察：实时查看您为集群提供的内存量、连接健康状况以及每日贡献历史记录。

• 100% 私有且本地化：RAMDeck 完全在您的局域网 (LAN) 上运行。无需将任何数据发送到云端，也无需任何第三方 API。您的数据和模型完全保留在本地。

• 无缝重新平衡：当您连接和断开网络连接时，RAMDeck 协调器会立即在剩余的活动节点之间重新平衡 AI 模型层，而不会中断会话。

要求：

• 本地网络上运行的 RAMDeck 协调器（例如 Orange Pi、Raspberry Pi 或本地服务器）。

• 连接到本地 LAN 的 Wi-Fi 网络。

注意：此应用程序本身不运行 AI 模型。它充当内存和计算节点，连接到您现有的 RAMDeck 集群。要开始使用，您必须在主主机设备上部署 RAMDeck 协调器软件。