RAMDeck: Distributed AI

TradeMAV LLC

Описание

RAMDeck — это официальное приложение-компаньон для вашего локального координатора RAMDeck. Оно превращает ваше устройство Android в активный рабочий узел, позволяя вам беспрепятственно использовать свободную оперативную память вашего телефона для запуска масштабных частных моделей ИИ — прямо в вашей локальной сети.

Объединяя память ваших повседневных устройств (телефонов, старых ноутбуков и одноплатных компьютеров), распределенный механизм вывода RAMDeck позволяет запускать самые современные большие языковые модели (LLM), для которых обычно требуются высокопроизводительные видеокарты стоимостью в тысячи долларов.

Основные функции:
• Простое добавление ресурсов: Просто подключитесь к своему локальному координатору RAMDeck и нажмите «Начать добавление ресурсов». Приложение автоматически обрабатывает сложные сетевые операции RPC.

• Интеллектуальное управление ресурсами: Встроенные правила обеспечивают бесперебойную работу вашего устройства. Приложение автоматически приостанавливает добавление ресурсов при высокой нагрузке на память, низком заряде батареи или при отключении от Wi-Fi.

• Аналитика в реальном времени: Отслеживайте объем оперативной памяти, выделяемой кластеру, состояние вашего соединения и историю ежедневных вкладов.

• 100% приватность и локальность: RAMDeck работает исключительно в вашей локальной сети (LAN). Данные не отправляются в облако, и не требуются сторонние API. Ваши данные и модели остаются полностью в локальной сети.

• Бесшовная перебалансировка: При подключении и отключении от сети координатор RAMDeck мгновенно перераспределяет слои модели ИИ между оставшимися активными узлами, не разрывая сессию.

Требования:
• Работающий координатор RAMDeck (например, Orange Pi, Raspberry Pi или локальный сервер) в вашей локальной сети.

• Wi-Fi-соединение с вашей локальной сетью.

Примечание: Это приложение не запускает модели ИИ самостоятельно. Оно действует как узел памяти и вычислений, который подключается к вашему существующему кластеру RAMDeck. Для начала необходимо развернуть программное обеспечение координатора RAMDeck на основном хост-устройстве.