RAMDeck: Distributed AI

TradeMAV LLC

Всичко за това приложение

RAMDeck е официалното приложение-придружител за вашия локален координатор на RAMDeck. То трансформира вашето устройство с Android в активен работен възел, което ви позволява безпроблемно да допринасяте с неактивната RAM памет на телефона си за захранване на масивни, частни модели с изкуствен интелект – директно във вашата собствена локална мрежа.

Чрез обединяване на паметта на вашите ежедневни устройства (телефони, стари лаптопи и едноплаткови компютри), разпределеният двигател за извод на RAMDeck ви позволява да изпълнявате най-съвременни модели с големи езици (LLM), които обикновено биха изисквали хиляди долари във висок клас графични карти.

Основни характеристики:

• Лесен принос: Просто се свържете с вашия локален координатор на RAMDeck и докоснете „Старт на приноса“. Приложението автоматично обработва сложната RPC мрежа.

• Интелигентно управление на ресурсите: Вградените правила гарантират, че устройството ви ще остане здраво. Приложението автоматично спира приноса при високо натоварване на паметта, ниска батерия или когато сте изключени от Wi-Fi.

• Анализи в реално време: Вижте точно колко RAM памет предоставяте на клъстера в реално време, състоянието на връзката ви и ежедневната ви история на приноса.
• 100% частно и локално: RAMDeck работи изцяло във вашата локална мрежа (LAN). Не се изпращат данни към облака и не се изискват API на трети страни. Вашите данни и модели остават изцяло локални.

• Безпроблемно ребалансиране: Докато се свързвате и изключвате от мрежата, координаторът RAMDeck незабавно ребалансира слоевете на AI модела между останалите активни възли, без да прекъсва сесията.

Изисквания:
• Работещ RAMDeck Coordinator (напр. Orange Pi, Raspberry Pi или локален сървър) във вашата локална мрежа.

• Wi-Fi връзка с вашата локална LAN.

Забележка: Това приложение не изпълнява AI модели самостоятелно. То действа като възел за памет и изчисления, който се свързва със съществуващия ви RAMDeck клъстер. За да започнете, трябва да инсталирате софтуера за координатор RAMDeck на вашето основно хост устройство.