RAMDeck: Distributed AI

TradeMAV LLC

O ovoj aplikaciji

RAMDeck је званична пратећа апликација за вашег локалног RAMDeck координатора. Она трансформише ваш Android уређај у активни радни чвор, омогућавајући вам да беспрекорно допринесете неактивном RAM меморијом вашег телефона за покретање масивних, приватних AI модела – директно на вашој локалној мрежи.

Обједињавањем меморије ваших свакодневних уређаја (телефона, старих лаптопова и рачунара са једном плочом), RAMDeck-ов дистрибуирани инференцијски механизам вам омогућава да покрећете најсавременије моделе великих језика (LLM) који би обично захтевали хиљаде долара у врхунским графичким картицама.

Кључне карактеристике:

• Једноставан допринос: Једноставно се повежите са својим локалним RAMDeck координатором и додирните „Почни допринос“. Апликација аутоматски обрађује сложено RPC умрежавање.

• Паметно управљање ресурсима: Уграђена правила осигуравају да ваш уређај остане здрав. Апликација аутоматски паузира допринос током великог оптерећења меморије, ниске батерије или када нисте повезани са Wi-Fi мрежом.

• Увиди уживо: Погледајте тачно колико RAM меморије пружате кластеру у реалном времену, стање ваше везе и вашу дневну историју доприноса.
• 100% приватно и локално: RAMDeck ради у потпуности на вашој локалној мрежи (LAN). Ниједан податак се не шаље у облак и нису потребни API-ји трећих страна. Ваши подаци и модели остају потпуно локално.

• Беспрекорно ребалансирање: Како се повезујете и искључујете са мреже, RAMDeck координатор тренутно ребалансира слојеве AI модела на преосталим активним чворовима без прекида сесије.

Захтеви:
• RAMDeck координатор који ради (нпр. Orange Pi, Raspberry Pi или локални сервер) на вашој локалној мрежи.

• Wi-Fi веза са вашом локалном LAN мрежом.

Напомена: Ова апликација не покреће AI моделе сама. Она делује као меморијски и рачунарски чвор који се повезује са вашим постојећим RAMDeck кластером. Да бисте започели, морате да инсталирате софтвер RAMDeck координатора на свом примарном уређају.