RAMDeck: Distributed AI

TradeMAV LLC

Informácie o aplikácii

RAMDeck je oficiálna sprievodná aplikácia pre vášho lokálneho koordinátora RAMDeck. Transformuje vaše zariadenie so systémom Android na aktívny pracovný uzol, čo vám umožňuje bezproblémovo prispievať nečinnou RAM pamäte vášho telefónu k napájaniu rozsiahlych súkromných modelov umelej inteligencie – priamo vo vašej vlastnej lokálnej sieti.

Združením pamäte vašich bežných zariadení (telefónov, starých notebookov a jednodoskových počítačov) vám distribuovaný inferenčný engine RAMDeck umožňuje spúšťať najmodernejšie modely veľkých jazykov (LLM), ktoré by bežne vyžadovali tisíce dolárov vo špičkových grafických kartách.

Kľúčové vlastnosti:

• Bezproblémové prispievanie: Jednoducho sa pripojte k vášmu lokálnemu koordinátorovi RAMDeck a klepnite na „Spustiť prispievanie“. Aplikácia automaticky spravuje komplexné siete RPC.

• Inteligentná správa zdrojov: Vstavané pravidlá zabezpečujú, že vaše zariadenie zostane v poriadku. Aplikácia automaticky pozastaví prispievanie pri vysokom zaťažení pamäte, nízkej kapacite batérie alebo pri odpojení od Wi-Fi.

• Živé prehľady: Pozrite si presne, koľko RAM pamäte poskytujete klastru v reálnom čase, stav vášho pripojenia a vašu dennú históriu prispievania.
• 100 % súkromné ​​a lokálne: RAMDeck funguje výlučne vo vašej lokálnej sieti (LAN). Žiadne dáta sa neodosielajú do cloudu a nie sú potrebné žiadne rozhrania API tretích strán. Vaše dáta a modely zostávajú úplne uložené lokálne.

• Bezproblémové vyvažovanie: Pri pripájaní a odpájaní sa od siete koordinátor RAMDeck okamžite vyváži vrstvy modelu AI medzi zostávajúcimi aktívnymi uzlami bez prerušenia relácie.

Požiadavky:
• Bežiaci koordinátor RAMDeck (napr. Orange Pi, Raspberry Pi alebo lokálny server) vo vašej lokálnej sieti.

• Wi-Fi pripojenie k vašej lokálnej sieti LAN.

Poznámka: Táto aplikácia nespúšťa modely AI samostatne. Funguje ako pamäťový a výpočtový uzol, ktorý sa pripája k vášmu existujúcemu klastru RAMDeck. Ak chcete začať, musíte nasadiť softvér koordinátora RAMDeck na svoje primárne hostiteľské zariadenie.