RAMDeck: Distributed AI

TradeMAV LLC

Informace o aplikaci

RAMDeck je oficiální doprovodná aplikace pro vašeho místního koordinátora RAMDeck. Transformuje vaše zařízení Android na aktivní pracovní uzel, který vám umožňuje bezproblémově přispívat nečinnou RAM vašeho telefonu k napájení masivních, soukromých modelů umělé inteligence – přímo ve vaší vlastní lokální síti.

Sdružením paměti vašich běžných zařízení (telefonů, starých notebooků a jednodeskových počítačů) vám distribuovaný inferenční engine RAMDeck umožňuje spouštět nejmodernější modely velkých jazyků (LLM), které by normálně vyžadovaly tisíce dolarů ve špičkových grafických kartách.

Klíčové vlastnosti:

• Snadné přispívání: Jednoduše se připojte k místnímu koordinátorovi RAMDeck a klepněte na „Začít přispívat“. Aplikace automaticky zvládá komplexní síťování RPC.

• Inteligentní správa zdrojů: Vestavěná pravidla zajišťují, že vaše zařízení zůstane v pořádku. Aplikace automaticky pozastaví přispívání při vysokém zatížení paměti, nízkém nabití baterie nebo při odpojení od Wi-Fi.

• Živé přehledy: V reálném čase přesně zjistěte, kolik RAM poskytujete clusteru, stav vašeho připojení a vaši denní historii přispívání.
• 100% soukromé a lokální: RAMDeck funguje výhradně ve vaší lokální síti (LAN). Žádná data nejsou odesílána do cloudu a nejsou vyžadována žádná API třetích stran. Vaše data a modely zůstávají kompletně uloženy v místní síti.

• Bezproblémové vyvažování: Při připojování a odpojování od sítě koordinátor RAMDeck okamžitě vyváží vrstvy modelu AI mezi zbývajícími aktivními uzly, aniž by došlo k přerušení relace.

Požadavky:
• Běžící koordinátor RAMDeck (např. Orange Pi, Raspberry Pi nebo lokální server) ve vaší lokální síti.

• Wi-Fi připojení k vaší lokální síti LAN.

Poznámka: Tato aplikace sama o sobě nespustí modely AI. Funguje jako paměťový a výpočetní uzel, který se připojuje k vašemu stávajícímu clusteru RAMDeck. Chcete-li začít, musíte nasadit software koordinátoru RAMDeck na své primární hostitelské zařízení.