RAMDeck: Distributed AI

TradeMAV LLC

Rakenduse teave

RAMDeck on teie kohaliku RAMDecki koordinaatori ametlik kaasrakendus. See muudab teie Android-seadme aktiivseks töötajasõlmeks, võimaldades teil sujuvalt panustada oma telefoni jõudeolekus olevat RAM-i massiivsete privaatsete tehisintellekti mudelite toiteks – otse teie enda kohalikus võrgus.

Koondades teie igapäevaste seadmete (telefonid, vanad sülearvutid ja üheplaadilised arvutid) mälu, võimaldab RAMDecki hajutatud järeldusmootor teil käitada tipptasemel suuri keelemudeleid (LLM-e), mis tavaliselt nõuaksid tuhandeid dollareid maksvaid tipptasemel graafikakaarte.

Peamised omadused:
• Vaevatu panustamine: Lihtsalt looge ühendus oma kohaliku RAMDecki koordinaatoriga ja puudutage nuppu „Alusta panustamist“. Rakendus tegeleb keeruka RPC-võrgustamisega automaatselt.
• Nutikas ressursihaldus: Sisseehitatud reeglid tagavad, et teie seade püsib terve. Rakendus peatab panustamise automaatselt suure mälukoormuse, aku tühjenemise või WiFi-ühenduse katkestamise korral.
• Reaalajas ülevaated: Vaadake täpselt, kui palju RAM-i klastrile reaalajas annate, oma ühenduse seisundit ja oma igapäevast panustamise ajalugu.
• 100% privaatne ja lokaalne: RAMDeck töötab täielikult teie kohtvõrgus (LAN). Pilve ei saadeta andmeid ja pole vaja kolmandate osapoolte API-sid. Teie andmed ja mudelid jäävad täielikult kohapeale.

• Sujuv tasakaalustamine: Võrguühenduse loomisel ja katkestamisel tasakaalustab RAMDecki koordinaator koheselt tehisintellekti mudeli kihid ülejäänud aktiivsete sõlmede vahel ilma seanssi katkestamata.

Nõuded:

• Töötav RAMDecki koordinaator (nt Orange Pi, Raspberry Pi või kohalik server) teie kohtvõrgus.

• WiFi-ühendus teie kohtvõrguga.

Märkus. See rakendus ei käita tehisintellekti mudeleid iseseisvalt. See toimib mälu- ja arvutussõlmena, mis loob ühenduse teie olemasoleva RAMDecki klastriga. Alustamiseks peate oma peamisele hostseadmele juurutama RAMDecki koordinaatori tarkvara.