RAMDeck: Distributed AI

TradeMAV LLC

Apie šią programą

„RAMDeck“ yra oficiali jūsų vietinio „RAMDeck“ koordinatoriaus pagalbinė programėlė. Ji paverčia jūsų „Android“ įrenginį aktyviu darbo mazgu, leisdama jums sklandžiai prisidėti prie telefono laisvos RAM atminties, kad galėtumėte maitinti didelius, privačius dirbtinio intelekto modelius – tiesiai jūsų vietiniame tinkle.

Sujungdamas jūsų kasdienių įrenginių (telefonų, senų nešiojamųjų kompiuterių ir vienos plokštės kompiuterių) atmintį, „RAMDeck“ paskirstytasis išvadų variklis leidžia paleisti pažangiausius didelių kalbų modelius (LLM), kuriems paprastai reikėtų tūkstančių dolerių vertės aukštos klasės vaizdo plokščių.

Pagrindinės funkcijos:
• Paprastas indėlis: tiesiog prisijunkite prie vietinio „RAMDeck“ koordinatoriaus ir palieskite „Pradėti prisidėti“. Programėlė automatiškai tvarko sudėtingą RPC tinklą.
• Išmanusis išteklių valdymas: integruotos taisyklės užtikrina, kad jūsų įrenginys išliktų sveikas. Programėlė automatiškai pristabdo indėlių teikimą, kai yra didelis atminties spaudimas, išsikrauna akumuliatorius arba atsijungiama nuo „Wi-Fi“.
• Tiesioginės įžvalgos: realiuoju laiku matykite, kiek RAM teikiate klasteriui, savo ryšio būklę ir savo kasdienio indėlio istoriją.
• 100 % privatus ir vietinis: „RAMDeck“ veikia tik jūsų vietiniame tinkle (LAN). Į debesį nesiunčiami jokie duomenys ir nereikia jokių trečiųjų šalių API. Jūsų duomenys ir modeliai lieka visiškai vietiniai.

• Sklandus perbalansavimas: Kai prisijungiate ir atsijungiate nuo tinklo, „RAMDeck“ koordinatorius akimirksniu perbalansuoja dirbtinio intelekto modelio sluoksnius likusiuose aktyviuose mazguose nenutraukdamas sesijos.

Reikalavimai:

• Veikiantis „RAMDeck“ koordinatorius (pvz., „Orange Pi“, „Raspberry Pi“ arba vietinis serveris) jūsų vietiniame tinkle.

• „Wi-Fi“ ryšys su jūsų vietiniu LAN.

Pastaba: ši programa pati savaime nevykdo dirbtinio intelekto modelių. Ji veikia kaip atminties ir skaičiavimo mazgas, kuris prisijungia prie jūsų esamo „RAMDeck“ klasterio. Norėdami pradėti, turite įdiegti „RAMDeck“ koordinatoriaus programinę įrangą pagrindiniame pagrindiniame įrenginyje.