RAMDeck: Distributed AI

TradeMAV LLC

Par šo lietotni

RAMDeck ir oficiālā pavadošā lietotne jūsu vietējam RAMDeck koordinatoram. Tā pārveido jūsu Android ierīci par aktīvu darba mezglu, ļaujot jums nemanāmi nodrošināt tālruņa brīvo RAM, lai darbinātu milzīgus, privātus mākslīgā intelekta modeļus — tieši jūsu lokālajā tīklā.

Apvienojot jūsu ikdienas ierīču (tālruņu, vecu klēpjdatoru un vienas plates datoru) atmiņu, RAMDeck izkliedētā secinājumu dzinēja funkcija ļauj jums palaist modernākos lielo valodu modeļus (LLM), kuriem parasti būtu nepieciešami tūkstošiem dolāru vērti augstas klases grafikas kartes.

Galvenās funkcijas:
• Vienkārša piepūle: Vienkārši izveidojiet savienojumu ar savu vietējo RAMDeck koordinatoru un pieskarieties “Sākt piedalīšanos”. Lietotne automātiski apstrādā sarežģīto RPC tīklošanu.
• Vieda resursu pārvaldība: Iebūvētie noteikumi nodrošina, ka jūsu ierīce paliek darbspējīga. Lietotne automātiski aptur piedalīšanos, ja ir liela atmiņas slodze, zems akumulatora uzlādes līmenis vai ja ir pārtraukts savienojums ar Wi-Fi.
• Tiešraides ieskati: Skatiet precīzi, cik daudz RAM jūs reāllaikā nodrošinat klasterim, sava savienojuma stāvokli un ikdienas piedalīšanos vēsturi.
• 100 % privāts un lokāls: RAMDeck pilnībā darbojas jūsu lokālajā tīklā (LAN). Dati netiek sūtīti uz mākoni, un nav nepieciešamas trešo pušu API. Jūsu dati un modeļi paliek pilnībā lokāli.

• Vienmērīga atkārtota balansēšana: Pievienojoties un atvienojoties no tīkla, RAMDeck koordinators nekavējoties atkārtoti balansē mākslīgā intelekta modeļa slāņus atlikušajos aktīvajos mezglos, nepārtraucot sesiju.

Prasības:

• Darbojošs RAMDeck koordinators (piemēram, Orange Pi, Raspberry Pi vai lokāls serveris) jūsu lokālajā tīklā.

• Wi-Fi savienojums ar jūsu lokālo lokālo tīklu.

Piezīme. Šī lietotne pati par sevi nedarbina mākslīgā intelekta modeļus. Tā darbojas kā atmiņas un skaitļošanas mezgls, kas izveido savienojumu ar jūsu esošo RAMDeck klasteri. Lai sāktu darbu, jums ir jāizvieto RAMDeck koordinatora programmatūra savā primārajā resursdatora ierīcē.