RAMDeck: Distributed AI

TradeMAV LLC

Пра гэту праграму

RAMDeck — гэта афіцыйнае дапаўняльнае прыкладанне для вашага лакальнага каардынатара RAMDeck. Яно пераўтварае вашу прыладу Android у актыўны рабочы вузел, дазваляючы вам бесперашкодна выкарыстоўваць аператыўную памяць вашага тэлефона для стварэння масіўных прыватных мадэляў штучнага інтэлекту — прама ў вашай лакальнай сетцы.

Аб'ядноўваючы памяць вашых паўсядзённых прылад (тэлефонаў, старых ноўтбукаў і аднаплатных кампутараў), размеркаваны механізм вываду RAMDeck дазваляе запускаць найсучаснейшыя мадэлі на вялікіх мовах (LLM), якія звычайна патрабуюць тысяч долараў на высакаякасныя відэакарты.

Асноўныя характарыстыкі:

• Лёгкі ўнёсак: Проста падключыцеся да вашага лакальнага каардынатара RAMDeck і націсніце «Пачаць унёсак». Праграма аўтаматычна апрацоўвае складаную сетку RPC.

• Інтэлектуальнае кіраванне рэсурсамі: Убудаваныя правілы гарантуюць, што ваша прылада будзе працаваць. Праграма аўтаматычна прыпыняе ўнёсак пры высокай нагрузцы на памяць, нізкім зарадзе батарэі або пры адключэнні ад Wi-Fi.

• Жывая аналітыка: Глядзіце дакладна, колькі аператыўнай памяці вы прадастаўляеце кластару ў рэжыме рэальнага часу, стан вашага падключэння і вашу штодзённую гісторыю ўнёскаў.
• 100% прыватнасць і лакальнасць: RAMDeck працуе цалкам у вашай лакальнай сетцы (LAN). Дадзеныя не адпраўляюцца ў воблака, і не патрабуюцца староннія API. Вашы даныя і мадэлі цалкам застаюцца лакальна.

• Беспраблемная перабалансіроўка: Пры падключэнні і адключэнні ад сеткі каардынатар RAMDeck імгненна перабалансуе пласты мадэлі штучнага інтэлекту паміж астатнімі актыўнымі вузламі, не перарываючы сеанс.

Патрабаванні:
• Запушчаны каардынатар RAMDeck (напрыклад, Orange Pi, Raspberry Pi або лакальны сервер) у вашай лакальнай сетцы.

• Падключэнне да вашай лакальнай лакальнай сеткі праз Wi-Fi.

Заўвага: Гэта дадатак не запускае мадэлі штучнага інтэлекту самастойна. Яно дзейнічае як вузел памяці і вылічэнняў, які падключаецца да вашага існуючага кластара RAMDeck. Каб пачаць працу, неабходна разгарнуць праграмнае забеспячэнне каардынатара RAMDeck на вашай асноўнай прыладзе.