RAMDeck: Distributed AI

TradeMAV LLC

Колдонмо тууралуу

RAMDeck - бул жергиликтүү RAMDeck координаторуңуз үчүн расмий коштоочу колдонмо. Ал сиздин Android түзмөгүңүздү активдүү жумушчу түйүнгө айландырат, бул сизге телефонуңуздун бош турган RAMын чоң, жеке AI моделдерин кубаттоо үчүн үзгүлтүксүз кошууга мүмкүндүк берет - түздөн-түз өзүңүздүн жергиликтүү тармагыңызда.

Күнүмдүк түзмөктөрүңүздүн (телефондор, эски ноутбуктар жана бир такталуу компьютерлер) эс тутумун бириктирүү менен, RAMDeckтин бөлүштүрүлгөн тыянак чыгаруу кыймылдаткычы сизге адатта жогорку класстагы графикалык карталарга миңдеген доллар талап кылган заманбап чоң тил моделдерин (LLM) иштетүүгө мүмкүндүк берет.

Негизги функциялар:
• Оңой салым кошуу: Жөн гана жергиликтүү RAMDeck координаторуңузга туташып, "Салым кошууну баштоо" баскычын басыңыз. Колдонмо татаал RPC тармагын автоматтык түрдө башкарат.

• Акылдуу ресурстарды башкаруу: Орнотулган эрежелер түзмөгүңүздүн иштеп турганын камсыздайт. Колдонмо эс тутумдун жогорку басымы, батареянын аз заряды же Wi-Fi ажыратылганда автоматтык түрдө салым кошууну токтотот.

• Түз эфирдеги маалыматтар: Кластерге реалдуу убакытта канча RAM берип жатканыңызды, байланышыңыздын абалын жана күнүмдүк салым тарыхыңызды так көрүңүз.
• 100% жеке жана жергиликтүү: RAMDeck толугу менен сиздин жергиликтүү тармакта (LAN) иштейт. Булутка эч кандай маалыматтар жөнөтүлбөйт жана үчүнчү тараптын API'лери талап кылынбайт. Маалыматтарыңыз жана моделдериңиз толугу менен жергиликтүү бойдон калат.

• Үзгүлтүксүз кайра тең салмактоо: Тармакка туташып жана ажырап жатканда, RAMDeck координатору сеансты үзгүлтүккө учуратпастан, калган активдүү түйүндөрдөгү AI моделинин катмарларын заматта кайра тең салмактайт.

Талаптар:
• Жергиликтүү тармагыңызда иштеп жаткан RAMDeck координатору (мисалы, Orange Pi, Raspberry Pi же жергиликтүү сервер).
• Жергиликтүү LANга Wi-Fi туташуусу.

Эскертүү: Бул колдонмо AI моделдерин өз алдынча иштетпейт. Ал сиздин учурдагы RAMDeck кластериңизге туташкан эс тутум жана эсептөө түйүнү катары иштейт. Баштоо үчүн, сиз RAMDeck координаторунун программасын негизги хост түзмөгүңүзгө жайгаштырышыңыз керек.