RAMDeck: Distributed AI

TradeMAV LLC

Осы қолданба туралы

RAMDeck - жергілікті RAMDeck үйлестірушісіне арналған ресми қосымша қолданба. Ол сіздің Android құрылғыңызды белсенді жұмысшы түйініне айналдырады, бұл сізге телефоныңыздың бос тұрған жедел жадын үлкен, жеке жасанды интеллект модельдерін тікелей жергілікті желіңізде қуаттандыру үшін кедергісіз қосуға мүмкіндік береді.

Күнделікті құрылғыларыңыздың (телефондар, ескі ноутбуктар және бір тақталы компьютерлер) жадын біріктіру арқылы RAMDeck таратылған қорытындылау қозғалтқышы сізге әдетте жоғары деңгейлі графикалық карталарға мыңдаған доллар қажет ететін заманауи үлкен тілдік модельдерді (LLM) іске қосуға мүмкіндік береді.

Негізгі мүмкіндіктер:
• Қиындықсыз үлес қосу: Жергілікті RAMDeck үйлестірушісіне қосылып, «Үлес қосуды бастау» түймесін басыңыз. Қолданба күрделі RPC желісін автоматты түрде басқарады.

• Ақылды ресурстарды басқару: Кіріктірілген ережелер құрылғыңыздың жұмыс істеп тұрғанын қамтамасыз етеді. Қолданба жоғары жад қысымы, батарея заряды аз болған кезде немесе Wi-Fi желісінен ажыратылған кезде үлес қосуды автоматты түрде тоқтатады.

• Тікелей ақпарат: Кластерлерге нақты уақыт режимінде қанша жедел жад беретініңізді, қосылымыңыздың күйін және күнделікті үлес тарихыңызды нақты көріңіз.
• 100% жеке және жергілікті: RAMDeck толығымен жергілікті желіңізде (LAN) жұмыс істейді. Бұлтқа деректер жіберілмейді және үшінші тарап API-лері қажет емес. Деректеріңіз бен модельдеріңіз толығымен жергілікті күйде қалады.

• Үздіксіз қайта теңгерім: Желіге қосылған және ажыратылған кезде, RAMDeck координаторы сеансты үзбей, қалған белсенді түйіндердегі жасанды интеллект модель қабаттарын бірден қайта теңгереді.

Талаптар:
• Жергілікті желіңізде жұмыс істейтін RAMDeck координаторы (мысалы, Orange Pi, Raspberry Pi немесе жергілікті сервер).
• Жергілікті LAN-ға Wi-Fi қосылымы.

Ескертпе: Бұл қолданба жасанды интеллект модельдерін өздігінен іске қоспайды. Ол сіздің бар RAMDeck кластеріңізге қосылатын жад және есептеу түйіні ретінде әрекет етеді. Бастау үшін сіз RAMDeck координаторының бағдарламалық жасақтамасын негізгі хост құрылғыңызға орналастыруыңыз керек.