RAMDeck: Distributed AI

TradeMAV LLC

За апликацијава

RAMDeck е официјалната придружна апликација за вашиот локален координатор RAMDeck. Го трансформира вашиот Android уред во активен работнички јазол, овозможувајќи ви беспрекорно да ја придонесувате неактивната RAM меморија на вашиот телефон за напојување на масивни, приватни модели на вештачка интелигенција - директно на вашата локална мрежа.

Со здружување на меморијата на вашите секојдневни уреди (телефони, стари лаптопи и компјутери со една плоча), дистрибуираниот мотор за инференција на RAMDeck ви овозможува да извршувате најсовремени модели на големи јазици (LLM) кои нормално би барале илјадници долари во врвни графички картички.

Клучни карактеристики:
• Лесен придонес: Едноставно поврзете се со вашиот локален координатор RAMDeck и допрете „Започни со придонес“. Апликацијата автоматски се справува со сложеното RPC мрежно поврзување.

• Паметно управување со ресурси: Вградените правила осигуруваат дека вашиот уред останува здрав. Апликацијата автоматски го паузира придонесот за време на висок притисок на меморијата, слаба батерија или кога сте исклучени од Wi-Fi.
• Увид во живо: Погледнете точно колку RAM меморија обезбедувате на кластерот во реално време, вашето здравје на врската и вашата дневна историја на придонеси.

• 100% приватно и локално: RAMDeck работи целосно на вашата локална мрежа (LAN). Не се испраќаат податоци во облакот и не се потребни API-ја од трети страни. Вашите податоци и модели остануваат целосно на локацијата.

• Беспрекорно ребалансирање: Како што се поврзувате и исклучувате од мрежата, координаторот RAMDeck веднаш ги ребалансира слоевите на моделот со вештачка интелигенција низ преостанатите активни јазли без да ја прекине сесијата.

Потребни услови:
• Активен координатор RAMDeck (на пр., Orange Pi, Raspberry Pi или локален сервер) на вашата локална мрежа.

• Wi-Fi конекција со вашата локална LAN.

Забелешка: Оваа апликација не извршува модели со вештачка интелигенција самостојно. Таа делува како мемориски и пресметковен јазол што се поврзува со вашиот постоечки RAMDeck кластер. За да започнете, мора да го распоредите софтверот за координација RAMDeck на вашиот примарен уред домаќин.