RAMDeck: Distributed AI

TradeMAV LLC

Tungkol sa app na ito

Ang RAMDeck ay ang opisyal na kasamang app para sa iyong lokal na RAMDeck coordinator. Binabago nito ang iyong Android device sa isang aktibong worker node, na nagbibigay-daan sa iyong walang putol na i-contribute ang idle RAM ng iyong telepono upang paganahin ang malalaki at pribadong AI models—direkta sa iyong sariling lokal na network.

Sa pamamagitan ng pagsasama-sama ng memorya ng iyong pang-araw-araw na mga device (mga telepono, lumang laptop, at single-board computer), ang distributed inference engine ng RAMDeck ay nagbibigay-daan sa iyong magpatakbo ng mga state-of-the-art na Large Language Models (LLM) na karaniwang mangangailangan ng libu-libong dolyar sa mga high-end graphics card.

Mga Pangunahing Tampok:
• Madaling Kontribusyon: Kumonekta lamang sa iyong lokal na RAMDeck coordinator at i-tap ang "Start Contributing." Awtomatikong pinangangasiwaan ng app ang kumplikadong RPC networking.
• Smart Resource Management: Tinitiyak ng mga built-in na panuntunan na mananatiling malusog ang iyong device. Awtomatikong ihihinto ng app ang kontribusyon habang mataas ang pressure ng memorya, mahina ang baterya, o kapag nakadiskonekta mula sa Wi-Fi.
• Live Insights: Tingnan kung gaano karaming RAM ang ibinibigay mo sa cluster nang real-time, ang kalusugan ng iyong koneksyon, at ang iyong pang-araw-araw na kasaysayan ng kontribusyon.
• 100% Pribado at Lokal: Ang RAMDeck ay ganap na gumagana sa iyong local area network (LAN). Walang data na ipinapadala sa cloud, at walang kinakailangang third-party API. Ang iyong data at mga modelo ay nananatiling ganap na on-premise.

• Walang Tuluy-tuloy na Pagbabalanse: Habang kumokonekta at nagdidiskonekta ka mula sa network, agad na binabalanse ng RAMDeck coordinator ang mga layer ng AI model sa mga natitirang aktibong node nang hindi inaalis ang session.

Mga Kinakailangan:

• Isang tumatakbong RAMDeck Coordinator (hal., Orange Pi, Raspberry Pi, o isang lokal na server) sa iyong lokal na network.

• Isang koneksyon sa Wi-Fi sa iyong lokal na LAN.

Tandaan: Ang app na ito ay hindi nagpapatakbo ng mga AI model nang mag-isa. Gumagana ito bilang isang memory at compute node na kumokonekta sa iyong umiiral na RAMDeck cluster. Para makapagsimula, dapat mong i-deploy ang RAMDeck coordinator software sa iyong pangunahing host device.