RAMDeck: Distributed AI

TradeMAV LLC

Rreth këtij aplikacioni

RAMDeck është aplikacioni zyrtar shoqërues për koordinatorin tuaj lokal RAMDeck. Ai e transformon pajisjen tuaj Android në një nyje pune aktive, duke ju lejuar të kontribuoni pa probleme RAM-in e papërdorur të telefonit tuaj për të fuqizuar modele masive dhe private të IA-së - direkt në rrjetin tuaj lokal.

Duke bashkuar kujtesën e pajisjeve tuaja të përditshme (telefona, laptopë të vjetër dhe kompjuterë me një bord të vetëm), motori i shpërndarë i inferencës i RAMDeck ju lejon të ekzekutoni Modele të Mëdha Gjuhësore (LLM) të teknologjisë së fundit që normalisht do të kërkonin mijëra dollarë në karta grafike të nivelit të lartë.

Karakteristikat kryesore:
• Kontribut i lehtë: Thjesht lidheni me koordinatorin tuaj lokal RAMDeck dhe prekni "Filloni Kontributin". Aplikacioni trajton automatikisht rrjetëzimin kompleks RPC.
• Menaxhim i zgjuar i burimeve: Rregullat e integruara sigurojnë që pajisja juaj të mbetet e shëndetshme. Aplikacioni automatikisht ndalon kontributin gjatë presionit të lartë të memories, baterisë së ulët ose kur shkëputeni nga Wi-Fi.
• Të dhëna të drejtpërdrejta: Shikoni saktësisht se sa RAM po i ofroni klasterit në kohë reale, gjendjen tuaj të lidhjes dhe historikun tuaj të kontributeve ditore.
• 100% Private dhe Lokale: RAMDeck funksionon tërësisht në rrjetin tuaj lokal (LAN). Nuk dërgohen të dhëna në cloud dhe nuk kërkohen API të palëve të treta. Të dhënat dhe modelet tuaja qëndrojnë plotësisht në vend.

• Ribalancim i Përshtatshëm: Ndërsa lidheni dhe shkëputeni nga rrjeti, koordinatori RAMDeck ribalancon menjëherë shtresat e modelit të IA-së në të gjitha nyjet e mbetura aktive pa ndërprerë seancën.

Kërkesat:
• Një Koordinator RAMDeck në punë (p.sh., Orange Pi, Raspberry Pi ose një server lokal) në rrjetin tuaj lokal.

• Një lidhje Wi-Fi me LAN-in tuaj lokal.

Shënim: Ky aplikacion nuk ekzekuton modele IA më vete. Ai vepron si një nyje memorieje dhe llogaritëse që lidhet me klasterin tuaj ekzistues RAMDeck. Për të filluar, duhet të vendosni softuerin koordinator RAMDeck në pajisjen tuaj kryesore pritëse.