RAMDeck: Distributed AI

TradeMAV LLC

เกี่ยวกับแอปนี้

RAMDeck คือแอปพลิเคชันคู่หูอย่างเป็นทางการสำหรับตัวประสานงาน RAMDeck ในเครือข่ายท้องถิ่นของคุณ แอปนี้จะเปลี่ยนอุปกรณ์ Android ของคุณให้เป็นโหนดทำงานที่ใช้งานได้จริง ช่วยให้คุณสามารถใช้ RAM ที่ไม่ได้ใช้งานของโทรศัพท์เพื่อประมวลผลโมเดล AI ขนาดใหญ่ส่วนตัวได้อย่างราบรื่น บนเครือข่ายท้องถิ่นของคุณเอง

ด้วยการรวมหน่วยความจำของอุปกรณ์ที่คุณใช้ในชีวิตประจำวัน (โทรศัพท์ แล็ปท็อปเก่า และคอมพิวเตอร์แบบบอร์ดเดี่ยว) กลไกการอนุมานแบบกระจายของ RAMDeck ช่วยให้คุณสามารถเรียกใช้โมเดลภาษาขนาดใหญ่ (LLM) ที่ทันสมัย ​​ซึ่งโดยปกติแล้วจะต้องใช้การ์ดกราฟิกคุณภาพสูงราคาหลายพันดอลลาร์

คุณสมบัติหลัก:
• การมีส่วนร่วมที่ง่ายดาย: เพียงเชื่อมต่อกับตัวประสานงาน RAMDeck ในเครือข่ายท้องถิ่นของคุณแล้วแตะ "เริ่มการมีส่วนร่วม" แอปจะจัดการเครือข่าย RPC ที่ซับซ้อนโดยอัตโนมัติ

• การจัดการทรัพยากรอย่างชาญฉลาด: กฎในตัวช่วยให้มั่นใจได้ว่าอุปกรณ์ของคุณจะทำงานได้อย่างมีประสิทธิภาพ แอปจะหยุดการมีส่วนร่วมโดยอัตโนมัติเมื่อมีการใช้งานหน่วยความจำสูง แบตเตอรี่เหลือน้อย หรือเมื่อตัดการเชื่อมต่อจาก Wi-Fi

• ข้อมูลเชิงลึกแบบเรียลไทม์: ดูปริมาณ RAM ที่คุณจัดสรรให้กับคลัสเตอร์แบบเรียลไทม์ สถานะการเชื่อมต่อ และประวัติการใช้งานรายวันของคุณได้อย่างแม่นยำ

• เป็นส่วนตัวและทำงานภายในเครือข่ายท้องถิ่น 100%: RAMDeck ทำงานบนเครือข่ายท้องถิ่น (LAN) ของคุณทั้งหมด ไม่มีการส่งข้อมูลไปยังคลาวด์ และไม่จำเป็นต้องใช้ API ของบุคคลที่สาม ข้อมูลและโมเดลของคุณจะอยู่ภายในเครือข่ายท้องถิ่นอย่างสมบูรณ์
• การปรับสมดุลอย่างราบรื่น: เมื่อคุณเชื่อมต่อและตัดการเชื่อมต่อจากเครือข่าย ตัวประสานงาน RAMDeck จะปรับสมดุลเลเยอร์โมเดล AI ไปยังโหนดที่ใช้งานอยู่โดยทันทีโดยไม่ตัดการเชื่อมต่อ

ข้อกำหนด:
• ตัวประสานงาน RAMDeck ที่ทำงานอยู่ (เช่น Orange Pi, Raspberry Pi หรือเซิร์ฟเวอร์ภายใน) บนเครือข่ายท้องถิ่นของคุณ

• การเชื่อมต่อ Wi-Fi กับ LAN ภายในของคุณ

หมายเหตุ: แอปนี้ไม่ได้รันโมเดล AI ด้วยตัวเอง มันทำหน้าที่เป็นโหนดหน่วยความจำและการประมวลผลที่เชื่อมต่อกับคลัสเตอร์ RAMDeck ที่มีอยู่ของคุณ ในการเริ่มต้น คุณต้องติดตั้งซอฟต์แวร์ตัวประสานงาน RAMDeck บนอุปกรณ์โฮสต์หลักของคุณ