แอพ Vecy นำเสนอเครื่องมือสำหรับการใช้ประโยชน์จากโมเดลภาษาขนาดใหญ่ (LLM) บนอุปกรณ์โดยตรง ผู้ใช้สามารถเลือกจาก LLM ขนาดเล็ก (ตั้งแต่พารามิเตอร์ 0.5B ถึง 3.5B) และมีส่วนร่วมในการสนทนากับเอกสารที่จัดเก็บไว้ในเครื่อง แอปจะประมวลผลไฟล์ (PDF, เอกสาร DOCX, รูปภาพ ฯลฯ) โดยอัตโนมัติภายในไดเร็กทอรีเอกสาร ดาวน์โหลด และ DCIM เพื่อสร้างเวกเตอร์แบบฝัง ซึ่งจัดเก็บไว้ในอุปกรณ์ เวกเตอร์ที่ฝังเหล่านี้มีความสำคัญอย่างยิ่งต่อความสามารถของ RAG (การสร้างการดึงข้อมูลเสริม) ซึ่งช่วยเพิ่มความสามารถของ LLM ในการให้การตอบสนองที่แม่นยำและเกี่ยวข้องมากขึ้น เมื่อการสืบค้นเกี่ยวข้องกับไฟล์ในเครื่อง