Vecy APP menawarkan alat untuk memanfaatkan model bahasa besar (LLM) langsung di perangkat. Pengguna dapat memilih dari berbagai LLM kecil (dari parameter 0,5 miliar hingga 3,5 miliar) dan terlibat dalam percakapan dengan dokumen yang disimpan secara lokal. Aplikasi ini secara otomatis memproses file (PDF, dokumen DOCX, gambar, dll.) dalam direktori Dokumen, Unduh, dan DCIM untuk menghasilkan vektor penyematan, yang disimpan secara lokal di perangkat. Vektor penyematan ini sangat penting untuk kemampuan RAG (retrieval-augmented generation), meningkatkan kemampuan LLM untuk memberikan respons yang lebih akurat dan relevan ketika kueri terkait dengan file lokal.