Vecy APP tilbyder værktøjer til at udnytte store sprogmodeller (LLM'er) direkte på enheder. Brugere kan vælge mellem en række små LLM'er (fra 0,5B til 3,5B parametre) og deltage i samtaler med dokumenter, der er gemt lokalt. Appen behandler automatisk filer (PDF'er, DOCX-dokumenter, billeder osv.) i mapperne Dokumenter, Download og DCIM for at generere indlejringsvektorer, som er gemt lokalt på enheden. Disse indlejringsvektorer er afgørende for RAG-funktioner (retrieval-augmented generation), hvilket forbedrer LLM's evne til at give mere nøjagtige og relevante svar, når forespørgsler er relateret til de lokale filer.