Vecy APP tarjoaa työkaluja suurten kielimallien (LLM) hyödyntämiseen suoraan laitteissa. Käyttäjät voivat valita useista pienistä LLM:istä (parametrit 0,5 - 3,5 B) ja osallistua keskusteluihin paikallisesti tallennettujen asiakirjojen kanssa. Sovellus käsittelee automaattisesti tiedostot (PDF-tiedostot, DOCX-asiakirjat, kuvat jne.) Documents-, Download- ja DCIM-hakemistoissa luodakseen upotusvektoreita, jotka tallennetaan paikallisesti laitteeseen. Nämä upotusvektorit ovat ratkaisevan tärkeitä RAG (retrieval-augmented generation) -ominaisuuksille, mikä parantaa LLM:n kykyä tarjota tarkempia ja osuvampia vastauksia, kun kyselyt liittyvät paikallisiin tiedostoihin.