Vecy APP oferă instrumente pentru utilizarea modelelor de limbaj mari (LLM) direct pe dispozitive. Utilizatorii pot alege dintr-o gamă de LLM-uri mici (de la 0,5B la 3,5B parametri) și pot intra în conversații cu documente stocate local. Aplicația procesează automat fișiere (PDF, documente DOCX, imagini etc.) din directoarele Documente, Descărcare și DCIM pentru a genera vectori de încorporare, care sunt stocați local pe dispozitiv. Acești vectori de încorporare sunt esențiali pentru capabilitățile RAG (recuperare-augmented generation), îmbunătățind capacitatea LLM de a oferi răspunsuri mai precise și mai relevante atunci când interogările sunt legate de fișierele locale.
Ultima actualizare
11 aug. 2025