Vecy APP пропонує інструменти для використання великих мовних моделей (LLM) безпосередньо на пристроях. Користувачі можуть вибирати з низки невеликих LLM (параметри від 0,5 B до 3,5 B) і брати участь у розмовах із документами, що зберігаються локально. Програма автоматично обробляє файли (PDF, документи DOCX, зображення тощо) у каталогах Documents, Download і DCIM, щоб створити вектори для вбудовування, які зберігаються локально на пристрої. Ці вектори вбудовування мають вирішальне значення для можливостей RAG (генерування з доповненим пошуком), покращуючи здатність LLM надавати більш точні та релевантні відповіді, коли запити пов’язані з локальними файлами.