Приложение Vecy предлагает инструменты для использования больших языковых моделей (LLM) непосредственно на устройствах. Пользователи могут выбирать из ряда небольших LLM (от 0,5 до 3,5 млрд параметров) и участвовать в общении с документами, хранящимися локально. Приложение автоматически обрабатывает файлы (PDF-файлы, документы DOCX, изображения и т. д.) в каталогах «Документы», «Загрузка» и DCIM для создания векторов внедрения, которые хранятся локально на устройстве. Эти векторы внедрения имеют решающее значение для возможностей RAG (генерации с расширенным поиском), расширяя возможности LLM предоставлять более точные и релевантные ответы, когда запросы связаны с локальными файлами.
Последнее обновление
11 авг. 2025 г.