Vecy APP предлага инструменти за използване на големи езикови модели (LLM) директно на устройства. Потребителите могат да избират от набор от малки LLMs (от 0,5B до 3,5B параметри) и да участват в разговори с документи, съхранявани локално. Приложението автоматично обработва файлове (PDF, DOCX документи, изображения и др.) в директориите Documents, Download и DCIM, за да генерира вектори за вграждане, които се съхраняват локално на устройството. Тези вектори за вграждане са от решаващо значение за възможностите на RAG (генериране с допълнено извличане), като подобряват способността на LLM да предоставя по-точни и подходящи отговори, когато заявките са свързани с локалните файлове.
Актуализирано на
11.08.2025 г.