A aplicación Vecy ofrece ferramentas para aproveitar os grandes modelos de linguaxe (LLM) directamente nos dispositivos. Os usuarios poden seleccionar entre unha serie de pequenos LLM (de 0,5B a 3,5B parámetros) e participar en conversas con documentos almacenados localmente. A aplicación procesa automaticamente ficheiros (PDF, documentos DOCX, imaxes, etc.) dentro dos directorios Documents, Download e DCIM para xerar vectores de incrustación, que se almacenan localmente no dispositivo. Estes vectores de incorporación son cruciais para as capacidades de RAG (xeración aumentada por recuperación), mellorando a capacidade do LLM para proporcionar respostas máis precisas e relevantes cando as consultas están relacionadas cos ficheiros locais.
Última actualización
11 de ago. de 2025