La aplicación Vecy ofrece herramientas para aprovechar modelos de lenguaje grandes (LLM) directamente en los dispositivos. Los usuarios pueden seleccionar entre una variedad de LLM pequeños (de 0,5 mil millones a 3,5 mil millones de parámetros) y entablar conversaciones con documentos almacenados localmente. La aplicación procesa automáticamente archivos (PDF, documentos DOCX, imágenes, etc.) dentro de los directorios Documentos, Descargas y DCIM para generar vectores de incrustación, que se almacenan localmente en el dispositivo. Estos vectores de incrustación son cruciales para las capacidades RAG (generación aumentada de recuperación), ya que mejoran la capacidad del LLM para proporcionar respuestas más precisas y relevantes cuando las consultas están relacionadas con los archivos locales.
Última actualización
11 ago 2025