Vecy

VecML Inc

Om denne appen

Vecy APP tilbyr verktøy for å utnytte store språkmodeller (LLM) direkte på enheter. Brukere kan velge fra en rekke små LLM-er (fra 0,5B til 3,5B parametere) og delta i samtaler med dokumenter som er lagret lokalt. Appen behandler automatisk filer (PDF-er, DOCX-dokumenter, bilder osv.) i katalogene Documents, Download og DCIM for å generere innebyggingsvektorer, som er lagret lokalt på enheten. Disse innebyggingsvektorene er avgjørende for RAG-funksjoner (gjenfinning-augmented generation), og forbedrer LLMs evne til å gi mer nøyaktige og relevante svar når forespørsler er relatert til de lokale filene.

Hva er nytt?

Vecy APP offers RAG tools for processing local files to enhance LLM responses.