Vecy

VecML Inc

Om appen

Vecy APP erbjuder verktyg för att utnyttja stora språkmodeller (LLM) direkt på enheter. Användare kan välja från en rad små LLM:er (från 0,5B till 3,5B parametrar) och delta i konversationer med dokument som lagras lokalt. Appen bearbetar automatiskt filer (PDF, DOCX-dokument, bilder, etc.) i katalogerna Documents, Download och DCIM för att generera inbäddningsvektorer, som lagras lokalt på enheten. Dessa inbäddningsvektorer är avgörande för RAG-kapaciteten (återhämtning-augmented generation), vilket förbättrar LLM:s förmåga att ge mer exakta och relevanta svar när frågor är relaterade till de lokala filerna.

Nyheter

Vecy APP offers RAG tools for processing local files to enhance LLM responses.