Vecy APP pakub tööriistu suurte keelemudelite (LLM) otse seadmetes kasutamiseks. Kasutajad saavad valida väikeste LLM-ide hulgast (parameetrid 0,5–3,5 miljardit) ja suhelda kohapeal salvestatud dokumentidega. Rakendus töötleb automaatselt faile (PDF-id, DOCX-dokumendid, pildid jne) kataloogides Dokumendid, Allalaadimised ja DCIM, et luua manustamisvektorid, mis salvestatakse seadmesse lokaalselt. Need manustamisvektorid on üliolulised RAG (retrieval-augmented generation) võimaluste jaoks, suurendades LLM-i võimet pakkuda täpsemaid ja asjakohasemaid vastuseid, kui päringud on seotud kohalike failidega.
Värskendatud:
11. aug 2025