„Vecy APP“ siūlo įrankius, skirtus didelių kalbų modeliams (LLM) naudoti tiesiogiai įrenginiuose. Vartotojai gali pasirinkti iš daugybės mažų LLM (nuo 0,5 B iki 3,5 B parametrų) ir užmegzti pokalbius su dokumentais, saugomais vietoje. Programa automatiškai apdoroja failus (PDF, DOCX dokumentus, vaizdus ir kt.) Dokumentų, Atsisiuntimų ir DCIM kataloguose, kad generuotų įterpimo vektorius, kurie saugomi vietoje įrenginyje. Šie įterpimo vektoriai yra labai svarbūs RAG (patobulintos kartos) galimybėms, o tai pagerina LLM gebėjimą pateikti tikslesnius ir tinkamesnius atsakymus, kai užklausos yra susijusios su vietiniais failais.