Nag-aalok ang Vecy APP ng mga tool para sa paggamit ng mga malalaking modelo ng wika (LLM) nang direkta sa mga device. Maaaring pumili ang mga user mula sa isang hanay ng maliliit na LLM (mula 0.5B hanggang 3.5B na mga parameter) at makisali sa mga pag-uusap sa mga dokumentong lokal na nakaimbak. Awtomatikong pinoproseso ng app ang mga file (mga PDF, dokumento ng DOCX, larawan, atbp.) sa loob ng mga direktoryo ng Documents, Download, at DCIM upang makabuo ng mga vector sa pag-embed, na lokal na nakaimbak sa device. Ang mga vector na ito sa pag-embed ay mahalaga para sa mga kakayahan ng RAG (retrieval-augmented generation), na nagpapahusay sa kakayahan ng LLM na magbigay ng mas tumpak at nauugnay na mga tugon kapag ang mga query ay nauugnay sa mga lokal na file.
Na-update noong
Ago 11, 2025