Vecy APP は、大規模言語モデル (LLM) をデバイス上で直接活用するためのツールを提供します。ユーザーは、さまざまな小規模 LLM (0.5B ~ 3.5B パラメータ) から選択し、ローカルに保存されたドキュメントとの会話に参加できます。アプリは、Documents、Download、DCIM ディレクトリ内のファイル (PDF、DOCX ドキュメント、画像など) を自動的に処理して埋め込みベクトルを生成し、デバイス上にローカルに保存されます。これらの埋め込みベクトルは、RAG (検索拡張生成) 機能にとって重要であり、クエリがローカル ファイルに関連する場合に、より正確で関連性の高い応答を提供する LLM の機能を強化します。