Vecy APP ابزارهایی را برای استفاده از مدل های زبان بزرگ (LLM) به طور مستقیم بر روی دستگاه ها ارائه می دهد. کاربران میتوانند از میان طیف وسیعی از LLMهای کوچک (از پارامترهای 0.5B تا 3.5B) انتخاب کنند و با اسناد ذخیرهشده محلی در مکالمه شرکت کنند. این برنامه به طور خودکار فایلها (PDF، اسناد DOCX، تصاویر، و غیره) را در فهرستهای Documents، Download و DCIM پردازش میکند تا بردارهای جاسازی را تولید کند که به صورت محلی در دستگاه ذخیره میشوند. این بردارهای جاسازی برای قابلیتهای RAG (تولید تقویتشده بازیابی) بسیار مهم هستند، و توانایی LLM را برای ارائه پاسخهای دقیقتر و مرتبطتر هنگامی که درخواستها به فایلهای محلی مربوط میشوند، افزایش میدهند.
تاریخ بهروزرسانی
۲۰ مرداد ۱۴۰۴