Vecy APP מציעה כלים למינוף מודלים של שפה גדולה (LLMs) ישירות במכשירים. משתמשים יכולים לבחור מתוך מגוון של LLMs קטנים (מ-0.5B עד 3.5B פרמטרים) ולהשתתף בשיחות עם מסמכים המאוחסנים באופן מקומי. האפליקציה מעבדת אוטומטית קבצים (קובצי PDF, מסמכי DOCX, תמונות וכו') בתוך ספריות המסמכים, ההורדות וה-DCIM כדי ליצור וקטורים הטמעים, המאוחסנים באופן מקומי במכשיר. וקטורי הטבעה אלו הם חיוניים ליכולות RAG (שליפה מוגדלת), מה שמשפר את היכולת של ה-LLM לספק תגובות מדויקות ורלוונטיות יותר כאשר שאילתות קשורות לקבצים המקומיים.
עדכון אחרון בתאריך
11 באוג׳ 2025