LLM Hub

timmy boy‏

מידע על האפליקציה הזו

LLM Hub מביא יכולות AI ברמה מקצועית ישירות למכשיר האנדרואיד שלכם — באופן פרטי, מהיר, ומקומי לחלוטין. הפעילו מודלי LLM מתקדמים על המכשיר (Gemma-3, Gemma-3n מולטימודלי, Llama-3.2, Phi-4 Mini) עם חלונות הקשר רחבים, זיכרון גלובלי קבוע, ויצירה מבוססת אחזור (RAG) המבססת תשובות על מסמכים מאונדקסים המאוחסנים במכשיר. צרו ושמרו הטמעות למסמכים והערות, בצעו חיפוש דמיון וקטורי מקומי, והעשירו תגובות עם חיפוש אינטרנט מופעל על ידי DuckDuckGo כשאתם זקוקים למידע עדכני. כל המידע החשוב נשאר בטלפון שלכם אלא אם תבחרו לייצא אותו במפורש: זיכרון מקומי בלבד, אינדקסים והטמעות שומרים על פרטיותכם תוך מתן רלוונטיות ודיוק גבוהים.

תכונות עיקריות

הסקת מסקנות LLM על המכשיר: תגובות מהירות ופרטיות ללא תלות בענן; בחרו מודלים המתאימים למכשיר ולצרכים שלכם.
יצירה מבוססת אחזור (RAG): שלבו את יכולת החשיבה של המודל עם קטעי מסמכים מאונדקסים והטמעות ליצירת תשובות מבוססות עובדות.
זיכרון גלובלי קבוע: שמרו עובדות, מסמכים וידע בזיכרון קבוע, מקומי למכשיר (Room DB) לשליפה לטווח ארוך בין שימושים.
הטמעות וחיפוש וקטורי: צרו הטמעות, אנדקסו תוכן מקומי, ואחזרו את המסמכים הרלוונטיים ביותר באמצעות חיפוש דמיון יעיל.
תמיכה מולטימודלית: השתמשו במודלים התומכים בטקסט ותמונה (Gemma-3n) לאינטראקציות עשירות יותר, כשהם זמינים.
שילוב חיפוש אינטרנט: השלימו ידע מקומי עם תוצאות אינטרנט מ-DuckDuckGo לקבלת מידע עדכני עבור שאילתות RAG ותשובות מיידיות.
מוכן לעבודה ללא חיבור: עבדו ללא צורך בחיבור לרשת — מודלים, זיכרון ואינדקסים נשמרים על המכשיר.
האצת GPU (אופציונלי): נצלו האצת חומרה היכן שנתמכת — לתוצאות מיטביות עם מודלים גדולים יותר הנתמכים על ידי GPU, אנו ממליצים על מכשירים עם לפחות 8GB זיכרון RAM.
עיצוב ממוקד פרטיות: זיכרון, הטמעות ואינדקסים של RAG נשארים מקומיים כברירת מחדל; אין העלאה לענן אלא אם תבחרו במפורש לשתף או לייצא נתונים.
טיפול בהקשר ארוך: תמיכה במודלים עם חלונות הקשר גדולים המאפשרת לעוזר לנתח מסמכים והיסטוריות נרחבות.
ידידותי למפתחים: משתלב עם תרחישי שימוש של הסקת מסקנות מקומית, אינדוקס ואחזור עבור אפליקציות הדורשות AI פרטי ולא מקוון.
למה לבחור ב-LLM Hub? LLM Hub נבנה כדי לספק AI פרטי, מדויק וגמיש במכשירים ניידים. הוא משלב את המהירות של הסקת מסקנות מקומית עם ביסוס עובדתי של מערכות מבוססות אחזור והנוחות של זיכרון קבוע — אידיאלי לעובדי ידע, משתמשים המודעים לפרטיות, ומפתחים הבונים תכונות AI מקומיות בראש ובראשונה.

מודלים נתמכים: Gemma-3, Gemma-3n (מולטימודלי), Llama-3.2, Phi-4 Mini — בחרו את המודל המתאים ליכולות המכשיר ולצרכי ההקשר שלכם.

מה חדש?

- חלון ההקשר של Phi-4 Mini Max שודרג ל-4096 ותמיכה ב-GPU הופעלה
- הגדרות טעינת המודל זוכרות כעת את ההגדרות האחרונות שלך
- נוספה תמיכה בתרגום לאיטלקית