Aplikacja Vecy oferuje narzędzia umożliwiające wykorzystanie dużych modeli językowych (LLM) bezpośrednio na urządzeniach. Użytkownicy mogą wybierać spośród szeregu małych LLM (parametry od 0,5B do 3,5B) i prowadzić rozmowy z dokumentami przechowywanymi lokalnie. Aplikacja automatycznie przetwarza pliki (pliki PDF, dokumenty DOCX, obrazy itp.) w katalogach Dokumenty, Pobieranie i DCIM w celu wygenerowania wektorów osadzania, które są przechowywane lokalnie na urządzeniu. Te wektory osadzania mają kluczowe znaczenie dla możliwości RAG (generowanie wspomagane pobieraniem), zwiększając zdolność LLM do zapewniania dokładniejszych i trafniejszych odpowiedzi, gdy zapytania są powiązane z plikami lokalnymi.
Ostatnia aktualizacja
11 sie 2025