Vecy APP সরাসরি ডিভাইসে বড় ভাষা মডেল (LLMs) ব্যবহার করার জন্য টুল অফার করে। ব্যবহারকারীরা ছোট ছোট এলএলএম (0.5B থেকে 3.5B প্যারামিটার পর্যন্ত) থেকে নির্বাচন করতে পারেন এবং স্থানীয়ভাবে সঞ্চিত নথিগুলির সাথে কথোপকথনে নিযুক্ত হতে পারেন। অ্যাপটি স্বয়ংক্রিয়ভাবে নথি, ডাউনলোড এবং ডিসিআইএম ডিরেক্টরির মধ্যে ফাইলগুলি (পিডিএফ, DOCX নথি, ছবি ইত্যাদি) প্রক্রিয়া করে যাতে এম্বেডিং ভেক্টর তৈরি করা হয়, যা ডিভাইসে স্থানীয়ভাবে সংরক্ষণ করা হয়। এই এমবেডিং ভেক্টরগুলি RAG (পুনরুদ্ধার-বর্ধিত প্রজন্ম) ক্ষমতার জন্য অত্যন্ত গুরুত্বপূর্ণ, যখন প্রশ্নগুলি স্থানীয় ফাইলগুলির সাথে সম্পর্কিত হয় তখন আরও নির্ভুল এবং প্রাসঙ্গিক প্রতিক্রিয়া প্রদানের জন্য LLM-এর ক্ষমতা বৃদ্ধি করে৷
আপডেট করা হয়েছে
১১ আগ, ২০২৫