LLM Hub

timmy boy

இந்த ஆப்ஸ் பற்றி

LLM Hub ஆனது உங்கள் ஆண்ட்ராய்டு சாதனத்திற்கு நேரடியாக உற்பத்தி தர AIஐக் கொண்டுவருகிறது - தனிப்பட்டது, வேகமானது மற்றும் முழுமையாக உள்ளூர். பெரிய சூழல் சாளரங்கள், நிலையான உலகளாவிய நினைவகம் மற்றும் மீட்டெடுப்பு-ஆக்மென்டட் ஜெனரேஷன் (RAG) ஆகியவற்றைக் கொண்டு சாதனத்தில் சேமிக்கப்பட்ட அட்டவணைப்படுத்தப்பட்ட ஆவணங்களில் பதில்களை வழங்கும் நவீன சாதன LLMகளை (Gemma-3, Gemma-3n மல்டிமாடல், Llama-3.2, Phi-4 Mini) இயக்கவும். ஆவணங்கள் மற்றும் குறிப்புகளுக்கான உட்பொதிவுகளை உருவாக்கி சேமிக்கவும், திசையன் ஒற்றுமை தேடலை உள்நாட்டில் இயக்கவும் மற்றும் உங்களுக்கு நேரடி உண்மைகள் தேவைப்படும்போது DuckDuckGo-இயங்கும் இணையத் தேடலைப் பயன்படுத்தி பதில்களை வளப்படுத்தவும். நீங்கள் வெளிப்படையாக ஏற்றுமதி செய்யாத வரையில் முக்கியமான அனைத்தும் உங்கள் மொபைலில் இருக்கும்: உள்ளூர் மட்டும் நினைவகம், குறியீடுகள் மற்றும் உட்பொதிப்புகள் அதிக பொருத்தத்தையும் துல்லியத்தையும் வழங்கும் போது உங்கள் தனியுரிமையைப் பாதுகாக்கும்.

முக்கிய அம்சங்கள்

சாதனத்தில் LLM அனுமானம்: கிளவுட் சார்பு இல்லாமல் வேகமான, தனிப்பட்ட பதில்கள்; உங்கள் சாதனம் மற்றும் தேவைகளுடன் பொருந்தக்கூடிய மாதிரிகளைத் தேர்ந்தெடுக்கவும்.
மீட்டெடுப்பு-ஆக்மென்டட் ஜெனரேஷன் (RAG): உண்மை அடிப்படையிலான பதில்களை உருவாக்க, அட்டவணைப்படுத்தப்பட்ட ஆவணத் துண்டுகள் மற்றும் உட்பொதிப்புகளுடன் மாதிரி பகுத்தறிவை இணைக்கவும்.
நிலையான உலகளாவிய நினைவகம்: அமர்வுகள் முழுவதும் நீண்ட கால நினைவுகூரலுக்கு, உண்மைகள், ஆவணங்கள் மற்றும் அறிவை நிலையான, சாதன-உள்ளூர் நினைவகத்தில் (அறை DB) சேமிக்கவும்.
உட்பொதிப்புகள் & திசையன் தேடல்: உட்பொதிப்புகள், குறியீட்டு உள்ளடக்கத்தை உள்நாட்டில் உருவாக்கவும் மற்றும் திறமையான ஒற்றுமை தேடலுடன் மிகவும் பொருத்தமான ஆவணங்களை மீட்டெடுக்கவும்.
மல்டிமோடல் ஆதரவு: கிடைக்கும் போது, ​​சிறந்த தொடர்புகளுக்கு உரை + பட திறன் கொண்ட மாதிரிகள் (ஜெம்மா-3n) பயன்படுத்தவும்.
இணையத் தேடல் ஒருங்கிணைப்பு: RAG வினவல்கள் மற்றும் உடனடி பதில்களுக்கான புதுப்பித்த தகவலைப் பெற, DuckDuckGo-இயங்கும் இணைய முடிவுகளுடன் உள்ளூர் அறிவை நிரப்பவும்.
ஆஃப்லைனில் தயார்: நெட்வொர்க் அணுகல் இல்லாமல் வேலை செய்யுங்கள் - மாதிரிகள், நினைவகம் மற்றும் குறியீடுகள் சாதனத்தில் தொடர்ந்து இருக்கும்.
GPU முடுக்கம் (விரும்பினால்): ஆதரிக்கப்படும் இடத்தில் வன்பொருள் முடுக்கம் மூலம் பயன் பெறுங்கள் - பெரிய GPU-ஆதரவு மாடல்களுடன் சிறந்த முடிவுகளுக்கு, குறைந்தபட்சம் 8GB RAM கொண்ட சாதனங்களைப் பரிந்துரைக்கிறோம்.
தனியுரிமை-முதல் வடிவமைப்பு: நினைவகம், உட்பொதிப்புகள் மற்றும் RAG குறியீடுகள் இயல்பாகவே உள்ளூரில் இருக்கும்; தரவைப் பகிர அல்லது ஏற்றுமதி செய்ய நீங்கள் வெளிப்படையாகத் தேர்வுசெய்யும் வரை மேகக்கணி பதிவேற்றம் இல்லை.
நீண்ட-சூழல் கையாளுதல்: பெரிய சூழல் சாளரங்களைக் கொண்ட மாடல்களுக்கான ஆதரவு, எனவே உதவியாளர் விரிவான ஆவணங்கள் மற்றும் வரலாறுகளை நியாயப்படுத்த முடியும்.
டெவலப்பர்-நட்பு: தனிப்பட்ட, ஆஃப்லைன் AI தேவைப்படும் பயன்பாடுகளுக்கான உள்ளூர் அனுமானம், அட்டவணைப்படுத்தல் மற்றும் மீட்டெடுப்பு பயன்பாட்டு வழக்குகளுடன் ஒருங்கிணைக்கிறது.
LLM ஹப்பை ஏன் தேர்வு செய்ய வேண்டும்? மொபைலில் தனிப்பட்ட, துல்லியமான மற்றும் நெகிழ்வான AI ஐ வழங்குவதற்காக LLM Hub உருவாக்கப்பட்டுள்ளது. இது உள்ளூர் அனுமானத்தின் வேகத்தை மீட்டெடுப்பு அடிப்படையிலான அமைப்புகளின் உண்மையான அடிப்படையுடன் இணைக்கிறது மற்றும் நிலையான நினைவகத்தின் வசதி - அறிவு பணியாளர்கள், தனியுரிமை உணர்வுள்ள பயனர்கள் மற்றும் உள்ளூர் முதல் AI அம்சங்களை உருவாக்கும் டெவலப்பர்களுக்கு ஏற்றது.

ஆதரிக்கப்படும் மாதிரிகள்: Gemma-3, Gemma-3n (மல்டிமாடல்), லாமா-3.2, Phi-4 Mini — உங்கள் சாதனத் திறன்கள் மற்றும் சூழல் தேவைகளுக்குப் பொருந்தக்கூடிய மாதிரியைத் தேர்வுசெய்யவும்.

புதிய அம்சங்கள்

- Upgraded Phi-4 Mini Max context window to 4096 and enabled GPU backend
- Model loading configuration now remembers your last settings
- Added translation support for Italian