LLM Server — On-Device AI API

magnus2026

இந்த ஆப்ஸ் பற்றி

★ உங்கள் தொலைபேசியை ஒரு AI சர்வராக மாற்றுங்கள் ★

LLM சர்வர், பெரிய மொழி மாதிரிகளை உங்கள் ஆண்ட்ராய்டு சாதனத்தில் நேரடியாக இயக்க உதவுகிறது — மேலும் அவற்றை ஒரு உள்ளூர் API முனையமாக வெளிப்படுத்துகிறது, இதன் மூலம் எந்தவொரு செயலி, ஸ்கிரிப்ட் அல்லது AI ஏஜென்ட்டும் அதனுடன் இணைய முடியும்.

கிளவுட் தேவையில்லை. சந்தாக்கள் தேவையில்லை. உங்கள் தொலைபேசியே AI-யின் பின்தளமாக மாறுகிறது.

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━

🧠 சாதனத்திலேயே அனுமானம்
• ஓப்பன்-வெயிட் LLM-களை (லாமா, ஜெம்மா, ஃபை, க்வென், மிஸ்ட்ரல் மற்றும் பல) இயக்கவும்
• GGUF குவாண்டமாக்கலுடன் மொபைல் வன்பொருளுக்காக உகந்ததாக்கப்பட்டது
• முழுமையான தனியுரிமை — உங்கள் தரவு உங்கள் சாதனத்தை விட்டு வெளியேறாது
• மாடல்கள் பதிவிறக்கம் செய்யப்பட்டவுடன் முற்றிலும் ஆஃப்லைனில் செயல்படும்

🔌 உள்ளமைக்கப்பட்ட API சர்வர்
• உங்கள் தொலைபேசியிலிருந்து வழங்கப்படும் OpenAI-இணக்கமான REST API
• OpenAI API வடிவத்தில் பேசும் எந்தவொரு கருவியையும் இணைக்கவும்
• சர்வர்-சென்ட் நிகழ்வுகள் வழியாக நிகழ்நேரத்தில் பதில்களை ஸ்ட்ரீம் செய்யவும்
• உங்கள் உள்ளூர் நெட்வொர்க்கில் பல கிளையண்டுகளுக்கு சேவை செய்யவும்

🤖 செயற்கை நுண்ணறிவுக்கு ஏற்றது ஏஜென்ட்கள்
• உங்கள் AI உதவியாளர்கள் உங்கள் தொலைபேசியை ஒரு LLM பேக்கெண்டாக அழைக்கட்டும்
• ஹெர்ம்ஸ் ஏஜென்ட், லாங்செயின், ஆட்டோஜிபிடி — HTTP உள்ள அனைத்தும்
• பாதுகாப்பான ரிமோட் அணுகலுக்கான டெய்ல்ஸ்கேல்/ஜீரோடியர் ஆதரவு
• API கீகள் தேவையில்லை — மாடல் உங்களுக்கே சொந்தம்

📱 இது எப்படி வேலை செய்கிறது
1. உள்ளமைக்கப்பட்ட மாடல் பிரவுசரிலிருந்து ஒரு மாடலைப் பதிவிறக்கவும்
2. API எண்ட்பாயிண்ட்டைத் தொடங்க "ஸ்டார்ட் சர்வர்" என்பதைத் தட்டவும்
3. எந்தவொரு கிளையன்ட்டையும் http://your-phone-ip:8080/v1/chat/completions என்பதற்குச் சுட்டிக்காட்டவும்
4. அவ்வளவுதான் — உங்கள் தொலைபேசி இப்போது ஒரு AI சர்வர் ஆகிவிட்டது

🔧 தொழில்நுட்ப விவரங்கள்
• வேகமான CPU/GPU அனுமானத்திற்கான llama.cpp பேக்கெண்ட்
• GGUF மாடல்களை (Q4_K_M, Q5_K_M, Q8_0 மற்றும் பல) ஆதரிக்கிறது
• OpenAI-இணக்கமான /v1/chat/completions எண்ட்பாயிண்ட்
• உள்ளமைக்கக்கூடிய கான்டெக்ஸ்ட் நீளம், வெப்பநிலை, மற்றும் மாதிரியெடுத்தல்
• செயலி சிறிதாக்கப்பட்டாலும் பின்னணிச் சேவை தொடர்ந்து செயல்படும்
• பேட்டரிக்கு உகந்த அனுமான அட்டவணைப்படுத்தல்

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━

💡 பயன்பாட்டுச் சூழல்கள்
• உங்கள் சாதனத்தில் 100% இயங்கும் தனிப்பட்ட AI உதவியாளர்
• உருவாக்கம் மற்றும் சோதனை — கிளவுட் செலவுகள் இல்லாமல் AI அம்சங்களின் முன்மாதிரிகளை உருவாக்குதல்
• AI ஏஜென்ட் பின்தளம் — தன்னாட்சி ஏஜென்ட்கள் உங்கள் தொலைபேசியைத் தங்கள் மூளையாகப் பயன்படுத்தட்டும்
• தனியுரிமைக்கு முன்னுரிமை அளிக்கும் AI — முக்கியமான தரவுகள் ஒருபோதும் கிளவுட்டை அணுகுவதில்லை
• ஆஃப்லைன் AI — விமானங்களில், சுரங்கங்களில், எங்கும் செயல்படும்

🔒 தனியுரிமை மற்றும் பாதுகாப்பு
• அனைத்து அனுமானங்களும் சாதனத்திலேயே நடைபெறும்
• தரவு சேகரிப்பு இல்லை, டெலிமெட்ரி இல்லை, கிளவுட் சார்பு இல்லை
• API சேவையகம் இயல்பாக உங்கள் உள்ளூர் நெட்வொர்க்கில் மட்டுமே அணுகக்கூடியது
• திறந்த மூல மாதிரிச் சூழலமைப்பு — விற்பனையாளர் கட்டுப்பாடு இல்லை

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━━

LLM சர்வர், சக்திவாய்ந்த திறந்த மூல AI மாதிரிகளுக்கும் நீங்கள் அன்றாடம் பயன்படுத்தும் சாதனங்களுக்கும் இடையே உள்ள இடைவெளியை இணைக்கிறது. கிளவுட் API அழைப்புகளுக்குப் பணம் செலுத்துவதை நிறுத்துங்கள் — உங்கள் சொந்த AI-ஐ, உங்கள் சொந்த நிபந்தனைகளின்படி இயக்குங்கள்.

இப்போதே பதிவிறக்கம் செய்து, உங்கள் தொலைபேசியை ஒரு AI ஆற்றல் மையமாக மாற்றுங்கள்.

புதிய அம்சங்கள்

v1.7.0 — Improved first-launch experience with automatic starter model setup. New users get a working AI model within a minute of opening the app.