LLM Server — On-Device AI API

magnus2026

О овој апликацији

★ Претворите свој телефон у AI сервер ★

LLM сервер вам омогућава да покрећете велике језичке моделе директно на свом Android уређају — и да их изложите као локалну API крајњу тачку са којом се може повезати било која апликација, скрипта или AI агент.

Без облака. Без претплата. Ваш телефон постаје AI бекенд.

━━━━━━━━━━━━━━━━━━━━━━━━━━

🧠 ЗАКЉУЧИВАЊЕ НА УРЕЂАЈУ
• Покрените LLM-ове отворене тежине (Llama, Gemma, Phi, Qwen, Mistral и друге)
• Оптимизовано за мобилни хардвер са GGUF квантизацијом
• Потпуна приватност — ваши подаци никада не напуштају ваш уређај
• Ради потпуно офлајн након преузимања модела

🔌 УГРАЂЕНИ API СЕРВЕР
• OpenAI-компатибилан REST API се служи са вашег телефона
• Повежите било који алат који говори OpenAI API формат
• Стримујте одговоре у реалном времену путем догађаја послатих са сервера
• Опслужите више клијената на вашој локалној мрежи

🤖 ИДЕАЛНО ЗА АИ АГЕНТЕ
• Дозволите својим АИ асистентима да позову ваш телефон као LLM бекенд
• Hermes Agent, LangChain, AutoGPT — било шта са HTTP-ом
• Tailscale/ZeroTier подршка за безбедан удаљени приступ
• Нису потребни API кључеви — ви поседујете модел

📱 КАКО ФУНКЦИОНИШЕ
1. Преузмите модел из уграђеног прегледача модела
2. Додирните „Покрени сервер“ да бисте покренули API крајњу тачку
3. Усмерите било ког клијента на http://your-phone-ip:8080/v1/chat/completions
4. То је то — ваш телефон је сада AI сервер

🔧 ТЕХНИЧКИ ДЕТАЉИ
• llama.cpp бекенд за брзо CPU/GPU закључивање
• Подржава GGUF моделе (Q4_K_M, Q5_K_M, Q8_0 и више)
• OpenAI-компатибилна крајња тачка /v1/chat/completions
• Конфигурисабилна дужина контекста, температура и узорковање
• Позадински сервис наставља да се приказује чак и када је апликација минимизирана
• Закључивање оптимизовано за батерију заказивање

━━━━━━━━━━━━━━━━━━━━━━━━━━━━

💡 ПРИМЕРИ УПОТРЕБЕ
• Лични вештачки интелект асистент који ради 100% на вашем уређају
• Развој и тестирање — прототипови вештачких интелект функција без трошкова облака
• Бекенд вештачког интелекта — дозволите аутономним агентима да користе ваш телефон као свој мозак
• Вештачка интелектуална ... закључавање

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━

LLM Server премошћује јаз између моћних модела вештачке интелигенције отвореног кода и уређаја које свакодневно носите са собом. Престаните да плаћате за позиве cloud API-ја — покрените сопствену вештачку интелигенцију, под сопственим условима.

Преузмите сада и претворите свој телефон у моћну вештачку интелигенцију.

Шта је ново

v1.7.0 — Improved first-launch experience with automatic starter model setup. New users get a working AI model within a minute of opening the app.