LLM Server — On-Device AI API

magnus2026

Bu uygulama hakkında

★ Telefonunuzu Yapay Zeka Sunucusuna Dönüştürün ★

LLM Server, büyük dil modellerini doğrudan Android cihazınızda çalıştırmanıza ve bunları herhangi bir uygulama, komut dosyası veya yapay zeka aracısının bağlanabileceği yerel bir API uç noktası olarak sunmanıza olanak tanır.

Bulut yok. Abonelik yok. Telefonunuz yapay zeka arka ucu haline gelir.

━━━━━━━━━━━━━━━━━━━━━━━━━━━━

🧠 CİHAZ ÜZERİNDE ÇIKARIM
• Açık ağırlıklı LLM'leri çalıştırın (Llama, Gemma, Phi, Qwen, Mistral ve daha fazlası)
• GGUF niceleme ile mobil donanım için optimize edilmiştir
• Tam gizlilik — verileriniz asla cihazınızdan ayrılmaz
• Modeller indirildikten sonra tamamen çevrimdışı çalışır

🔌 DAHİLİ API ​​SUNUCUSU
• Telefonunuzdan sunulan OpenAI uyumlu REST API
• OpenAI API formatını konuşan herhangi bir aracı bağlayın
• Sunucu Tarafından Gönderilen Olaylar aracılığıyla yanıtları gerçek zamanlı olarak yayınlayın
• Yerel ağınızdaki birden fazla istemciye hizmet verin

🤖 YAPAY ZEKÂ AJANLARI İÇİN MÜKEMMEL
• Yapay zekânızın • Yardımcılar telefonunuzu bir LLM arka ucu olarak çağırır
• Hermes Agent, LangChain, AutoGPT — HTTP ile çalışan her şey
• Güvenli uzaktan erişim için Tailscale/ZeroTier desteği
• API anahtarlarına gerek yok — modelin sahibi sizsiniz

📱 NASIL ÇALIŞIR
1. Dahili model tarayıcısından bir model indirin
2. API uç noktasını başlatmak için "Sunucuyu Başlat"a dokunun
3. Herhangi bir istemciyi http://your-phone-ip:8080/v1/chat/completions adresine yönlendirin
4. İşte bu kadar — telefonunuz artık bir yapay zeka sunucusu

🔧 TEKNİK DETAYLAR
• Hızlı CPU/GPU çıkarımı için llama.cpp arka ucu
• GGUF modellerini destekler (Q4_K_M, Q5_K_M, Q8_0 ve daha fazlası)
• OpenAI uyumlu /v1/chat/completions uç noktası
• Yapılandırılabilir bağlam uzunluğu, sıcaklık ve örnekleme
• Uygulama küçültüldüğünde bile arka plan hizmeti çalışmaya devam eder
• Pil optimizasyonlu çıkarım zamanlaması

━━━━━━━━━━━━━━━━━━━━━━━━━━━━

💡 KULLANIM ALANLARI
• %100 cihazınızda çalışan kişisel yapay zeka asistanı
• Geliştirme ve test etme — bulut maliyetleri olmadan yapay zeka özelliklerinin prototipini oluşturma
• Yapay zeka ajanı arka ucu — otonom ajanların telefonunuzu beyin olarak kullanmasına izin verme
• Gizlilik öncelikli yapay zeka — hassas veriler asla buluta ulaşmaz
• Çevrimdışı yapay zeka — uçaklarda, tünellerde, her yerde çalışır

🔒 GİZLİLİK VE GÜVENLİK
• Tüm çıkarımlar cihaz üzerinde gerçekleşir
• Veri toplama yok, telemetri yok, bulut bağımlılığı yok
• API sunucusu varsayılan olarak yalnızca yerel ağınızda erişilebilir
• Açık kaynak model ekosistemi — satıcı yok Kilitlenme

━━━━━━━━━━━━━━━━━━━━━━━━━━━━

LLM Server, güçlü açık kaynaklı yapay zeka modelleri ile her gün yanınızda taşıdığınız cihazlar arasındaki boşluğu kapatır. Bulut API çağrıları için ödeme yapmayı bırakın — kendi yapay zekanızı kendi şartlarınızda çalıştırın.

Şimdi indirin ve telefonunuzu bir yapay zeka güç merkezine dönüştürün.

Yenilikler

v1.7.0 — Improved first-launch experience with automatic starter model setup. New users get a working AI model within a minute of opening the app.