LLM Server — On-Device AI API

magnus2026

Über diese App

★ Verwandeln Sie Ihr Smartphone in einen KI-Server ★

Mit LLM Server können Sie große Sprachmodelle direkt auf Ihrem Android-Gerät ausführen und als lokalen API-Endpunkt bereitstellen, mit dem sich jede App, jedes Skript oder jeder KI-Agent verbinden kann.

Keine Cloud. Keine Abonnements. Ihr Smartphone wird zum KI-Backend.

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━

🧠 Geräteinterferenz
• Open-Weight-LLMs ausführen (Llama, Gemma, Phi, Qwen, Mistral u. v. m.)
• Optimiert für mobile Hardware mit GGUF-Quantisierung
• Voller Datenschutz – Ihre Daten verlassen Ihr Gerät nicht
• Funktioniert nach dem Herunterladen der Modelle vollständig offline

🔌 Integrierter API-Server
• OpenAI-kompatible REST-API, bereitgestellt von Ihrem Smartphone
• Verbinden Sie jedes Tool, das das OpenAI-API-Format unterstützt
• Streamen Sie Antworten in Echtzeit über Server-Sent Events

Bereitstellung für mehrere Clients in Ihrem lokalen Netzwerk

🤖 Ideal für KI-Agenten
• Lassen Sie Ihre KI Assistenten rufen Ihr Smartphone als LLM-Backend auf

• Hermes Agent, LangChain, AutoGPT – alles mit HTTP

• Tailscale/ZeroTier-Unterstützung für sicheren Fernzugriff
• Keine API-Schlüssel erforderlich – Sie besitzen das Modell

📱 SO FUNKTIONIERT ES
1. Laden Sie ein Modell aus dem integrierten Modellbrowser herunter.
2. Tippen Sie auf „Server starten“, um den API-Endpunkt zu öffnen.
3. Leiten Sie einen beliebigen Client zu http://Ihre-Smartphone-IP:8080/v1/chat/completions weiter.
4. Fertig – Ihr Smartphone ist jetzt ein KI-Server.

🔧 TECHNISCHE DETAILS
• llama.cpp-Backend für schnelle CPU/GPU-Inferenz
• Unterstützt GGUF-Modelle (Q4_K_M, Q5_K_M, Q8_0 und mehr)
• OpenAI-kompatibler /v1/chat/completions-Endpunkt
• Konfigurierbare Kontextlänge, Temperatur und Abtastrate
• Hintergrunddienst läuft auch im minimierten Zustand der App weiter
• Akkuoptimierte Inferenz Terminplanung

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━

💡 ANWENDUNGSFÄLLE
• Persönlicher KI-Assistent, der vollständig auf Ihrem Gerät läuft
• Entwicklung & Tests – KI-Funktionen prototypisch entwickeln ohne Cloud-Kosten
• KI-Agenten-Backend – Autonome Agenten nutzen Ihr Smartphone als Gehirn
• Datenschutzorientierte KI – Sensible Daten werden niemals in der Cloud gespeichert
• Offline-KI – Funktioniert im Flugzeug, in Tunneln, überall

🔒 DATENSCHUTZ & SICHERHEIT
• Alle Inferenzprozesse finden lokal auf Ihrem Gerät statt
• Keine Datenerfassung, keine Telemetrie, keine Cloud-Abhängigkeit
• API-Server standardmäßig nur in Ihrem lokalen Netzwerk erreichbar
• Open-Source-Ökosystem – keine Abhängigkeit von einem Anbieter Lock-in

━━━━━━━━━━━━━━━━━━━━━━━━━━━━━

LLM Server schließt die Lücke zwischen leistungsstarken Open-Source-KI-Modellen und Ihren Alltagsgeräten. Schluss mit kostenpflichtigen Cloud-API-Aufrufen – betreiben Sie Ihre eigene KI, ganz nach Ihren Bedürfnissen.

Jetzt herunterladen und Ihr Smartphone in ein KI-Kraftpaket verwandeln.

Neuerungen

v1.7.0 — Improved first-launch experience with automatic starter model setup. New users get a working AI model within a minute of opening the app.