LLM Server — On-Device AI API

magnus2026

เกี่ยวกับแอปนี้

★ เปลี่ยนโทรศัพท์ของคุณให้เป็นเซิร์ฟเวอร์ AI ★

LLM Server ช่วยให้คุณรันโมเดลภาษาขนาดใหญ่ได้โดยตรงบนอุปกรณ์ Android ของคุณ และเปิดเผยเป็น API endpoint ในเครื่องที่แอป สคริปต์ หรือเอเจนต์ AI ใดๆ ก็สามารถเชื่อมต่อได้

ไม่ต้องใช้คลาวด์ ไม่ต้องเสียค่าสมัครสมาชิก โทรศัพท์ของคุณจะกลายเป็นแบ็กเอนด์ AI

━━━━━━━━━━━━━━━━━━━━━━━━━━━

🧠 การอนุมานบนอุปกรณ์
• รัน LLM แบบ open-weight (Llama, Gemma, Phi, Qwen, Mistral และอื่นๆ)
• ปรับให้เหมาะสมสำหรับฮาร์ดแวร์มือถือด้วย GGUF quantization
• ความเป็นส่วนตัวอย่างสมบูรณ์ — ข้อมูลของคุณจะไม่ถูกส่งออกจากอุปกรณ์ของคุณ
• ทำงานแบบออฟไลน์ได้อย่างสมบูรณ์เมื่อดาวน์โหลดโมเดลแล้ว

🔌 เซิร์ฟเวอร์ API ในตัว
• REST API ที่เข้ากันได้กับ OpenAI ให้บริการจากโทรศัพท์ของคุณ
• เชื่อมต่อเครื่องมือใดๆ ที่ใช้รูปแบบ API ของ OpenAI
• สตรีมการตอบสนองแบบเรียลไทม์ผ่าน Server-Sent Events
• ให้บริการไคลเอนต์หลายรายบนเครือข่ายท้องถิ่นของคุณ

🤖 เหมาะสำหรับ AI Agent
• ให้ผู้ช่วย AI ของคุณโทรหาโทรศัพท์ของคุณในฐานะแบ็กเอนด์ LLM
• Hermes Agent, LangChain, AutoGPT — อะไรก็ได้ที่มี HTTP
• รองรับ Tailscale/ZeroTier สำหรับการเข้าถึงระยะไกลที่ปลอดภัย
• ไม่จำเป็นต้องใช้คีย์ API — คุณเป็นเจ้าของ โมเดล

📱 วิธีการทำงาน
1. ดาวน์โหลดโมเดลจากเบราว์เซอร์โมเดลในตัว
2. แตะ "เริ่มเซิร์ฟเวอร์" เพื่อเปิดใช้งาน API endpoint
3. ชี้ไคลเอ็นต์ใดก็ได้ไปที่ http://your-phone-ip:8080/v1/chat/completions
4. แค่นั้นเอง — โทรศัพท์ของคุณก็กลายเป็นเซิร์ฟเวอร์ AI แล้ว

🔧 รายละเอียดทางเทคนิค
• แบ็กเอนด์ llama.cpp สำหรับการประมวลผล CPU/GPU ที่รวดเร็ว
• รองรับโมเดล GGUF (Q4_K_M, Q5_K_M, Q8_0 และอื่นๆ)
• endpoint /v1/chat/completions ที่เข้ากันได้กับ OpenAI
• สามารถกำหนดค่าความยาวของบริบท อุณหภูมิ และการสุ่มตัวอย่างได้
• บริการพื้นหลังยังคงให้บริการต่อไปแม้ว่าแอปจะถูกย่อขนาด
• การจัดกำหนดการอนุมานที่ปรับให้เหมาะสมกับแบตเตอรี่

━━━━━━━━━━━━━━━━━━━━━━━━━━━

💡 กรณีการใช้งาน
• AI ส่วนบุคคล ผู้ช่วยอัตโนมัติที่ทำงานบนอุปกรณ์ของคุณ 100%
• การพัฒนาและการทดสอบ — สร้างต้นแบบฟีเจอร์ AI โดยไม่ต้องเสียค่าใช้จ่ายบนคลาวด์
• แบ็กเอนด์เอเจนต์ AI — ให้เอเจนต์อัตโนมัติใช้โทรศัพท์ของคุณเป็นสมอง
• AI ที่เน้นความเป็นส่วนตัว — ข้อมูลที่ละเอียดอ่อนจะไม่ถูกส่งไปยังคลาวด์
• AI แบบออฟไลน์ — ใช้งานได้บนเครื่องบิน ในอุโมงค์ หรือทุกที่

🔒 ความเป็นส่วนตัวและความปลอดภัย
• การประมวลผลทั้งหมดเกิดขึ้นบนอุปกรณ์
• ไม่มีการเก็บรวบรวมข้อมูล ไม่มีข้อมูลทางไกล ไม่มีการพึ่งพาคลาวด์
• เซิร์ฟเวอร์ API สามารถเข้าถึงได้เฉพาะบนเครือข่ายท้องถิ่นของคุณโดยค่าเริ่มต้น
• ระบบนิเวศของโมเดลโอเพนซอร์ส — ไม่มีการผูกขาดจากผู้จำหน่าย

━━━━━━━━━━━━━━━━━━━━━━━━━━━

LLM Server เชื่อมช่องว่างระหว่างโมเดล AI โอเพนซอร์สที่ทรงพลังกับอุปกรณ์ที่คุณพกติดตัวทุกวัน หยุดจ่ายค่าบริการ API บนคลาวด์ — เรียกใช้ AI ของคุณเอง ตามเงื่อนไขของคุณเอง

ดาวน์โหลดเลยและเปลี่ยนโทรศัพท์ของคุณให้เป็นศูนย์กลาง AI ที่ทรงพลัง

มีอะไรใหม่

v1.7.0 — Improved first-launch experience with automatic starter model setup. New users get a working AI model within a minute of opening the app.