LLM Server โ€” On-Device AI API

เบ›เบฐเป€เบžเบ”เป€เบ™เบทเป‰เบญเบซเบฒ
เบ—เบธเบเบ„เบปเบ™
1+
เบ”เบฒเบงเป‚เบซเบผเบ”
เบฎเบนเบšเปœเป‰เบฒเบˆเป
เบฎเบนเบšเปœเป‰เบฒเบˆเป
เบฎเบนเบšเปœเป‰เบฒเบˆเป
เบฎเบนเบšเปœเป‰เบฒเบˆเป
เบฎเบนเบšเปœเป‰เบฒเบˆเป
เบฎเบนเบšเปœเป‰เบฒเบˆเป
เบฎเบนเบšเปœเป‰เบฒเบˆเป
เบฎเบนเบšเปœเป‰เบฒเบˆเป

เบเปˆเบฝเบงเบเบฑเบšเปเบญเบฑเบšเบ™เบตเป‰

โ˜… เบ›เปˆเบฝเบ™เป‚เบ—เบฅเบฐเบชเบฑเบšเบ‚เบญเบ‡เบ—เปˆเบฒเบ™เปƒเบซเป‰เบเบฒเบเป€เบ›เบฑเบ™เป€เบŠเบตเบšเป€เบงเบต AI โ˜…

เป€เบŠเบตเบšเป€เบงเบต LLM เบŠเปˆเบงเบเปƒเบซเป‰เบ—เปˆเบฒเบ™เบชเบฒเบกเบฒเบ”เปƒเบŠเป‰เบฎเบนเบšเปเบšเบšเบžเบฒเบชเบฒเบ‚เบฐเปœเบฒเบ”เปƒเบซเบเปˆเป„เบ”เป‰เป‚เบ”เบเบเบปเบ‡เปƒเบ™เบญเบธเบ›เบฐเบเบญเบ™ Android เบ‚เบญเบ‡เบ—เปˆเบฒเบ™ โ€” เปเบฅเบฐ เป€เบ›เบตเบ”เป€เบœเบตเบเบžเบงเบเบกเบฑเบ™เป€เบ›เบฑเบ™เบˆเบธเบ”เบชเบดเป‰เบ™เบชเบธเบ” API เบ—เป‰เบญเบ‡เบ–เบดเปˆเบ™เบ—เบตเปˆเปเบญเบฑเบš, เบชเบฐเบ„เบฃเบดเบš เบซเบผเบท เบ•เบปเบงเปเบ—เบ™ AI เปƒเบ”เป†เบชเบฒเบกเบฒเบ”เป€เบŠเบทเปˆเบญเบกเบ•เปเปˆเป„เบ”เป‰.

เบšเปเปˆเบกเบตเบ„เบฅเบฒเบง. เบšเปเปˆเบกเบตเบเบฒเบ™เบชเบฐเปเบฑเบเปƒเบŠเป‰. เป‚เบ—เบฅเบฐเบชเบฑเบšเบ‚เบญเบ‡เบ—เปˆเบฒเบ™เบˆเบฐเบเบฒเบเป€เบ›เบฑเบ™ backend เบ‚เบญเบ‡ AI.

โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”

๐Ÿง  เบเบฒเบ™เบญเบฐเบ™เบธเบกเบฒเบ™เปƒเบ™เบญเบธเบ›เบฐเบเบญเบ™
โ€ข เบ”เปเบฒเป€เบ™เบตเบ™เบเบฒเบ™ LLMs เบ—เบตเปˆเบกเบตเบ™เปเป‰เบฒเปœเบฑเบเป€เบ›เบตเบ” (Llama, Gemma, Phi, Qwen, Mistral เปเบฅเบฐเบญเบทเปˆเบ™เป†)
โ€ข เบ›เบฑเบšเบ›เบธเบ‡เปƒเบซเป‰เบ”เบตเบ—เบตเปˆเบชเบธเบ”เบชเปเบฒเบฅเบฑเบšเบฎเบฒเบ”เปเบงเบกเบทเบ–เบทเบ”เป‰เบงเบเบเบฒเบ™เบงเบฑเบ”เปเบ—เบ GGUF
โ€ข เบ„เบงเบฒเบกเป€เบ›เบฑเบ™เบชเปˆเบงเบ™เบ•เบปเบงเบขเปˆเบฒเบ‡เป€เบ•เบฑเบกเบ—เบตเปˆ โ€” เบ‚เปเป‰เบกเบนเบ™เบ‚เบญเบ‡เบ—เปˆเบฒเบ™เบˆเบฐเบšเปเปˆเบญเบญเบเบˆเบฒเบเบญเบธเบ›เบฐเบเบญเบ™เบ‚เบญเบ‡เบ—เปˆเบฒเบ™
โ€ข เป€เบฎเบฑเบ”เบงเบฝเบเปเบšเบšเบญเบญเบšเป„เบฅเบ™เปŒเบขเปˆเบฒเบ‡เบชเบปเบกเบšเบนเบ™เป€เบกเบทเปˆเบญเบ”เบฒเบงเป‚เบซเบฅเบ”เบฎเบนเบšเปเบšเบšเบ•เปˆเบฒเบ‡เป†เปเบฅเป‰เบง

๐Ÿ”Œ เป€เบŠเบตเบšเป€เบงเบต API เปƒเบ™เบ•เบปเบง
โ€ข API REST เบ—เบตเปˆเป€เบ‚เบปเป‰เบฒเบเบฑเบ™เป„เบ”เป‰เบเบฑเบš OpenAI เบ—เบตเปˆเปƒเบซเป‰เบšเปเบฅเบดเบเบฒเบ™เบˆเบฒเบเป‚เบ—เบฅเบฐเบชเบฑเบšเบ‚เบญเบ‡เบ—เปˆเบฒเบ™
โ€ข เป€เบŠเบทเปˆเบญเบกเบ•เปเปˆเป€เบ„เบทเปˆเบญเบ‡เบกเบทเปƒเบ”เป†เบ—เบตเปˆเป€เบงเบปเป‰เบฒเบฎเบนเบšเปเบšเบš OpenAI API
โ€ข เบ–เปˆเบฒเบเบ—เบญเบ”เบเบฒเบ™เบ•เบญเบšเบชเบฐเปœเบญเบ‡เปƒเบ™เป€เบงเบฅเบฒเบˆเบดเบ‡เบœเปˆเบฒเบ™เป€เบซเบ”เบเบฒเบ™เบ—เบตเปˆเบชเบปเปˆเบ‡เป‚เบ”เบเป€เบŠเบตเบšเป€เบงเบต
โ€ข เปƒเบซเป‰เบšเปเบฅเบดเบเบฒเบ™เบฅเบนเบเบ„เป‰เบฒเบซเบผเบฒเบเบ„เบปเบ™เปƒเบ™เป€เบ„เบทเบญเบ‚เปˆเบฒเบเบ—เป‰เบญเบ‡เบ–เบดเปˆเบ™เบ‚เบญเบ‡เบ—เปˆเบฒเบ™

๐Ÿค– เป€เปเบฒเบฐเบชเบณเบฅเบฑเบšเบ•เบปเบงเปเบ—เบ™ AI
โ€ข เปƒเบซเป‰เบœเบนเป‰เบŠเปˆเบงเบ AI เบ‚เบญเบ‡เบ—เปˆเบฒเบ™เป‚เบ—เบซเบฒเป‚เบ—เบฅเบฐเบชเบฑเบšเบ‚เบญเบ‡เบ—เปˆเบฒเบ™เป€เบ›เบฑเบ™ backend LLM
โ€ข เบ•เบปเบงเปเบ—เบ™ Hermes, LangChain, AutoGPT โ€” เบ—เบธเบเบขเปˆเบฒเบ‡เบ—เบตเปˆเบกเบต HTTP
โ€ข เบฎเบญเบ‡เบฎเบฑเบš Tailscale/ZeroTier เบชเบณเบฅเบฑเบšเบเบฒเบ™เป€เบ‚เบปเป‰เบฒเป€เบ–เบดเบ‡เป„เบฅเบเบฐเป„เบเบ—เบตเปˆเบ›เบญเบ”เป„เบž
โ€ข เบšเปเปˆเบ•เป‰เบญเบ‡เบเบฒเบ™เบฅเบฐเบซเบฑเบ” API โ€” เบ—เปˆเบฒเบ™เป€เบ›เบฑเบ™เป€เบˆเบปเป‰เบฒเบ‚เบญเบ‡เบฎเบนเบšเปเบšเบš

๐Ÿ“ฑ เบงเบดเบ—เบตเบเบฒเบ™ เปƒเบŠเป‰เป„เบ”เป‰
1. เบ”เบฒเบงเป‚เบซเบผเบ”เบฎเบนเบšเปเบšเบšเบˆเบฒเบเป‚เบ›เบฃเปเบเบฃเบกเบ—เปˆเบญเบ‡เป€เบงเบฑเบšเบฎเบนเบšเปเบšเบšเบ—เบตเปˆเบ•เบดเบ”เบ•เบฑเป‰เบ‡เบกเบฒเบžเป‰เบญเบก
2. เปเบ•เบฐ "เป€เบฅเบตเปˆเบกเบ•เบปเป‰เบ™เป€เบŠเบตเบšเป€เบงเบต" เป€เบžเบทเปˆเบญเป€เบ›เบตเบ”เปƒเบŠเป‰เบˆเบธเบ”เบชเบดเป‰เบ™เบชเบธเบ” API
3. เบŠเบตเป‰เบฅเบนเบเบ„เป‰เบฒเปƒเบ”เป†เป„เบ›เบ—เบตเปˆ http://your-phone-ip:8080/v1/chat/completions
4. เป€เบ—เบปเปˆเบฒเบ™เบฑเป‰เบ™ - เป‚เบ—เบฅเบฐเบชเบฑเบšเบ‚เบญเบ‡เบ—เปˆเบฒเบ™เป€เบ›เบฑเบ™เป€เบŠเบตเบšเป€เบงเบต AI เปเบฅเป‰เบง

๐Ÿ”ง เบฅเบฒเบเบฅเบฐเบญเบฝเบ”เบ”เป‰เบฒเบ™เป€เบ•เบฑเบเบ™เบดเบ
โ€ข backend llama.cpp เบชเบณเบฅเบฑเบšเบเบฒเบ™เบญเบฐเบ™เบธเบกเบฒเบ™ CPU/GPU เบ—เบตเปˆเป„เบง
โ€ข เบฎเบญเบ‡เบฎเบฑเบšเบฎเบนเบšเปเบšเบš GGUF (Q4_K_M, Q5_K_M, Q8_0 เปเบฅเบฐเบญเบทเปˆเบ™เป†)
โ€ข เบˆเบธเบ”เบชเบดเป‰เบ™เบชเบธเบ” /v1/chat/completions เบ—เบตเปˆเป€เบ‚เบปเป‰เบฒเบเบฑเบ™เป„เบ”เป‰เบเบฑเบš OpenAI
โ€ข เบ„เบงเบฒเบกเบเบฒเบงเบ‚เบญเบ‡เบšเปเบฅเบดเบšเบปเบ”, เบญเบธเบ™เบซเบฐเบžเบนเบก, เปเบฅเบฐเบเบฒเบ™เป€เบเบฑเบšเบ•เบปเบงเบขเปˆเบฒเบ‡เบ—เบตเปˆเบชเบฒเบกเบฒเบ”เบ•เบฑเป‰เบ‡เบ„เปˆเบฒเป„เบ”เป‰
โ€ข เบเบฒเบ™เบšเปเบฅเบดเบเบฒเบ™เบžเบทเป‰เบ™เบซเบผเบฑเบ‡เบเบฑเบ‡เบ„เบปเบ‡เปƒเบซเป‰เบšเปเบฅเบดเบเบฒเบ™เป€เบ–เบดเบ‡เปเบกเปˆเบ™เบงเปˆเบฒเปเบญเบฑเบšเบˆเบฐเบ–เบทเบเบซเบเปเป‰เบฅเบปเบ‡เบเปเบ•เบฒเบก
โ€ข เบเบฒเบ™เบเบณเบ™เบปเบ”เป€เบงเบฅเบฒเบเบฒเบ™เบญเบฐเบ™เบธเบกเบฒเบ™เบ—เบตเปˆเป€เบžเบตเปˆเบกเบ›เบฐเบชเบดเบ”เบ—เบดเบžเบฒเบšเปเบšเบฑเบ”เป€เบ•เบตเบฃเบต

โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”

๐Ÿ’ก เบเปเบฅเบฐเบ™เบตเบเบฒเบ™เบ™เบณเปƒเบŠเป‰
โ€ข เบœเบนเป‰เบŠเปˆเบงเบ AI เบชเปˆเบงเบ™เบ•เบปเบงเบ—เบตเปˆเป€เบฎเบฑเบ”เบงเบฝเบ 100% เปƒเบ™เบญเบธเบ›เบฐเบเบญเบ™เบ‚เบญเบ‡เบ—เปˆเบฒเบ™
โ€ข เบเบฒเบ™เบžเบฑเบ”เบ—เบฐเบ™เบฒ เปเบฅเบฐ เบเบฒเบ™เบ—เบปเบ”เบชเบญเบš โ€” เบ„เบธเบ™เบชเบปเบกเบšเบฑเบ” AI เบ•เบปเป‰เบ™เปเบšเบš เป‚เบ”เบเบšเปเปˆเบกเบตเบ„เปˆเบฒเปƒเบŠเป‰เบˆเปˆเบฒเบเปƒเบ™เบ„เบฅเบฒเบง
โ€ข เบ•เบปเบงเปเบ—เบ™ AI backend โ€” เปƒเบซเป‰เบ•เบปเบงเปเบ—เบ™เบญเบฑเบ”เบ•เบฐเป‚เบ™เบกเบฑเบ”เปƒเบŠเป‰เป‚เบ—เบฅเบฐเบชเบฑเบšเบ‚เบญเบ‡เบ—เปˆเบฒเบ™เป€เบ›เบฑเบ™เบชเบฐเปเบญเบ‡เบ‚เบญเบ‡เป€เบ‚เบปเบฒเป€เบˆเบปเป‰เบฒ
โ€ข AI เบ—เบตเปˆเป€เบ™เบฑเป‰เบ™เบ„เบงเบฒเบกเป€เบ›เบฑเบ™เบชเปˆเบงเบ™เบ•เบปเบงเบเปˆเบญเบ™ โ€” เบ‚เปเป‰เบกเบนเบ™เบ—เบตเปˆเบฅเบฐเบญเบฝเบ”เบญเปˆเบญเบ™เบšเปเปˆเป€เบ„เบตเบเปเบ•เบฐเบ•เป‰เบญเบ‡เบ„เบฅเบฒเบง
โ€ข AI เบญเบญเบšเป„เบฅเบ™เปŒ โ€” เป€เบฎเบฑเบ”เบงเบฝเบเบขเบนเปˆเปƒเบ™เบเบปเบ™, เปƒเบ™เบญเบธเป‚เบกเบ‡, เบ—เบธเบเบšเปˆเบญเบ™

๐Ÿ”’ เบ„เบงเบฒเบกเป€เบ›เบฑเบ™เบชเปˆเบงเบ™เบ•เบปเบง เปเบฅเบฐ เบ„เบงเบฒเบกเบ›เบญเบ”เป„เบž
โ€ข เบเบฒเบ™เบญเบฐเบ™เบธเบกเบฒเบ™เบ—เบฑเบ‡เปเบปเบ”เป€เบเบตเบ”เบ‚เบถเป‰เบ™เปƒเบ™เบญเบธเบ›เบฐเบเบญเบ™
โ€ข เบšเปเปˆเบกเบตเบเบฒเบ™เป€เบเบฑเบšเบเบณเบ‚เปเป‰เบกเบนเบ™, เบšเปเปˆเบกเบตเบเบฒเบ™เบงเบฑเบ”เปเบ—เบเบ—เบฒเบ‡เป„เบ, เบšเปเปˆเบกเบตเบเบฒเบ™เป€เบžเบดเปˆเบ‡เบžเบฒเบญเบฒเป„เบชเบ„เบฅเบฒเบง
โ€ข เป€เบŠเบตเบšเป€เบงเบต API เบชเบฒเบกเบฒเบ”เป€เบ‚เบปเป‰เบฒเป€เบ–เบดเบ‡เป„เบ”เป‰เปƒเบ™เป€เบ„เบทเบญเบ‚เปˆเบฒเบเบ—เป‰เบญเบ‡เบ–เบดเปˆเบ™เบ‚เบญเบ‡เบ—เปˆเบฒเบ™เป€เบ—เบปเปˆเบฒเบ™เบฑเป‰เบ™เป‚เบ”เบเบ„เปˆเบฒเป€เบฅเบตเปˆเบกเบ•เบปเป‰เบ™
โ€ข เบฅเบฐเบšเบปเบšเบ™เบดเป€เบงเบ”เบฎเบนเบšเปเบšเบšเปเบซเบผเปˆเบ‡เป€เบ›เบตเบ” โ€” เบšเปเปˆเบกเบตเบเบฒเบ™เบฅเบฑเบญเบเบœเบนเป‰เบ‚เบฒเบ

โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”โ”

LLM Server เป€เบŠเบทเปˆเบญเบกเบ•เปเปˆเบŠเปˆเบญเบ‡เบซเบงเปˆเบฒเบ‡เบฅเบฐเบซเบงเปˆเบฒเบ‡เบฎเบนเบšเปเบšเบš AI เปเบซเบผเปˆเบ‡เป€เบ›เบตเบ”เบ—เบตเปˆเบกเบตเบ›เบฐเบชเบดเบ”เบ—เบดเบžเบฒเบš เปเบฅเบฐ เบญเบธเบ›เบฐเบเบญเบ™เบ—เบตเปˆเบ—เปˆเบฒเบ™เบ–เบทเบ—เบธเบเป†เบกเบทเป‰. เบขเบธเบ”เบˆเปˆเบฒเบเบ„เปˆเบฒเป‚เบ— API เบ„เบฅเบฒเบง โ€” เปƒเบŠเป‰ AI เบ‚เบญเบ‡เบ—เปˆเบฒเบ™เป€เบญเบ‡, เบ•เบฒเบกเป€เบ‡เบทเปˆเบญเบ™เป„เบ‚เบ‚เบญเบ‡เบ—เปˆเบฒเบ™เป€เบญเบ‡.

เบ”เบฒเบงเป‚เบซเบผเบ”เบ”เบฝเบงเบ™เบตเป‰ เปเบฅเบฐ เบ›เปˆเบฝเบ™เป‚เบ—เบฅเบฐเบชเบฑเบšเบ‚เบญเบ‡เบ—เปˆเบฒเบ™เปƒเบซเป‰เบเบฒเบเป€เบ›เบฑเบ™เบžเบฐเบฅเบฑเบ‡ AI.
เป€เบ›เบตเบ”เปƒเบŠเป‰เบฎเบนเบšเปเบšเบš AI เปƒเบ™เป‚เบ—เบฅเบฐเบชเบฑเบšเบ‚เบญเบ‡เบ—เปˆเบฒเบ™ เปเบฅเบฐ เบฎเบฑเบšเปƒเบŠเป‰เบžเบงเบเบกเบฑเบ™เป€เบ›เบฑเบ™เบˆเบธเบ”เบชเบดเป‰เบ™เบชเบธเบ” API เปƒเบซเป‰เบเบฑเบšเปเบญเบฑเบšเปƒเบ”เบเปเป„เบ”เป‰
เบญเบฑเบšเป€เบ”เบ”เปเบฅเป‰เบงเป€เบกเบทเปˆเบญ
31 เบช.เบซ. 2026

เบ„เบงเบฒเบกเบ›เบญเบ”เป„เบžเบ‚เบญเบ‡เบ‚เปเป‰เบกเบนเบ™

เบ„เบงเบฒเบกเบ›เบญเบ”เป„เบžเป€เบฅเบตเปˆเบกเบ”เป‰เบงเบเบเบฒเบ™เป€เบ‚เบปเป‰เบฒเปƒเบˆเบงเปˆเบฒเบ™เบฑเบเบžเบฑเบ”เบ—เบฐเบ™เบฒเป€เบเบฑเบšเบเบณ เปเบฅเบฐ เปเบšเปˆเบ‡เบ›เบฑเบ™เบ‚เปเป‰เบกเบนเบ™เบ‚เบญเบ‡เบ—เปˆเบฒเบ™เปเบ™เบงเปƒเบ”. เบงเบดเบ—เบตเบ›เบฐเบ•เบดเบšเบฑเบ”เบเปˆเบฝเบงเบเบฑเบšเบ„เบงเบฒเบกเป€เบ›เบฑเบ™เบชเปˆเบงเบ™เบ•เบปเบง เปเบฅเบฐ เบ„เบงเบฒเบกเบ›เบญเบ”เป„เบžเบ‚เบญเบ‡เบ‚เปเป‰เบกเบนเบ™เบญเบฒเบ”เบˆเบฐเปเบ•เบเบ•เปˆเบฒเบ‡เบเบฑเบ™เบญเบตเบ‡เบ•เบฒเบกเบเบฒเบ™เบ™เบณเปƒเบŠเป‰, เบžเบฒเบเบžเบทเป‰เบ™ เปเบฅเบฐ เบญเบฒเบเบธเบ‚เบญเบ‡เบ—เปˆเบฒเบ™. เบ™เบฑเบเบžเบฑเบ”เบ—เบฐเบ™เบฒเปƒเบซเป‰เบ‚เปเป‰เบกเบนเบ™เบ™เบตเป‰ เปเบฅเบฐ เบญเบฒเบ”เบˆเบฐเบญเบฑเบšเป€เบ”เบ”เบกเบฑเบ™เป€เบกเบทเปˆเบญเป€เบงเบฅเบฒเบœเปˆเบฒเบ™เป„เบ›.
  • เบšเปเปˆเป„เบ”เป‰เป„เบ”เป‰เปเบšเปˆเบ‡เบ›เบฑเบ™เบ‚เปเป‰เบกเบนเบ™เบเบฑเบšเบžเบฒเบเบชเปˆเบงเบ™เบ—เบตเบชเบฒเบก
    เบชเบถเบเบชเบฒเป€เบžเบตเปˆเบกเป€เบ•เบตเบก เบเปˆเบฝเบงเบเบฑเบšเบงเปˆเบฒเบ™เบฑเบเบžเบฑเบ”เบ—เบฐเบ™เบฒเบ›เบฐเบเบฒเบ”เบเบฒเบ™เปเบšเปˆเบ‡เบ›เบฑเบ™เบ‚เปเป‰เบกเบนเบ™เปเบ™เบงเปƒเบ”
  • เบšเปเปˆเป„เบ”เป‰เป€เบเบฑเบšเบเบณเบ‚เปเป‰เบกเบนเบ™
    เบชเบถเบเบชเบฒเป€เบžเบตเปˆเบกเป€เบ•เบตเบก เบเปˆเบฝเบงเบเบฑเบšเบงเปˆเบฒเบ™เบฑเบเบžเบฑเบ”เบ—เบฐเบ™เบฒเบ›เบฐเบเบฒเบ”เบเบฒเบ™เป€เบเบฑเบšเบเบณเบ‚เปเป‰เบกเบนเบ™เปเบ™เบงเปƒเบ”

เบกเบตเบซเบเบฑเบ‡เปƒเปเปˆ

v1.7.0 โ€” Improved first-launch experience with automatic starter model setup. New users get a working AI model within a minute of opening the app.

เบเปˆเบฒเบเบŠเปˆเบงเบเป€เบซเบผเบทเบญเบ‚เบญเบ‡เปเบญเบฑเบš

เป€เบšเบตเป‚เบ—เบฅเบฐเบชเบฑเบš
+12135339019
เบเปˆเบฝเบงเบเบฑเบšเบ™เบฑเบเบžเบฑเบ”เบ—เบฐเบ™เบฒเปเบญเบฑเบš
chan hing tat
c_matrix50@hotmail.com
38 Russell St ้Š…้‘ผ็ฃ ้ฆ™ๆธฏๅณถ Hong Kong

เป€เบžเบตเปˆเบกเป€เบ•เบตเบกเปเบเบเบ•เบฒเบก magnus2026