Local LLM

AlexPechkin

Колдонмо тууралуу

Жергиликтүү LLM – бул түзмөгүңүздө чоң тил моделдерин түздөн-түз иштетүү үчүн иштелип чыккан күчтүү, купуялуулукка багытталган курал. Булутсуз, маалыматтарды чогултуунун кажети жок жана жазылуунун кажети жок — жөн гана таза жергиликтүү AI иштеши.

Негизги функциялары:
• Мультимодалдык мүмкүнчүлүктөр жана веб-издөө: LiteRT (.littert) форматындагы көп модалдык Gemma 4 моделдерин колдоо менен сүрөттөрдү жана аудиону түз AIге жөнөтүңүз. Мындан тышкары, сиздин ачык ырастооңуз менен бул моделдер реалдуу убакыттагы маалыматты алуу үчүн вебде издей алышат.
• GGUF колдоосу: Сүйүктүү көрсөтмөлөргө ылайыкташтырылган LLM'дерди GGUF форматында (мисалы, Gemma жана башкалар) импорттоп жана иштетиңиз.
• Моделдер дүкөнү: Иштеп чыгуучу сунуштаган моделдерди түз колдонмодо карап чыгыңыз жана жүктөп алыңыз — же өзүңүздүкүн импорттоңуз.
• Whisper же Gemma 4 менен үн менен киргизүү: Моделдериңиз менен колсуз, толугу менен түзмөктө өз ара аракеттенүү үчүн Whisper же Gemma 4 негизиндеги сөз таанууну колдонуңуз.
• Украиналык TTS жана Тексттик Окурман: StyleTTS2 (patriotyk тарабынан) тарабынан иштелип чыккан, украин тилиндеги толук интеграцияланган текстти үнгө айландыруучу окугучтан ырахат алыңыз — интернеттин кереги жок.
• AI котормочу режими: Мазмунуңузду толугу менен купуя сактоо менен жергиликтүү моделдериңизди кесипкөй котормочу катары колдонуңуз.
• 100% оффлайн жана купуя: Маалыматтарыңыз эч качан түзмөгүңүздөн чыкпайт. Бардык иштетүү жергиликтүү түрдө жүргүзүлөт, бул максималдуу купуялуулукту жана коопсуздукту камсыз кылат.

Эмне үчүн Жергиликтүү LLMди тандашыңыз керек?
• Моделди орноткондон кийин API ачкычтары же интернет байланышы талап кылынбайт.
• AI моделдериңизди жана маалыматтарыңызды толук көзөмөлдөө.
• Иштеп чыгуучулар, купуялуулукту сүйүүчүлөр жана жергиликтүү AI дүйнөсүн изилдегиси келгендер үчүн идеалдуу.

Маанилүү эскертүү:
Колдонмодо алдын ала орнотулган моделдик файлдар жок. Сунушталган моделдерди жүктөп алуу же өзүңүздүн көрсөтмөлөрүңүзгө ылайыкташтырылган GGUF файлдарыңызды импорттоо үчүн орнотулган Моделдик Дүкөндү колдонуңуз.

Эмне жаңылык

1. Added HolosTTS: A faster, higher-quality Ukrainian TTS model by patriotyk (switchable in Settings).
2. TTS Benchmark: Compare synthesis time versus playback duration.
3. Independent Updates: Update TTS models and the stress dictionary without updating the app.
4. Improved Pronunciation: Better reading of English words and refined Ukrainian stress placement.