Local LLM

AlexPechkin

Apie šią programą

„Local LLM“ yra galinga, privatumą užtikrinanti priemonė, skirta didelių kalbų modeliams paleisti tiesiai jūsų įrenginyje. Nereikia debesies, duomenų rinkimo ar prenumeratos – tik grynas vietinis dirbtinio intelekto veikimas.

Pagrindinės funkcijos:
• Multimodalinės galimybės ir paieška internete: siųskite vaizdus ir garso įrašus tiesiai į savo dirbtinį intelektą, palaikydami multimodalinius „Gemma 4“ modelius „LiteRT“ (.litert) formatu. Be to, gavę aiškų jūsų patvirtinimą, šie modeliai gali ieškoti internete, kad gautų informaciją realiuoju laiku.
• GGUF palaikymas: importuokite ir paleiskite mėgstamiausius, instrukcijomis suderintus LLM modelius GGUF formatu (pvz., „Gemma“ ir kt.).
• Modelių saugykla: naršykite ir atsisiųskite kūrėjų rekomenduojamus modelius tiesiai programoje arba importuokite savo.
• Balso įvestis naudojant „Whisper“ arba „Gemma 4“: naudokite „Whisper“ arba „Gemma 4“ pagrįstą kalbos atpažinimą, kad galėtumėte bendrauti su savo modeliais be rankų, visiškai įrenginyje. • Ukrainiečių kalbos TTS ir teksto skaitytuvas: mėgaukitės visiškai integruotu teksto įgarsinimo skaitytuvu, kurį palaiko „StyleTTS2“ (kūrėjas – „patriotyk“) ir palaiko gimtąją ukrainiečių kalbą – nereikia interneto ryšio.
• Dirbtinio intelekto vertėjo režimas: naudokite savo vietinius modelius kaip profesionalų vertėją, išlaikydami savo turinį visiškai privatų.
• 100 % neprisijungus ir privatu: jūsų duomenys niekada nepalieka jūsų įrenginio. Visas apdorojimas atliekamas vietoje, užtikrinant maksimalų privatumą ir saugumą.

Kodėl verta rinktis vietinę LLM?
• Po modelio nustatymo nereikia API raktų ar interneto ryšio.
• Visiška jūsų dirbtinio intelekto modelių ir duomenų kontrolė.
• Puikiai tinka kūrėjams, privatumo entuziastams ir visiems, norintiems tyrinėti vietinio dirbtinio intelekto pasaulį.

Svarbi pastaba:
Programėlėje nėra iš anksto įdiegtų modelių failų. Norėdami atsisiųsti rekomenduojamus modelius, naudokite integruotą modelių parduotuvę arba importuokite savo instrukcijomis suderintus GGUF failus.

Kas naujo

Bug fixes.