OpenWeights: Edge Inference
යෞවන
info
1+
බාගැනීම්
මෙම යෙදුම ගැන
OpenWeights ඔබගේ දුරකථනයේ විවෘත-බර භාෂා ආකෘති සෘජුවම ක්රියාත්මක කරයි. නිර්මාණය කිරීමට ගිණුමක් නැත, කතා කිරීමට සේවාදායකයක් නැත, ඔබ ගැන කිසිවක් මනිනු නොලැබේ.
යෙදුම තුළ සිට Hugging Face සොයන්න, ඔබ එය බාගත කිරීමට පෙර ආකෘතියක් ඔබේ උපාංගයේ සැබවින්ම ක්රියාත්මක වේද යන්න සොයා බලා එය සමඟ කතාබස් කරන්න. සෑම ටෝකනයක්ම ඔබේම දෘඩාංග මගින් නිපදවනු ලැබේ.
ඕනෑම ආකෘතියක්, නාමාවලියක් නොවේ
වෙනත් උපාංගයේ යෙදුම් ඔබට වෙනත් කෙනෙකු තෝරාගත් කෙටි ලැයිස්තුවක් ලබා දෙයි. OpenWeights ඔබට Hub ලබා දෙයි. පැයකට පෙර යමෙකු GGUF ප්රකාශයට පත් කළේ නම්, ඔබට එය ක්රියාත්මක කළ හැකිය.
ඔබේ උපාංගය ගැන අවංක වන්න
ඔබ ගිගාබයිට් වියදම් කිරීමට පෙර, යෙදුම ජාලය හරහා ආකෘතියේ ශීර්ෂය කියවා ඔබ තෝරාගත් සන්දර්භ දිගට අවශ්ය දේ, දළ වශයෙන් එය කෙතරම් වේගවත් වේද සහ එය ඔබගේ දුරකථනයේ කිසිසේත් ක්රියාත්මක වේද යන්න ඔබට කියයි.
ඔබ ඉදිරිපිට සැබෑ අංක
තත්පරයට ටෝකන, පළමු ටෝකනයට කාලය සහ සන්දර්භ කවුළුව කෙතරම් පිරී තිබේද යන්න, ඔබ සැඟවී සිටීමට වඩා කතාබස් කරන අතරතුර පෙන්වනු ලැබේ.
ඔබට සුසර කිරීමට
උෂ්ණත්වය, top-p, top-k, පුනරාවර්තන දඬුවම, සන්දර්භය දිග, පද්ධති විමසුම සහ එහි මෙවලම් ගැන ආකෘතියට පවසන දේ, සියල්ල ආකෘතියකට අනුව සුරකිනු ලැබේ. ආකෘතියකට පිළිතුරු දීමට පෙර සිතිය හැකි තැන එය ස්විචයක් ද වන අතර, වැඩ කරන GPU එකක් සහිත දුරකථනයක ඔබට ස්ථර රඳවා තබා ගන්නේ කුමන ප්රොසෙසරයදැයි පැවසිය හැකිය.
පෙළට වඩා
ඔවුන් සඳහා ප්රොජෙක්ටරයක් නැව්ගත කරන මාදිලි සඳහා රූප සහ ශ්රව්ය, ඕනෑම ආකෘතියකට කියවිය හැකි ලේඛන, ඔබේ දුරකථනයේම උපාංග හඳුනාගැනීම හරහා නියම කිරීම සහ කියවීමට ශබ්ද නඟා.
ක්රියා කළ හැකි සහායකයෙක්
ආකෘතියට වෙබය සෙවිය හැකිය, පිටුවක් කියවිය හැකිය, සහ ඔබ බෙදා ගැනීමට තෝරා ගන්නා ෆෝල්ඩරයක් සමඟ වැඩ කළ හැකිය. එයට කොපමණ කඹයක් ලැබේදැයි ඔබ තීරණය කරයි: සෑම පියවරක්ම අනුමත කරන්න, එය ක්රියාත්මක කිරීමට ඉඩ දෙන්න, නැතහොත් පළමුව සැලසුම් කිරීමට එය ඉල්ලා සිටින්න සහ කිසිවක් සිදුවීමට පෙර එය කරන්නේ කුමක්දැයි කියන්න. එය ඔබෙන් පැහැදිලි කිරීමේ ප්රශ්නයක් අසන අතර ඔබටම සලකුණු කළ හැකි පිරික්සුම් ලැයිස්තුවක් අනුගමනය කළ හැකිය. සෑම මෙවලමක්ම ක්රියා විරහිත කළ හැකිය.
ඉදිකිරීම් අනුව පුද්ගලිකයි
ඔබේ සංවාද, ඔබේ ආකෘති සහ ඔබේ භාවිතය උපාංගයේ පවතී. විශ්ලේෂණ SDK එකක්, බිඳ වැටීම් වාර්තාකරුවෙකු සහ අපගේ පසු අන්තයක් නොමැත. ස්වයංක්රීය උපස්ථ සහ උපාංග මාරු කිරීම ක්රියා විරහිත කර ඇත, එබැවින් නව දුරකථනයක් ඔබගේ කතාබස් උරුම කර නොගනී. අස්ථාපනය කිරීමෙන් සියල්ල ඉවත් වේ.
මෙවලම් දෙකක් අන්තර්ජාලයට ළඟා වේ, මන්ද ඒවාට කළ යුත්තේ: වෙබ් සෙවීම සහ පිටු ලබා ගැනීම. දෙකම උපාංගයෙන් ඉවත් වන බව පවසන මාතෘකාවක් යටතේ ලැයිස්තුගත කර ඇත, දෙකම ක්රියා විරහිත කළ හැකි අතර, එක් අයෙකු කරන සෑම ඇමතුමක්ම එය නම් කරන පිළිතුරේ පේළියකි සහ එය ලබා දුන් දේ. ඔබ එකක් සකසන්නේ නම්, ඔබේ Hugging Face ටෝකනය Android Keystore හි තබා ඇති යතුරකින් සංකේතනය කර ඇති අතර Hugging Face වෙත පමණක් යවනු ලැබේ.
ඔබට අවශ්ය දේ
Android 12 හෝ ඊට පසු, 64-bit ARM උපාංගයක් සහ ඔබ තෝරා ගන්නා ආකෘතිය සඳහා ප්රමාණවත් මතකයක්. ඔබ බාගත කිරීමට පෙර යෙදුම ඔබට කියනු ඇත.
ආකෘති තෙවන පාර්ශවයන්ගෙන් පැමිණේ. ඔබ ධාවනය කළ යුත්තේ කුමන එකද යන්න තෝරා ගන්නේද, එය පවසන දේ අපගේ නොව එහි ප්රකාශකයාගේ කාර්යයයි. විවෘත මූලාශ්රය, github.com/alpharomercoma/openweights හි.
යෙදුම තුළ සිට Hugging Face සොයන්න, ඔබ එය බාගත කිරීමට පෙර ආකෘතියක් ඔබේ උපාංගයේ සැබවින්ම ක්රියාත්මක වේද යන්න සොයා බලා එය සමඟ කතාබස් කරන්න. සෑම ටෝකනයක්ම ඔබේම දෘඩාංග මගින් නිපදවනු ලැබේ.
ඕනෑම ආකෘතියක්, නාමාවලියක් නොවේ
වෙනත් උපාංගයේ යෙදුම් ඔබට වෙනත් කෙනෙකු තෝරාගත් කෙටි ලැයිස්තුවක් ලබා දෙයි. OpenWeights ඔබට Hub ලබා දෙයි. පැයකට පෙර යමෙකු GGUF ප්රකාශයට පත් කළේ නම්, ඔබට එය ක්රියාත්මක කළ හැකිය.
ඔබේ උපාංගය ගැන අවංක වන්න
ඔබ ගිගාබයිට් වියදම් කිරීමට පෙර, යෙදුම ජාලය හරහා ආකෘතියේ ශීර්ෂය කියවා ඔබ තෝරාගත් සන්දර්භ දිගට අවශ්ය දේ, දළ වශයෙන් එය කෙතරම් වේගවත් වේද සහ එය ඔබගේ දුරකථනයේ කිසිසේත් ක්රියාත්මක වේද යන්න ඔබට කියයි.
ඔබ ඉදිරිපිට සැබෑ අංක
තත්පරයට ටෝකන, පළමු ටෝකනයට කාලය සහ සන්දර්භ කවුළුව කෙතරම් පිරී තිබේද යන්න, ඔබ සැඟවී සිටීමට වඩා කතාබස් කරන අතරතුර පෙන්වනු ලැබේ.
ඔබට සුසර කිරීමට
උෂ්ණත්වය, top-p, top-k, පුනරාවර්තන දඬුවම, සන්දර්භය දිග, පද්ධති විමසුම සහ එහි මෙවලම් ගැන ආකෘතියට පවසන දේ, සියල්ල ආකෘතියකට අනුව සුරකිනු ලැබේ. ආකෘතියකට පිළිතුරු දීමට පෙර සිතිය හැකි තැන එය ස්විචයක් ද වන අතර, වැඩ කරන GPU එකක් සහිත දුරකථනයක ඔබට ස්ථර රඳවා තබා ගන්නේ කුමන ප්රොසෙසරයදැයි පැවසිය හැකිය.
පෙළට වඩා
ඔවුන් සඳහා ප්රොජෙක්ටරයක් නැව්ගත කරන මාදිලි සඳහා රූප සහ ශ්රව්ය, ඕනෑම ආකෘතියකට කියවිය හැකි ලේඛන, ඔබේ දුරකථනයේම උපාංග හඳුනාගැනීම හරහා නියම කිරීම සහ කියවීමට ශබ්ද නඟා.
ක්රියා කළ හැකි සහායකයෙක්
ආකෘතියට වෙබය සෙවිය හැකිය, පිටුවක් කියවිය හැකිය, සහ ඔබ බෙදා ගැනීමට තෝරා ගන්නා ෆෝල්ඩරයක් සමඟ වැඩ කළ හැකිය. එයට කොපමණ කඹයක් ලැබේදැයි ඔබ තීරණය කරයි: සෑම පියවරක්ම අනුමත කරන්න, එය ක්රියාත්මක කිරීමට ඉඩ දෙන්න, නැතහොත් පළමුව සැලසුම් කිරීමට එය ඉල්ලා සිටින්න සහ කිසිවක් සිදුවීමට පෙර එය කරන්නේ කුමක්දැයි කියන්න. එය ඔබෙන් පැහැදිලි කිරීමේ ප්රශ්නයක් අසන අතර ඔබටම සලකුණු කළ හැකි පිරික්සුම් ලැයිස්තුවක් අනුගමනය කළ හැකිය. සෑම මෙවලමක්ම ක්රියා විරහිත කළ හැකිය.
ඉදිකිරීම් අනුව පුද්ගලිකයි
ඔබේ සංවාද, ඔබේ ආකෘති සහ ඔබේ භාවිතය උපාංගයේ පවතී. විශ්ලේෂණ SDK එකක්, බිඳ වැටීම් වාර්තාකරුවෙකු සහ අපගේ පසු අන්තයක් නොමැත. ස්වයංක්රීය උපස්ථ සහ උපාංග මාරු කිරීම ක්රියා විරහිත කර ඇත, එබැවින් නව දුරකථනයක් ඔබගේ කතාබස් උරුම කර නොගනී. අස්ථාපනය කිරීමෙන් සියල්ල ඉවත් වේ.
මෙවලම් දෙකක් අන්තර්ජාලයට ළඟා වේ, මන්ද ඒවාට කළ යුත්තේ: වෙබ් සෙවීම සහ පිටු ලබා ගැනීම. දෙකම උපාංගයෙන් ඉවත් වන බව පවසන මාතෘකාවක් යටතේ ලැයිස්තුගත කර ඇත, දෙකම ක්රියා විරහිත කළ හැකි අතර, එක් අයෙකු කරන සෑම ඇමතුමක්ම එය නම් කරන පිළිතුරේ පේළියකි සහ එය ලබා දුන් දේ. ඔබ එකක් සකසන්නේ නම්, ඔබේ Hugging Face ටෝකනය Android Keystore හි තබා ඇති යතුරකින් සංකේතනය කර ඇති අතර Hugging Face වෙත පමණක් යවනු ලැබේ.
ඔබට අවශ්ය දේ
Android 12 හෝ ඊට පසු, 64-bit ARM උපාංගයක් සහ ඔබ තෝරා ගන්නා ආකෘතිය සඳහා ප්රමාණවත් මතකයක්. ඔබ බාගත කිරීමට පෙර යෙදුම ඔබට කියනු ඇත.
ආකෘති තෙවන පාර්ශවයන්ගෙන් පැමිණේ. ඔබ ධාවනය කළ යුත්තේ කුමන එකද යන්න තෝරා ගන්නේද, එය පවසන දේ අපගේ නොව එහි ප්රකාශකයාගේ කාර්යයයි. විවෘත මූලාශ්රය, github.com/alpharomercoma/openweights හි.
ඔබගේ දුරකථනයේ විවෘත-බර AI මාදිලි ධාවනය කරන්න. ගිණුමක් නැත, වලාකුළක් නැත, දුරමිතිකයක් නැත.
යාවත්කාලීන කළේ
ආරක්ෂාව ඇරඹෙනුයේ සංවර්ධකයන් ඔබේ දත්ත රැස් කර බෙදා ගන්නා ආකාරය අනුවය. දත්ත රහස්යතා හා ආරක්ෂා පරිචයන් ඔබේ භාවිතය, කලාපය හා වයස අනුව වෙනස් විය හැක. සංවර්ධකයා විසින් මෙම තොරතුරු සැපයූ අතර කලින් කලට ඒවා යාවත්කාලීන කරනු ලැබිය හැක.
- තෙවැනි පාර්ශ්වයන් සමග කිසිදු දත්තයක් බෙදා ගනු නොලැබේවැඩි විස්තර දැනගන්න සංවර්ධකයන් බෙදා ගැනීම ප්රකාශ කරන ආකාරය ගැන
- කිසිදු දත්තයක් රැස් කරනු නොලැබේවැඩි විස්තර දැනගන්න සංවර්ධකයන් එකතුව ප්රකාශ කරන ආකාරය ගැන
අලුත් මොනවාද
Compiled models fixed, and a search that listens
- ExecuTorch models now open on every phone; a crash on load is fixed
- The model picker shows all your models at once, with each compiled model's context window
- Compiled models say their context window before you download, and no longer overflow it: tools step aside and long chats fold to make room
- Typing in Discover searches all of Hugging Face
- Big downloads finish without a long check at the end, and Cancel stops them at once
- ExecuTorch models now open on every phone; a crash on load is fixed
- The model picker shows all your models at once, with each compiled model's context window
- Compiled models say their context window before you download, and no longer overflow it: tools step aside and long chats fold to make room
- Typing in Discover searches all of Hugging Face
- Big downloads finish without a long check at the end, and Cancel stops them at once
යෙදුම් සහය
සංවර්ධක පිළිබඳව
Alpha Romer N. Coma
alpha.coma.ict@gmail.com
Blk 193 LOT 16 17th Street Phase 5B
Meycauayan
3020
Philippines
