MultiLinearLogistic Regr-ions

ivan gabrovski

ປະກອບ​ມີ​ໂຄ​ສະ​ນາ

ກ່ຽວກັບແອັບນີ້

ຂ້າງລຸ່ມນີ້ແມ່ນຄູ່ມືປະຕິບັດສຳລັບການວິເຄາະການຖົດຖອຍທາງດ້ານໂລຈິດສະຕິກແບບໄບນາຣີຫຼາຍຕົວ (ຫຼາຍຕົວແປ) — ນັ້ນຄື ການຄາດຄະເນຜົນໄດ້ຮັບແບບໄບນາຣີ (0/1) ຈາກຫຼາຍຄຸນສົມບັດ.

ການວິເຄາະການຖົດຖອຍທາງດ້ານໂລຈິດສະຕິກແບບໄບນາຣີ (ໂດຍປົກກະຕິແລ້ວເອີ້ນວ່າການຖົດຖອຍທາງດ້ານໂລຈິດສະຕິກ) ແມ່ນວິທີການທາງສະຖິຕິທີ່ໃຊ້ເພື່ອສ້າງແບບຈຳລອງຄວາມສຳພັນລະຫວ່າງຕົວແປເອກະລາດໜຶ່ງຕົວ ຫຼື ຫຼາຍຕົວ ແລະ ຜົນໄດ້ຮັບແບບໄບນາຣີ (ສອງໝວດໝູ່).

ໄບນາຣີ: ເປົ້າໝາຍ y∈{0,1}

ຫຼາຍຕົວແປ (ຫຼາຍຕົວແປ): ຫຼາຍກວ່າໜຶ່ງຄຸນສົມບັດການປ້ອນຂໍ້ມູນ x_1, x_2, ..., x_n​

ແບບຈຳລອງ:
p(y=1∣x)=1/(1+e^{−z}), ບ່ອນທີ່ z=w_0+w_1*x_1+⋯+w_n*x_n

ແລະ w_0, w_1...w_n ແມ່ນນ້ຳໜັກທີ່ຄິດໄລ່ໂດຍ x_1, x_2, ..., x_n ແລະ ຄວາມຜິດພາດລະຫວ່າງ y ແລະ ການຄາດຄະເນ.
ແທນທີ່ຈະຄາດຄະເນຄ່າໂດຍກົງ, ການວິເຄາະການຖົດຖອຍທາງດ້ານໂລຈິດສະຕິກຄາດຄະເນອັດຕາການລ້າໂດຍໃຊ້ການປະສົມປະສານເສັ້ນຊື່ຂອງຕົວຄາດຄະເນ z. ຫຼັງຈາກນັ້ນ, ອັດຕາຕໍ່ຮອງ log ຈະຖືກປ່ຽນໂດຍໃຊ້ຟັງຊັນ logistic (sigmoid) ເພື່ອສ້າງຄວາມເປັນໄປໄດ້ລະຫວ່າງ 0 ແລະ 1.

Binary Logistic Regression ແມ່ນຮູບແບບການຈັດປະເພດຄວາມເປັນໄປໄດ້ທີ່ໃຊ້ຟັງຊັນ sigmoid ເພື່ອຄາດຄະເນຄວາມເປັນໄປໄດ້ຂອງຜົນໄດ້ຮັບໜຶ່ງໃນສອງຢ່າງ, ເຮັດໃຫ້ມັນຖືກນໍາໃຊ້ຢ່າງກວ້າງຂວາງໃນສະຖິຕິ, ວິທະຍາສາດຂໍ້ມູນ, ແລະການຮຽນຮູ້ຂອງເຄື່ອງຈັກສໍາລັບການຕັດສິນໃຈແບບໄບນາຣີທີ່ສາມາດຕີຄວາມໄດ້.

ພາລາມິເຕີຂອງຮູບແບບແມ່ນຄາດຄະເນໂດຍໃຊ້ Maximum Likelihood Estimation (MLE). ຄ່າ threshold (ໂດຍປົກກະຕິແມ່ນ 0.5) ຖືກນໍາໃຊ້ເພື່ອຈັດປະເພດຜົນໄດ້ຮັບ (ຖ້າ P≥0.5 → class 1; ຖ້າ P<0.5 → class 0).

Multinomial logistic regression ແມ່ນວິທີການທາງສະຖິຕິ ແລະ ການຮຽນຮູ້ຂອງເຄື່ອງຈັກທີ່ໃຊ້ເພື່ອສ້າງແບບຈໍາລອງຄວາມສໍາພັນລະຫວ່າງຊຸດຂອງຕົວແປເອກະລາດ (ຕົວຄາດຄະເນ) ແລະ ຕົວແປທີ່ຂຶ້ນກັບປະເພດທີ່ມີຜົນໄດ້ຮັບທີ່ເປັນໄປໄດ້ຫຼາຍກວ່າສອງຢ່າງ, ບ່ອນທີ່ປະເພດຕ່າງໆບໍ່ມີລໍາດັບທໍາມະຊາດ.
ຮູບແບບ: ສຳລັບຄລາສ k:
P(y=k∣x)=e^w_k⋅x / ∑e^w_j⋅x ບ່ອນທີ່ j=1,2...K
ບ່ອນທີ່: - x = ເວັກເຕີຄຸນສົມບັດ
w_k = ນ້ຳໜັກສຳລັບຄລາສ k
K = ຈຳນວນຄລາສ
ໃນແອັບ ແຕ່ລະວັດຖຸ Object_k( object_1, object_2 ... object_m) ຖືກອະທິບາຍໂດຍຕົວແປເອກະລາດ (X_ki – ຄຸນສົມບັດ, i = 1...n) ແລະຕົວແປຕາມໜຶ່ງ (Y_k -target). ວິທີການເຊັ່ນ: ordinary least squares (OLS) ຖືກໃຊ້ເພື່ອຄິດໄລ່ຄ່າທີ່ດີທີ່ສຸດຂອງສຳປະສິດ (beta_0, beta_1, beta_2, ..., beta_n). ຄ່າເປົ້າໝາຍຖືກຄິດໄລ່ໂດຍ:
Y = beta_0 + beta_01* P_1 + beta_2 *P_2 + ... + beta_n* P_n
ບ່ອນທີ່: P_1, P_2...P_n ແມ່ນຕົວຄາດເດົາຂອງເປົ້າໝາຍ. ແອັບພລິເຄຊັນບັນທຶກຂໍ້ມູນສຳລັບຮູບແບບການຖົດຖອຍໂລຈິດສະຕິກຫຼາຍຮູບແບບໃນຖານຂໍ້ມູນ (DB) ປະເພດ SQLite ຊື່ວ່າ AppMultiNomialLogisticRegression.db. ຮູບແບບການຖົດຖອຍແມ່ນແຍກແຍະຕາມຊື່.

ໜ້າຈໍເລີ່ມຕົ້ນຂອງແອັບພລິເຄຊັນ (App Multinomial Linear Logistic Regression Solver) ສະແດງລາຍຊື່ຕົວຢ່າງຂອງຮູບແບບການຖົດຖອຍ (ໃນລາຍຊື່ spinner) ແລະປຸ່ມສຳລັບເປີດໃຊ້ໜ້າທີ່ເພື່ອສ້າງ (ຕົວຢ່າງໃໝ່), ໂຫຼດ (Load), ບັນທຶກ (Save), ບັນທຶກເປັນ (Save as), ຄິດໄລ່ (Calculate), ແລະລຶບ (Delete) ຕົວຢ່າງຂອງຮູບແບບການຖົດຖອຍ. ຈາກໜ້າຈໍຫຼັກ, ຜ່ານອົງປະກອບເມນູ, ທ່ານຍັງສາມາດເຂົ້າເຖິງໜ້າທີ່ຕ່າງໆເຊັ່ນ: ການເລືອກພາສາ, ການບັນທຶກ ແລະ ການຄັດລອກຖານຂໍ້ມູນ, ການເລີ່ມຕົ້ນຖານຂໍ້ມູນດ້ວຍຂໍ້ມູນຕົວຢ່າງ, ແລະໜ້າທີ່ຊ່ວຍເຫຼືອເຊັ່ນ: ການຊ່ວຍເຫຼືອສຳລັບແອັບພລິເຄຊັນ, ການຕັ້ງຄ່າ, ແລະລິ້ງໄປຫາເວັບໄຊທ໌ທີ່ມີລາຍລະອຽດຂອງແອັບພລິເຄຊັນທັງໝົດໂດຍຜູ້ຂຽນ.
ຟັງຊັນສຳລັບການສ້າງ (ຕົວຢ່າງໃໝ່) ປະກອບມີກ່ອງໂຕ້ຕອບສຳລັບປ້ອນຂໍ້ມູນຂະໜາດຂອງແມັດຕຣິກທີ່ໃສ່ຂໍ້ມູນຂອງຕົວຢ່າງໃໝ່ - ຈຳນວນແຖວ (ຈຳນວນແຖວລວມສຳລັບຂໍ້ມູນທີ່ຄາດຄະເນ P_1, P_2...P_n– ແຖວສຸດທ້າຍ) ແລະ ຈຳນວນຖັນ (ຈຳນວນຖັນລວມສຳລັບຂໍ້ມູນທີ່ຂຶ້ນກັບ Y_1, Y_2,...Y_k– ຖັນສຸດທ້າຍ). ຫຼັງຈາກນັ້ນ, ຈະຖືກສ້າງຕາຕະລາງສຳລັບປ້ອນຂໍ້ມູນທີ່ກ່ຽວຂ້ອງ. ຕາຕະລາງທີ່ບັນຈຸຂໍ້ມູນຕ້ອງຖືກຕັ້ງຊື່ກ່ອນທີ່ຈະບັນທຶກ. ຟັງຊັນໂຫຼດລ້າງຕາຕະລາງ.
ຕາຕະລາງທີ່ບັນທຶກໄວ້ເກົ່າອາດຈະສະແດງໂດຍເລືອກຈາກລາຍຊື່ spinner. ຕາຕະລາງທີ່ສະແດງອາດຈະຖືກຄິດໄລ່ ແລະ ວິທີແກ້ໄຂຈະປາກົດຢູ່ໃນຜົນໄດ້ຮັບຂອງແອັບກ່ອງໂຕ້ຕອບ. ຟັງຊັນພິມອາດຈະຖືກປະຕິບັດຈາກກ່ອງໂຕ້ຕອບນີ້ໃນໄຟລ໌ AppMultipleLogisticRegressionSolver.txt. ກິດຈະກຳພິມລວມບັນທຶກໄຟລ໌ Db/ບັນທຶກໄຟລ໌ໂດຍມັນແມ່ນໂຟນເດີທີ່ເລືອກບ່ອນທີ່ຈະບັນທຶກໄຟລ໌. ຫຼັງຈາກເລືອກໂຟນເດີ, ປຸ່ມສຳລັບບັນທຶກຈະປາກົດ. ຈາກກິດຈະກຳດຽວກັນອາດຈະສະແດງເນື້ອໃນຂອງໄຟລ໌ທີ່ເລືອກ, ແລະຍັງເພື່ອລຶບໄຟລ໌ທີ່ເລືອກ.