MultiLinearLogistic Regr-ions

ivan gabrovski

Утрымлівае рэкламу

Пра гэту праграму

Ніжэй прыведзены практычны дапаможнік па множнай (шматмернай) бінарнай лагістычнай рэгрэсіі, г.зн. прагназаванні бінарнага выніку (0/1) па некалькіх прыкметах.

Біноміяльная лагістычная рэгрэсія (звычайна яе называюць проста лагістычнай рэгрэсіяй) — гэта статыстычны метад, які выкарыстоўваецца для мадэлявання сувязі паміж адной або некалькімі незалежнымі зменнымі і бінарным (двухкатэгорыйным) вынікам.

Бінарная: мэтавая y∈{0,1}
Множная (шматмерная): больш за адну ўваходную прыкмету x_1, x_2, ..., x_n​
Мадэль:
p(y=1∣x)=1/(1+e^{−z}), дзе z=w_0+w_1*x_1+⋯+w_n*x_n

а w_0, w_1...w_n — гэта вагі, разлічаныя па x_1, x_2, ..., x_n і памылках паміж y і прадказаннямі.
Замест таго, каб прадказваць значэнні непасрэдна, лагістычная рэгрэсія прадказвае лагарыфмічныя шанцы з выкарыстаннем лінейнай камбінацыі прадказальнікаў z. Лагарытмічныя шанцы затым пераўтвараюцца з дапамогай лагістычнай (сігмападобнай) функцыі для атрымання верагоднасцей паміж 0 і 1.
Бінарная лагістычная рэгрэсія — гэта імавернасная класіфікацыйная мадэль, якая выкарыстоўвае сігмападобную функцыю для прагназавання верагоднасці аднаго з двух зыходаў, што робіць яе шырока выкарыстоўванай у статыстыцы, навуцы аб дадзеных і машынным навучанні для інтэрпрэтавальнага прыняцця бінарных рашэнняў.
Параметры мадэлі ацэньваюцца з дапамогай ацэнкі максімальнай верагоднасці (MLE). Парогавае значэнне (звычайна 0,5) выкарыстоўваецца для класіфікацыі вынікаў (калі P ≥ 0,5 → клас 1; калі P < 0,5 → клас 0).
Мультынаміяльная лагістычная рэгрэсія — гэта статыстычны метад і метад машыннага навучання, які выкарыстоўваецца для мадэлявання сувязі паміж наборам незалежных зменных (прадказальнікаў) і катэгарыяльнай залежнай зменнай з больш чым двума магчымымі зыходамі, дзе катэгорыі не маюць натуральнага парадку.
Мадэль: Для класа k:
P(y=k∣x)=e^w_k⋅x / ∑e^w_j⋅x, дзе j=1,2...K
Дзе: - x = вектар прыкмет
w_k = вагі для класа k
K = колькасць класаў
У дадатку кожны аб'ект Object_k (object_1, object_2 ... object_m) апісваецца незалежнымі зменнымі (X_ki – прыкметы, i = 1...n) і адной залежнай зменнай (Y_k - мэта). Для разліку аптымальных значэнняў каэфіцыентаў (beta_0, beta_1, beta_2, ..., beta_n) выкарыстоўваецца метад звычайных найменшых квадратаў (OLS). Мэтавае значэнне разлічваецца па формуле:
Y = beta_0 + beta_01* P_1 + beta_2 *P_2 + ... + beta_n* P_n
дзе: P_1, P_2...P_n - прадказальнікі мэты.
Праграма захоўвае дадзеныя для некалькіх мадэляў лагістычнай рэгрэсіі ў базе дадзеных (БД) тыпу SQLite з назвай AppMultiNomialLogisticRegression.db. Мадэлі рэгрэсіі адрозніваюцца па назвах.

На пачатковым экране праграмы (App Multinomial Linear Logistic Regression Solver) адлюстроўваецца спіс узораў мадэляў рэгрэсіі (у спісе круцільных элементаў) і кнопкі для ўключэння функцый стварэння (New sample), загрузкі (Load), захавання (Save), захавання як (Save as), разліку (Calculate) і выдалення (Delete) узораў мадэляў рэгрэсіі. З галоўнага экрана праз элементы меню вы таксама можаце атрымаць доступ да такіх функцый, як выбар мовы, захаванне і капіраванне базы дадзеных, ініцыялізацыя базы дадзеных з узорамі дадзеных, і дапаможных функцый, такіх як даведка па праграме, налады і спасылка на вэб-сайт з апісаннем усіх праграм ад аўтараў.

Функцыі для стварэння (Новая выбарка) уключаюць дыялогавае акно для ўводу памеру матрыцы, дзе ўводзяцца дадзеныя новай выбаркі – колькасць радкоў (колькасць уключаных радкоў для прагназаваных дадзеных P_1, P_2...P_n – апошні радок) і колькасць слупкоў (колькасць уключаных слупкоў для залежных дадзеных Y_1, Y_2,...Y_k – апошні слупок). Затым генеруецца табліца для ўводу адпаведных дадзеных. Запоўненая табліца павінна быць названа перад захаваннем. Функцыя загрузкі ачышчае табліцу.

Старая захаваная табліца можа быць паказана шляхам выбару са спісу. Табліца, якая паказваецца, можа быць вылічана, і рашэнне з'яўляецца ў дыялогу «Вынікі прыкладання». Функцыя друку можа быць выканана з гэтага дыялогу ў файле AppMultipleLogisticRegressionSolver.txt. Дзеянне друку ўключае дзеянне «Захаваць базу дадзеных/Захаваць файл», якое дазваляе выбраць тэчку для захавання файла. Пасля выбару тэчкі з'яўляецца кнопка для захавання. У гэтым жа акне можа быць паказаны змест выбранага файла, а таксама магчымасць выдаліць выбраны файл.