以下是多元二元邏輯迴歸的實用指南—即,利用多個特徵預測二元結果 (0/1)。
二元邏輯迴歸(通常簡稱邏輯迴歸)是一種統計方法,用於建模一個或多個自變數與二元(兩類)結果之間的關係。
二元:目標值 y∈{0,1}
多元:多重輸入特徵 x_1, x_2, ..., x_n
模型:
p(y=1∣x)=1/(1+e^{−z}),其中 z=w_0+w_1*x_1+⋯+w_n*x_n
w_0, w_1...w_n 是由 x_1, x_2, ..., x_n 和 y 與預測值之間的誤差計算出的權重。
邏輯迴歸並非直接預測值,而是使用預測變數 z 的線性組合來預測對數比值。然後使用邏輯(sigmoid)函數轉換對數比值,產生介於 0 和 1 之間的機率值。
二元邏輯迴歸是一種機率分類模型,它使用 sigmoid 函數預測兩種結果之一的可能性,因此廣泛應用於統計學、資料科學和機器學習領域,用於可解釋的二元決策。
模型參數使用最大似然估計 (MLE) 進行估計。閾值(通常為 0.5)用於對結果進行分類(如果 P≥0.5 → 類別 1;如果 P<0.5 → 類別 0)。
多項邏輯迴歸是一種統計和機器學習方法,用於對一組自變數(預測變數)與具有兩個以上可能結果的分類因變數之間的關係進行建模,其中類別之間沒有自然順序。
模型:對於類別 k:
P(y=k∣x)=e^w_k⋅x / ∑e^w_j⋅x,其中 j=1,2...K
其中:- x = 特徵向量
w_k = 類別 k 的權重
K = 類別數
在應用程式中,每個物件 Object_k(object_1, object_2 ... object_m)由自變數(X_ki – 特徵,i = 1...n)和一個因變數(Y_k – 目標值)描述。使用諸如普通最小平方法 (OLS) 之類的方法來計算係數(beta_0, beta_1, beta_2, ..., beta_n)的最優值。目標值計算如下:
Y = beta_0 + beta_01* P_1 + beta_2 *P_2 + ... + beta_n* P_n
其中:P_1, P_2...P_n 是目標值的預測變數。
該應用程式將多個邏輯迴歸模型的資料儲存到名為 AppMultiNomialLogisticRegression.db 的 SQLite 資料庫 (DB) 中。迴歸模型透過名稱進行區分。
應用程式(App Multinomial Linear Logistic Regression Solver)的啟動介面會顯示回歸模型範例清單(以下拉列表形式呈現),以及用於建立(新範例)、載入(載入)、儲存(儲存)、另存為(另存為)、計算(計算)和刪除(刪除)回歸模型範例的按鈕。在主介面,您還可以透過選單存取其他功能,例如選擇語言、儲存和複製資料庫、使用範例資料初始化資料庫,以及輔助功能,例如應用程式說明、設定和指向包含所有應用程式描述的網站連結。
建立新樣本的功能包括一個對話框,用於輸入矩陣大小,輸入新樣本的資料-行數(包括預測資料 P_1、P_2...P_n 的行,直到最後一行)和列數(包括因變數資料 Y_1、Y_2...Y_k 的列,直到最後一列)。然後產生一個表格,用於輸入相關數據。填充後的表格必須先命名才能儲存。 “載入”功能用於清除表格。
可以從下拉清單中選擇來顯示先前儲存的表格。顯示的表格可以進行計算,計算結果將顯示在「應用程式結果」對話方塊中。 「列印」功能可以從此對話方塊執行,並將結果輸出到 AppMultipleLogisticRegressionSolver.txt 檔案。 「列印」功能包含「儲存資料庫/儲存檔案」活動,用於選擇儲存檔案的資料夾。選擇資料夾後,會出現一個儲存按鈕。透過相同活動,還可以顯示所選檔案的內容,以及刪除所選檔案。
該應用程式旨在提供創建和解決多元邏輯回歸問題的方法