다음은 다중(다변량) 이진 로지스틱 회귀 분석에 대한 실용적인 가이드입니다. 즉, 여러 특징을 사용하여 이진 결과(0/1)를 예측하는 방법입니다.
이항 로지스틱 회귀 분석(일반적으로 로지스틱 회귀 분석이라고 함)은 하나 이상의 독립 변수와 이진(두 범주) 결과 간의 관계를 모델링하는 데 사용되는 통계적 방법입니다.
이진: 목표값 y∈{0,1}
다중(다변량): 하나 이상의 입력 특징 x_1, x_2, ..., x_n
모델:
p(y=1∣x)=1/(1+e^{−z}), 여기서 z=w_0+w_1*x_1+⋯+w_n*x_n
w_0, w_1...w_n은 x_1, x_2, ..., x_n과 y와 예측값 사이의 오차에 의해 계산된 가중치입니다.
로지스틱 회귀는 값을 직접 예측하는 대신 예측 변수 z의 선형 조합을 사용하여 로그 오즈를 예측합니다. 그런 다음 로그 오즈는 로지스틱(시그모이드) 함수를 사용하여 0과 1 사이의 확률로 변환됩니다.
이진 로지스틱 회귀는 시그모이드 함수를 사용하여 두 가지 결과 중 하나가 발생할 가능성을 예측하는 확률적 분류 모델로, 통계, 데이터 과학 및 머신 러닝 분야에서 해석 가능한 이진 의사 결정을 위해 널리 사용됩니다.
모델 매개변수는 최대 우도 추정(MLE)을 사용하여 추정됩니다. 임계값(일반적으로 0.5)은 결과를 분류하는 데 사용됩니다(P≥0.5이면 클래스 1, P<0.5이면 클래스 0).
다항 로지스틱 회귀는 두 개 이상의 가능한 결과를 가진 범주형 종속 변수와 독립 변수(예측 변수) 집합 간의 관계를 모델링하는 데 사용되는 통계 및 머신 러닝 방법입니다. 여기서 범주는 자연적인 순서가 없습니다.
모델: 클래스 k에 대해:
P(y=k∣x)=e^w_k⋅x / ∑e^w_j⋅x (단, j=1,2...K)
여기서: - x = 특징 벡터
w_k = 클래스 k에 대한 가중치
K = 클래스 수
앱에서 각 객체 Object_k(object_1, object_2 ... object_m)는 독립 변수(X_ki - 특징, i = 1...n)와 하나의 종속 변수(Y_k - 목표값)로 설명됩니다. 최소제곱법(OLS)과 같은 방법을 사용하여 계수(beta_0, beta_1, beta_2, ..., beta_n)의 최적값을 계산합니다. 목표값은 다음과 같이 계산됩니다.
Y = beta_0 + beta_01* P_1 + beta_2 *P_2 + ... + beta_n* P_n
여기서: P_1, P_2...P_n은 목표값의 예측 변수입니다.
이 애플리케이션은 AppMultiNomialLogisticRegression.db라는 이름의 SQLite 데이터베이스(DB)에 여러 로지스틱 회귀 모델의 데이터를 저장합니다. 회귀 모델은 이름으로 구분됩니다.
이 애플리케이션(App Multinomial Linear Logistic Regression Solver)의 시작 화면에는 회귀 모델 샘플 목록(스피너 목록)과 회귀 모델 샘플을 생성(새 샘플), 불러오기(로드), 저장(저장), 다른 이름으로 저장(저장), 계산(계산), 삭제(삭제)하는 기능을 활성화하는 버튼이 표시됩니다. 메인 화면의 메뉴 요소를 통해 언어 선택, 데이터베이스 저장 및 복사, 샘플 데이터로 데이터베이스 초기화, 애플리케이션 도움말, 설정, 개발자가 제공하는 모든 애플리케이션 설명이 있는 웹사이트 링크와 같은 보조 기능에도 접근할 수 있습니다.
새 샘플 생성 기능에는 행렬 크기를 입력하는 대화 상자가 포함됩니다. 여기서 새 샘플의 데이터(행 수: 예측 데이터 P_1, P_2...P_n - 마지막 행 포함, 열 수: 종속 데이터 Y_1, Y_2...Y_k - 마지막 열 포함)를 입력합니다. 그런 다음 관련 데이터를 입력할 수 있는 테이블이 생성됩니다. 입력된 테이블은 저장하기 전에 이름을 지정해야 합니다. 로드 기능은 테이블을 초기화합니다.
이전에 저장된 테이블은 스피너 목록에서 선택하여 표시할 수 있습니다. 표시된 테이블에서 계산을 수행하고 결과를 앱 결과 대화 상자에 표시합니다. 인쇄 기능은 이 대화 상자에서 AppMultipleLogisticRegressionSolver.txt 파일에 출력합니다. 인쇄 기능에는 저장/파일 저장 활동이 포함되어 있으며, 여기서 파일을 저장할 폴더를 선택합니다. 폴더를 선택하면 저장 버튼이 나타납니다. 같은 활동에서 선택한 파일의 내용을 표시하거나 파일을 삭제할 수도 있습니다.