MultiLinearLogistic Regr-ions

ivan gabrovski

Есть реклама

Описание

Ниже приведено практическое руководство по множественной (многомерной) бинарной логистической регрессии — то есть прогнозированию бинарного результата (0/1) на основе нескольких признаков.
Биномиальная логистическая регрессия (обычно называемая просто логистической регрессией) — это статистический метод, используемый для моделирования взаимосвязи между одной или несколькими независимыми переменными и бинарным (двухкатегорийным) результатом.
Бинарная: целевая переменная y∈{0,1}
Множественная (многомерная): более одного входного признака x_1, x_2, ..., x_n
Модель:
p(y=1∣x)=1/(1+e^{−z}), где z=w_0+w_1*x_1+⋯+w_n*x_n

и w_0, w_1...w_n — веса, вычисленные на основе x_1, x_2, ..., x_n и ошибок между y и прогнозируемыми значениями.

Вместо прямого прогнозирования значений, логистическая регрессия прогнозирует логарифм отношения шансов, используя линейную комбинацию предикторов z. Затем логарифм отношения шансов преобразуется с помощью логистической (сигмоидной) функции для получения вероятностей от 0 до 1.
Бинарная логистическая регрессия — это вероятностная классификационная модель, которая использует сигмоидную функцию для прогнозирования вероятности одного из двух исходов, что делает её широко используемой в статистике, науке о данных и машинном обучении для интерпретируемого принятия бинарных решений.
Параметры модели оцениваются с помощью метода максимального правдоподобия (MLE). Для классификации исходов используется пороговое значение (обычно 0,5) (если P≥0,5 → класс 1; если P<0,5 → класс 0).
Многомерная логистическая регрессия — это статистический метод и метод машинного обучения, используемый для моделирования взаимосвязи между набором независимых переменных (предикторов) и категориальной зависимой переменной с более чем двумя возможными исходами, где категории не имеют естественного порядка.

Модель: Для класса k:
P(y=k∣x)=e^w_k⋅x / ∑e^w_j⋅x, где j=1,2...K
Где: - x = вектор признаков
w_k = веса для класса k
K = количество классов
В приложении каждый объект Object_k (object_1, object_2 ... object_m) описывается независимыми переменными (X_ki – признаки, i = 1...n) и одной зависимой переменной (Y_k – целевая переменная). Для вычисления оптимальных значений коэффициентов (бета_0, бета_1, бета_2, ..., бета_n) используется метод наименьших квадратов (МНК). Целевое значение вычисляется по формуле:

Y = бета_0 + бета_01* P_1 + бета_2 * P_2 + ... + бета_n* P_n
где: P_1, P_2...P_n являются предикторами целевой переменной.

Приложение сохраняет данные для нескольких моделей логистической регрессии в базу данных (БД) типа SQLite под именем AppMultiNomialLogisticRegression.db. Модели регрессии различаются по имени.
На стартовом экране приложения (App Multinomial Linear Logistic Regression Solver) отображается список примеров моделей регрессии (в выпадающем списке) и кнопки для активации функций создания (Новый пример), загрузки (Загрузить), сохранения (Сохранить), сохранения как (Сохранить как), расчета (Рассчитать) и удаления (Удалить) примеров моделей регрессии. С главного экрана, через элементы меню, также можно получить доступ к таким функциям, как выбор языка, сохранение и копирование базы данных, инициализация базы данных примерами данных, а также вспомогательным функциям, таким как справка по приложению, настройки и ссылка на веб-сайт с описанием всех приложений от авторов.

Функции для создания (новой выборки) включают диалоговое окно для ввода размера матрицы, в которую вводятся данные новой выборки – количество строк (включая строки для прогнозируемых данных P_1, P_2...P_n – последняя строка) и количество столбцов (включая столбцы для зависимых данных Y_1, Y_2,...Y_k – последний столбец). Затем генерируется таблица для ввода соответствующих данных. Заполненная таблица должна быть названа перед сохранением. Функция «Загрузка» очищает таблицу.
Старая сохраненная таблица может быть отображена путем выбора из выпадающего списка. Отображаемая таблица может быть рассчитана, и решение отображается в диалоговом окне результатов приложения. Функция «Печать» может быть выполнена из этого диалогового окна в файле AppMultipleLogisticRegressionSolver.txt. Функция «Печать» включает действие «Сохранить базу данных/Сохранить файл», с помощью которого выбирается папка для сохранения файла. После выбора папки появляется кнопка сохранения. Из этого же действия можно отобразить содержимое выбранного файла, а также удалить выбранный файл.