逻辑回归模型

监督学习与无监督学习

监督学习:数据集中含有标签

无监督学习:数据集中不含标签

监督学习大致可分为回归和分类两大类

回归与分类

回归:输入变量与输出变量均为连续数值,如输入为学习时间,输出为测试分数 90,90.1,90.2...

分类:输出变量为离散的优先数值,如输入为学习时间,输出为测试是否及格 0/1

逻辑回归算法

sigmoid函数:

可知函数值∈[0, 1], 将z替换为线性回归模型的表达式 𝑧 = 𝑤0 * 𝑥0 + 𝑤1 * 𝑥1 + ... + 𝑤𝑛 * 𝑥𝑛 + 𝑏

确定阈值后,通过阈值与函数值的比较即可实现二分类算法

正例表达:

反例表达:

计算时将正例与反例结合一起计算

样本概率相乘得到表达式为损失函数表达式,由于乘积表达式较难参与运算,可将其求对数

损失函数: 其中 函数6符号函数即sigmoid函数

参数调整:

利用梯度下降法进行调整,分别使损失函数作为参数w和b的函数利用梯度下降法进行调整求解

分类和回归模型评价指标简要总结:

更多推荐