一、基础理解问题：逻辑回归算法是用回归的方式解决分类的问题，而且只可以解决二分类问题；方案：可以通过改造，使得逻辑回归算法可以解决多分类问题；改造方法：OvR（One vs Rest），一对剩余的意思，有时候也称它为 OvA（One vs All）；一般使用 OvR，更标准；OvO（One vs One），一对一的意思；改造方法不是指针对逻辑...

# 注：使用线性回归算法的前提是，假设数据存在线性关系，如果最后求得的准确度R < 0，则说明很可能数据间不存在任何线性关系（也可能是算法中间出现错误），此时就要检查算法或者考虑使用其它算法；一、功能与特点　1）解决回归问题　2）思想简单，实现容易　　　# 因为算法运用了很多的数学推到，使计算机实现变得容易　3）许多非线性模型的基础　4）结果具有很好的可解释...

一、oob（Out - of - Bag）定义：放回取样导致一部分样本很有可能没有取到，这部分样本平均大约有 37% ，把这部分没有取到的样本称为 oob 数据集；根据这种情况，不对数据集进行 train_test_split，也就是不适用 测试数据集，而使用这部分没有取到的样本做测试 / 验证；　2）oob_score 参数Bagging 取样...

一、高斯核函数、高斯函数μ：期望值，均值，样本平均数；（决定告诉函数中心轴的位置：x = μ）σ2：方差；（度量随机样本和平均值之间的偏离程度：，为总体方差，为变量，为总体均值，为总体例数）实际工作中，总体均数难以得到时，应用样本统计量代替总体参数，经校正后，样本方差计算公式：S^2= ∑(X-) ^2 / (n-1)，S^2为样本方差，X为...

数据归一化（Feature Scaling）一、为什么要进行数据归一化原则：样本的所有特征，在特征空间中，对样本的距离产生的影响是同级的；问题：特征数字化后，由于取值大小不同，造成特征空间中样本点的距离会被个别特征值所主导，而受其它特征的影响比较小；例：特征1 = [1, 3, 2, 6, 5, 7, 9]，特征2 = [1000, 3000, 5000, 2000,...

一、评测标准模型的测评标准：分类的准确度（accuracy）；预测准确度 = 预测成功的样本个数/预测数据集样本总数；二、超参数超参数：运行机器学习算法前需要指定的参数；kNN算法中的超参数：k、weights、P；一般超参数之间也相互影响；调参，就是调超参数；　1）问题　　# 以kNN算法为例平票：如果k个点中，不同类型...

老师：非参数学习的算法都容易产生过拟合；一、决策树模型的创建方式、时间复杂度　1）创建方式决策树算法既可以解决分类问题，又可以解决回归问题；CART 创建决策树的方式：根据某一维度 d 和某一个 阈值 v 进行二分；（得到的是一个二叉树）scikit-learn 中的创建决策树的方式：CART（Classification And Regres...

一、概述现实中的数据一般有噪声、数量庞大并且可能来自异种数据源。数据集由数据对象组成，一个数据对象代表一个实体。数据对象：又称样本、实例、数据点或对象。数据对象以数据元组的形式存放在数据库中，数据库的行对应于数据对象，列对应于属性。属性是一个数据字段，表示数据对象的特征，在文献中，属性、维度（dimension）、特征（feature）、变量（variance）可...

一、概述对应成功的数据预处理而言，把握数据的全貌至关重要。基本统计描述可以用来识别数据的性质，凸显哪些数据值应该视为噪声或离群点。二、中心趋势度量：均值、中位数、众数、中列数也就是度量数据分布的中部或中心位置。（给定一种属性，它的值大部分落在何处）频率：区间内数值的个数。　1）均值（mean）数据集“中心”的最常用、最有效的数值度量是...

一、基础理解　1）定义ROC（Receiver Operation Characteristic Curve）定义：描述 TPR 和 FPR 之间的关系；功能：应用于比较两个模型的优劣；模型不限于是否通过极度偏斜的数据训练所得；比较方式：ROC 曲线与坐标图形边界围成的面积，越大模型越优；TPR（True Pos...