R^2分数：R^2为决定系数，⽤来表示模型拟合性的分值，值越⾼表示模型拟合性越好，在训练集中，R^2的取值范围为[0,1]。R^2的计算公式为1减去RSS与TSS的商。从空间的⻆度来看，就是要让函数的直线（⾯)，尽可能靠近空间中所有的数据点（点到直线的平⾏于y轴的距离之和最短)。MSE可以评价数据的变化程度，MSE的值越⼩，说明预测模型描述实验数据具有更好的精确度。RMSE均⽅根误差：RMSE (

在最简单的情况下，有两种结果，称为二项分类，例如预测肿瘤是恶性的还是良性的。对于逻辑回归，模型的前⾯与线性回归类似，不过， z的值是⼀个连续的值，取值范围为 (-∞，∞)，我们可以将阈值设置为中间的位置，也就是 0，当 z>0时，模型将样本判定为⼀个类别（正例），当 z<=0时，模型将样本判定为另外⼀个类别（负例）。尽管它的名称中包含"回归"⼀词，但它实际上是⼀种分类算法，⽤于将输⼊数据分为两个或

它展示了模型在不同类别上的分类结果，包括真正例（True Positive，TP）、假正例（False Positive，FP）、真负例（True Negative，TN）和假负例（FalseNegative，FN）。选择哪些指标取决于具体问题的要求和关注点。当不同类别的样本数量不平衡时，例如正类别样本远远少于负类别样本，通过调整类别权重或使⽤合适的评估指标（如召回率）可以更好地适应不平衡数据。分

这种变换通常⽤于线性回归、逻辑回归、⽀持向量机（SVM）等模型，特别是当原始特征与⽬标之间存在复杂的⾮线性关系时，多项式特征变换可以提⾼模型的性能。统计填充：对于缺失值的属性，尤其是数值类型的属性，根据所有样本关于这维属性的统计值对其进⾏填充，如使⽤平均数、中位数、众数、最⼤值、最⼩值等，具体选择哪种统计值需要具体问题具体分析。如果你认为某些特征具有⾼次项的影响，例如 x^2, x^3, 等等，你

在决策树的构建过程中，信息熵被⽤来作为划分属性的依据，通过计算不同属性划分后的信息熵来选择最优划分属性，以使得整个决策树的熵值最⼩，从⽽使得整个决策系统的确定性最⾼。回归任务的标签（ 值）是连续的，故之前以分类为基础的不纯度度量标准（信息熵，基尼系数与错误率）都不适⽤于回归树，因此，在回归树中，⾃然也就没有信息增益，信息增益率或基尼增益等概念了。决策树学习采⽤的是⾃顶向下的递归⽅法，其基本思想是以

生成元特征：用训练好的基础模型对 Train2 和测试集进行预测，得到 “元特征矩阵”——Train2 对应的元特征作为 “元模型的训练特征”，测试集对应的元特征作为 “元模型的测试特征”。学习法（又称 Stacking，堆叠法）是高精度需求场景的进阶结合策略，核心逻辑是 “将基础模型的输出作为‘新特征（元特征）’，训练一个‘元模型（Meta-Model）’来学习如何组合这些元特征，最终输出预测结

标准化处理：如果通过身⾼体重去分析⼀个正常身材的⼈的胖瘦，假设身⾼的衡量标准为“⽶”，⽽体重的衡量标准为“⽄”，由于⼆者的数量级的差异，会导致判断胖瘦的标准发⽣改变，导致体重⼀项具有了更⼤的影响⼒ ，但是根据经验可以知道，⼀个正常身材⼈的胖瘦是由身⾼和体重共同决定的，对于这样的数据⽽⾔，给计算机使⽤的数据就要进⾏数据标准化。例：现在有性别：{男，⼥，其他}。通常获取数据通常都是不完整的，缺失值、零

多分支流程，在多分支语句中，条件按顺序依次检查，一旦有条件为真，则执行对应的代码块，然后退出整个分支。如果所有条件都为假，则执行else 语句块中的代码。单分支语句只有一种条件，如果条件为真，则执行相应的代码块；双分支语句有两种条件，分别是条件为真和条件为假时执行的不同代码块。嵌套判断，嵌套判断就是条件里面嵌套条件；作用，控制流程能够实现⾮常复杂的代码逻辑，它可以实现更加智能的功能。代码的执行顺序

对象，while循环的循环条件是自定义的，for循环无法定义循环条件，for循环是一种。continue：在语句块执⾏过程中终⽌当前循环，跳出该次循环，执⾏下⼀次循环。⼀般编程语⾔都有循环语句，计算机和⼈类不同，计算机可以⼀直重复做一个事情。所以这时候需要⽤到循环语句，循环语句允许我们执⾏⼀个语句或语句组多次。这⾥⼜有⼀个问题了，如果我想让他运⾏了⼀百次之后停⽌，那该怎么做呢？break：在语句块

python自定义函数中有两种不定长参数，第一种是*XXX，通常写成*args，在传入额外的参数时可以不用指明参数名，直接传入参数值即可。是已经写好的一些函数，他们美观且强大，我们可以打印dir(__builtins__)，查看有哪些内置函数，比如我们常用的。可以是任意类型，一个函数只有一个return，函数遇到return之后就结束了，后面还有其他的代码也不会去执行。函数是组织好的，可重复使用的