为了实现Logistic回归分类器，我们可以在每个特征上都乘以一个回归系数，然后把所有的结果值相加，将这个总和代入Sigmoid函数中，进而得到一个范围在0~1之间的数值。训练模型后，我们可以使用模型来预测新样本的类别标签，预测类别标签的方法是，将新样本的特征向量代入Sigmoid函数，计算出该样本点的概率，如果概率大于0.5，则预测为正例（类别1）；在训练过程中，损失函数的目的是指导模型如何调整

一个系统越是有序，信息熵就越低，一个系统越是混乱，信息熵就越高，所以信息熵被认为是一个系统有序程度的度量。我们看出用测试集预测的精确度为100%，特征中，第三个特征的重要程度系数最大，说明它对决策分类起很重要的作用。在ID3算法的基础上，进行算法优化提出的一种算法(C4.5)；GINI增益作为分割属性选择的标准，选择GINI增益最大的作为当前数据集的分。C4.5算法在选中分割属性的时候选择信息增益

你需要将以下五条环境变量中涉及的到的"D:\WorkSoftware\Install\Anaconda3"都修改为你的Anaconda的安装路径）版权声明：本文为博主原创文章，遵循 CC 4.0 BY-SA 版权协议，转载请附上原文出处链接和本声明。在电脑屏幕左下角的Windows徽标键这里，选择点击绿色圈圈Anaconda Navifator将其打开。1.同时按住键盘上的win+r键，输入“cm