C4.5算法是由澳大利亚悉尼大学Ross Quinlan教授在1993年基于ID3算法的改进提出的，C4.5 使用信息增益率而不是信息增益作为决策树的属性选择标准。它能够处理连续型属性或离散型属性的数据；能够处理具有缺失值的属性数据；使用信息增益率而不是信息增益作为决策树的属性选择标准；对生成枝剪枝，降低过拟合。1.信息熵                        ...