登录社区云,与社区用户共同成长
邀请您加入社区
决策树性别分类器信息熵与基尼系数在搭建决策树时,如何衡量随机变量的不确定是至关重要的。换句话说,我们的调优完全是基于选择什么作为最优特征指标进行调整,而熵和基尼指数都是最优特征指标。信息熵的定义及相关证明在信息论与概率统计中,熵是最基础的概念,其表示随机变量不确定的度量。设 XXX 是一个取有限个值的离散随机变量,其概率分布为:P(X=xi)=pi,i=1,2,…,nP\left(X=x_{i}\