其中一份数据集,覆盖11项检测指标

决策树的工作原理就是模拟一棵树的分叉原理,利用这些检测化验数据,把患有心脏病的病例和心脏完全健康的病例正确的分类

叶子节点下面不会再有分支

算法基于的原理:信息熵

信息熵=0        明天的太阳从东方升起

信息熵=很大        明天的股市会涨

计算公式:

计算全部数据的熵:

这份检测结果的数据只有两个,则n=2    X=ALL

然后选择一个检测指标数据,对全部的病例进行划分

比如,我们用静息心电图的结果来进行划分,分出来三种Normal,ST,LVH,其中病例数分别为552,178,188,可以计算出他们的信息熵的值都为多少。

如果使用静息心电图的检测结果,来划分全部数据,那么全部的检测数据的不确定性(信息熵的值)能降低多少呢

信息增益计算公式:

       

更多推荐