分类算法-决策树、随机森林认识决策树信息论基础-银行贷款分析决策树的生成泰坦尼克号乘客生存分类决策树思想的来源非常朴素，程序设计中的条件分支结构就是if-then结构，最早的决策树就是利用这类结构分割数据的一种分类学习方法。如：信息的度量和作用假设有32支球队，猜谁“谁是世界杯冠军”的信息量应该比5比特少。香农指出，它的准确信息量应该是：H = -(p1logp1 + p2logp2 + … +