第 4 章 决策树4.1 算法原理：从逻辑角度，一堆if else语句的组合从几何角度，根据某种准则划分特征空间。最终目的：将样本越分越“纯”信息论内容补充：信息熵自信息的期望，随机变量的不确定性的度量此时的信息熵所代表的“不确定性”可以理解为集合内样本的“纯度”。条件熵Y的信息关于概率分布X的期望信息增益信息熵-条件熵最大化信息增益。通过遍历A中所有属性，求出每个属性所有可能取值下的信息熵，计算

机器学习（西瓜书）-------周志华 著Day 1:第 1 章 绪论1.1 基本术语：数据集中的每条记录是关于一个事件或对象的描述——示例（instance) 或样本 (sample).一个示例也可以称为一个特征向量（feature vector)反映事件或对象在某方面的表现或性质的事项——属性（attribute）或特征 (feature).属性取值——属性值（attribute value）

机器学习（西瓜书）-------周志华 著Day 1:第 1 章 绪论1.1 基本术语：数据集中的每条记录是关于一个事件或对象的描述——示例（instance) 或样本 (sample).一个示例也可以称为一个特征向量（feature vector)反映事件或对象在某方面的表现或性质的事项——属性（attribute）或特征 (feature).属性取值——属性值（attribute value）