数据挖掘的主要目标之一是从观察到的样本中预测出新样本的未知值，这样的一个过程分为两个连续的阶段：A:训练阶段—使用某种现有的监督学习方法从训练样本中产生一个预测模型，B:检验阶段—使用未在训练集中用到的检验样本评估训练阶段生成的预测模型为了提高模型的准确性，可以使用集成学习的高效算法，他的核心思想是组合训练样本生成的各种预测模型的结果，主要动机就是减少错误率集成学习方法论在训练阶段，集成方法

决策树—分类、预测什么是决策树？决策树是一种非常普遍的数据挖掘技术，顾名思义，决策树就是建模过程类似于一棵树的成长过程，从树根、树干、分支，分叉，最后到树叶，在决策树里，所分析的数据样本，先集成为一个树根，然后进行层层的分支，最后形成一个个的节点，每个节点代表一个结论决策树的优点有哪些？1.决策树的优点在于决策树的构造不需要任何领域的知识，很适合探索性的数据挖掘发现，而且可以处理高纬度的数

对于真正意义上的大型数据集，在应用数据挖掘技术之前，还需要执行一个中间的、额外的步骤—数据归约，虽然大型数据集可能得到最佳的挖掘结果，但是未必能获得比小型数据集更好的数据挖掘结果，2.维归约，主要问题是不降低成果质量的前提下，可否舍弃一些已准备和已预处理的数据3.数据的描述以及特征的挑选、归约或转换可能是决定数据挖掘质量的最重要问题，在实践中，特征的数量可达到数百个之多，如果只有上百条样本可

自然演变是一种基于群体的优化过程，在计算机上对这个过程进行仿真，产生了随机优化技术，在应用于解决现实世界中的难题时，这种技术常胜过经典的优化方法，遗传算法就是根据自然演变法则开发出来的遗传算法的基本原理遗传算法（GA）是不需要求导的随机优化方法，它以自然选择和演变过程为基础，但是联系又是不牢靠的遗传算法（Genetic Algorithm）是模拟达尔文生物进化论的自然选择和遗传学机理的生物

机器学习(Machine Learning, ML)是一门多领域交叉学科，涉及概率论、统计学、逼近论、凸分析、算法复杂度理论等多门学科。专门研究计算机怎样模拟或实现人类的学习行为，以获取新的知识或技能，重新组织已有的知识结构使之不断改善自身的性能。它是人工智能的核心，是使计算机具有智能的根本途径，其应用遍及人工智能的各个领域，它主要使用归纳、综合而不是演绎。分类基于学习策略的分类