决策树是经典高效的机器学习分类算法， 非常适用于线性模型效果不能满足需求， 规则描述分布比较合适的场景。而决策树与传统bagging， boosting思想结合在一起， 就形成集成树模型方法， 包括Random Forest，GBDT等方法。 在百度搜索关键词搜索推荐系统策略中，实验证明集成树模型具有非常高的预估分类准确性。

列了一些之前设计开发百度关键词搜索推荐引擎时， 参考过的论文， 书籍， 以及调研过的推荐系统相关的工具；同时给出参加过及未参加过的业界推荐引擎应用交流资料（有我网盘的链接）， 材料组织方式参考了厂里部分同学的整理。因为推荐引擎不能算是一个独立学科，它与机器学习，数据挖掘有天然不可分的关系，所以同时列了一些这方面有用的工具及书籍，希望能对大家有所帮助。

本文以百度关键词搜索推荐工具字面相关性模型为基础，介绍一个机器学习任务的具体设计实现。包括目标的设定，训练数据准备，特征选择及筛选， 以及模型的训练及优化。该模型可扩展到语意相关性模型，搜索引擎相关性及LTR学习任务的设计实现。该模型的设计调研实现，也可以很容易移植解决其他包括语义相关性的问题