一、 概述1.1 集成算法概述集成学习（ensemble learning）是时下非常流行的机器学习算法，它本身不是一个单独的机器学习算法，而是通 过在数据上构建多个模型，集成所有模型的建模结果。目标：集成算法会考虑多个评估器的建模结果，汇总之后得到一个综合的结果，以此来获取比单个模型更好的回归或 分类表现。在现在的各种算法竞赛中，随机森林，梯度提升树（GBDT），Xgboost等集成 算法的身影

前言随着云计算、大数据、物联网、移动互联网等新兴技术的高速发展和应用，数以万计的设备和应用产生的海量日志数据，给日常运维和安全工作带来了巨大的困难和挑战；因此博主想通过机器学习对海量日志数据进行挖掘和分析，帮助日常工作的开展；本文会记录博主的日常学习、项目和比赛总结，同时也欢迎大家多多指点迷津。学习目标：利用机器学习分析海量日志数据，帮助日常安全和运维工作的开展。学习内容：一、数学阶段包括：高数基

一、决策树定义是一种非参数的有监督学习方法，它能够从一系列有特征和标签的数据中总结出决策规 则，并用树状图的结构来呈现这些规则，以解决分类和回归问题。可以看出，在这个决策过程中，我们一直在对记录的特征进行提问。最初的问题所在的地方叫做根节点，在得到结 论前的每一个问题都是中间节点，而得到的每一个结论（动物的类别）都叫做叶子节点。关键概念：节点根节点：没有进边，有出边。包含最初的，针对特征的提问。中

一、决策树定义是一种非参数的有监督学习方法，它能够从一系列有特征和标签的数据中总结出决策规 则，并用树状图的结构来呈现这些规则，以解决分类和回归问题。可以看出，在这个决策过程中，我们一直在对记录的特征进行提问。最初的问题所在的地方叫做根节点，在得到结 论前的每一个问题都是中间节点，而得到的每一个结论（动物的类别）都叫做叶子节点。关键概念：节点根节点：没有进边，有出边。包含最初的，针对特征的提问。中

数据结构和算法-大O表示法

一、 概述1.1 集成算法概述集成学习（ensemble learning）是时下非常流行的机器学习算法，它本身不是一个单独的机器学习算法，而是通 过在数据上构建多个模型，集成所有模型的建模结果。目标：集成算法会考虑多个评估器的建模结果，汇总之后得到一个综合的结果，以此来获取比单个模型更好的回归或 分类表现。在现在的各种算法竞赛中，随机森林，梯度提升树（GBDT），Xgboost等集成 算法的身影

前言随着云计算、大数据、物联网、移动互联网等新兴技术的高速发展和应用，数以万计的设备和应用产生的海量日志数据，给日常运维和安全工作带来了巨大的困难和挑战；因此博主想通过机器学习对海量日志数据进行挖掘和分析，帮助日常工作的开展；本文会记录博主的日常学习、项目和比赛总结，同时也欢迎大家多多指点迷津。学习目标：利用机器学习分析海量日志数据，帮助日常安全和运维工作的开展。学习内容：一、数学阶段包括：高数基

一、决策树定义是一种非参数的有监督学习方法，它能够从一系列有特征和标签的数据中总结出决策规 则，并用树状图的结构来呈现这些规则，以解决分类和回归问题。可以看出，在这个决策过程中，我们一直在对记录的特征进行提问。最初的问题所在的地方叫做根节点，在得到结 论前的每一个问题都是中间节点，而得到的每一个结论（动物的类别）都叫做叶子节点。关键概念：节点根节点：没有进边，有出边。包含最初的，针对特征的提问。中

一、 概述1.1 集成算法概述集成学习（ensemble learning）是时下非常流行的机器学习算法，它本身不是一个单独的机器学习算法，而是通 过在数据上构建多个模型，集成所有模型的建模结果。目标：集成算法会考虑多个评估器的建模结果，汇总之后得到一个综合的结果，以此来获取比单个模型更好的回归或 分类表现。在现在的各种算法竞赛中，随机森林，梯度提升树（GBDT），Xgboost等集成 算法的身影

分类模型的评估estimator.score()：一般最常见使用的是准确率，即预测结果正确的百分比混淆矩阵在分类任务下，预测结果(Predicted Condition)与正确标记(True Condition)之间存在四种不同的组合，构成混淆矩阵(适用于多分类)精确率(Precision)与召回率(Recall)分类模型评估API•sklearn.metrics.classification_r