想象一下，下周你要参加一场数学考试。学霸：看书时，努力理解公式背后的逻辑和原理。考试时题目稍微变了变，他依然能考满分。书呆子（过拟合）：不看原理，把死力气全花在死记硬背上。他把课后习题的每一个数字、甚至标点符号都背了下来（在训练集上错误率为0）。结果到了考场上，题目数字一变，他直接彻底懵圈，考了个零分（在测试集上表现极差）。正则化，就是老师用来对付“书呆子”的戒尺。它的目的就是让模型别去死记硬背那

是微软开源的另一个王牌算法。它的底层原理和 XGBoost 完全一样，都是让多棵树接力去学习不正确的部分（残差）。但微软当年在开发它时，心里憋着一个大招。他们觉得 XGBoost 性能好是好，但在处理时，。于是，微软对树模型的建树过程进行了大刀阔斧的“偷懒式”改造。LightGBM 之所以能做到“又快又准”

最近学习负荷（时序）预测相关模型，了解的一些知识点（相关的知识可见XGboost就是通过滞后特征或者统计特征等，学习时序模型，通过树来学习残差，然后进行预测的。