​XGBoost（eXtreme Gradient Boosting，极限梯度提升）凭借二阶优化、显式正则化和高效的工程实现，在梯度提升领域取得了突破性进展，显著推动了机器学习的发展。与传统梯度提升方法仅依赖一阶导数不同，XGBoost通过泰勒展开，融合梯度和海森信息，实现了类似牛顿法的函数空间优化[1]。本研究通过与决策树、随机森林、AdaBoost、GBDT、LightGBM和CatBoost