一、GBDT所属模块

GBDT在SPSSAU中属于【机器学习】模块。

二、方法概述

GBDT是一种常用的集成学习方法，既可以处理分类问题，也可以处理回归问题。它适合变量较多、关系较复杂的预测场景，常用于效果预测、分类识别、变量筛选以及不同模型之间的效果对比。

三、变量设置规则

1. 总体要求

GBDT共需要设置2类变量，分别是分析项（X定量）和因变量Y。两类变量都为必填。

2. 具体设置

（1）分析项（X定量）

● 最少放入1个，最多可放入400个变量，且为必填。

● 用于放入模型的输入特征，也就是参与分类判断或结果预测的定量变量。

（2）因变量Y

● 只能放入1个变量，且为必填。

● 用于放入模型要预测的目标变量。若Y为类别数据，通常对应分类任务；若Y为定量数据，通常对应回归任务。

四、参数设置及解释说明

1. 训练集比例

● 用于设置总样本中参与模型训练的数据比例，默认值为0.8。

● 训练集比例越高，模型可学习的信息通常越多；但测试集相应会减少。一般可以先使用默认设置。

2. 数据归一化

● 可选None、norm、mas、mms。

● None表示不处理；norm表示正态标准化；mas表示区间化；mms表示归一化。

● 如果各变量量纲差异较大，可考虑进行处理，以降低数值尺度差异带来的影响。

3. 保存预测值

● 勾选后会额外保存预测信息。

● 分类任务下通常会保存预测类别和各类别预测概率；回归任务下会保存预测值。

4. 保存训练测试标识

● 勾选后会生成训练集和测试集标识，其中训练集记为1，测试集记为2。

● 适合后续核对样本划分情况，也方便继续开展补充分析。

5. 交叉验证

● 默认不进行，也可以选择2折、3折、5折或10折。

● 交叉验证用于检验模型稳定性，折数越高，通常评估越稳，但计算时间也会更长。

6. 损失函数

● 可选deviance和exponential。

● deviance更常用于分类问题；exponential用于通过放大预测误差来衡量模型偏差。实际选择时，可结合任务类型和结果表现判断。

7. 学习器数量

● 用于设置模型中构建的学习器数量，默认值为100。

● 数量越多，模型通常越容易学习复杂关系，但训练时间也会增加。

8. 树最大深度

● 用于控制单棵树的复杂程度，默认值为3。

● 深度越大，模型对数据的拟合能力通常越强，但也更容易出现过拟合。

9. 节点分裂最小样本数

● 用于限定一个节点继续分裂前至少需要包含多少训练样本，默认值为2。

● 该值越大，树生长会越保守，有助于减少过度分枝。

10. 叶节点最小样本数

● 用于限定一个叶子节点中至少保留多少样本，默认值为1。

● 该值适当提高后，模型通常会更稳健，但可能降低对局部细节的拟合能力。

11. 模型收敛参数

● 用于控制模型何时停止继续构建，默认值为0.001。

● 当误差变化已经很小的时候，模型会结束训练。该值越严格，训练过程通常越细。

12. 学习率

● 用于控制模型每一步更新的步长，默认值为0.1。

● 数值越小，模型学习通常更平稳，但往往需要更多迭代；数值过大则可能影响稳定性。

13. 样本采样率

● 用于设置训练每个学习器时使用的样本比例，默认值为1.0。

● 适当降低该值有助于增强模型多样性，也可能帮助缓解过拟合。

14. 任务类型

● 可选自动判断、分类任务和回归任务，默认是自动判断。

● 如果因变量性质很明确，系统一般能自动识别；若需要固定运行方式，也可以手动指定。

五、分析结果表格及其解读

SPSSAU完成GBDT分析后，会根据任务类型和参数情况输出不同结果表，常见包括GBDT基本信息汇总、GBDT分类基本信息汇总、特征权重值、模型评估结果、训练集模型评估结果、交叉验证模型评估结果、测试集模型评估结果、模型汇总表和数据集情况。

1. 表1：GBDT基本信息汇总或GBDT分类基本信息汇总

这张表用于展示样本总体情况。分类任务下会呈现各类别的频数与占比；回归任务下会呈现有效、缺失和总计情况。

● 频数：表示每个类别或状态对应的样本数量。样本过少的类别，后续评估结果通常更不稳定。

● 百分比：表示对应样本在总体中的占比。若类别分布明显不均衡，模型可能更偏向样本量较大的类别。

● 有效样本：表示真正参与建模的数据量。有效样本越充分，模型结果通常越有参考价值。

● 缺失样本：表示未进入建模的数据量。若缺失占比较高，需要谨慎判断结果代表性。

2. 表2：特征权重值

该表格用于展示各分析项在模型中的相对重要程度，是识别关键变量的重要依据。

● 项：表示进入模型的特征名称。

● 权重值：表示对应变量对模型结果的相对贡献。通常数值越大，说明该变量越重要；数值越小，说明影响相对有限。该指标更适合做变量之间的相对比较。

3. 表3：模型评估结果或训练集模型评估结果

这部分表格用于判断模型在训练阶段的表现。回归任务下通常包含R方值、MAE、MSE、RMSE、MAD、MAPE、EVS、MSLE等指标；分类任务下通常包含精确率、召回率、f1-score和样本数。

● R方值：用于衡量模型对结果变化的解释能力，通常越接近1越好；若数值偏低，说明模型拟合能力有限。

● MAE：表示平均误差水平，越接近0越好，越小说明预测偏差越小。

● MSE：表示误差平方后的平均水平，越接近0越好，对较大的预测偏差更敏感。

● RMSE：表示整体误差水平，越小越好，便于直观看出预测偏差大小。

● MAD：表示中位数绝对误差，对异常值不那么敏感，越小越好。

● MAPE：表示平均百分误差，越小越好，适合观察相对误差水平。

● EVS：表示模型对数据波动的解释力度，通常越接近1越好。

● MSLE：表示对数误差水平，越小越好，通常作为辅助参考。

● 精确率：表示模型判定为某类时实际判对的比例，越高越好。

● 召回率：表示某类别真实样本被识别出来的比例，越高越好。

● f1-score：综合反映精确率与召回率的平衡情况，越高越好。

● 样本数：表示对应类别参与评估的样本量，样本量过少时，指标波动可能更大。

4. 表4：交叉验证模型评估结果或测试集模型评估结果

交叉验证模型评估结果仅在开启交叉验证时输出，用于观察模型在重复划分训练数据后的稳定表现；测试集模型评估结果用于判断模型在新样本上的实际效果。

● 如果交叉验证结果与训练集结果比较接近，通常说明模型稳定性较好。

● 如果测试集结果明显弱于训练集，通常说明模型泛化能力一般，后续可考虑继续调参或优化数据。

5. 表5：模型汇总表

该表格用于集中展示模型参数设置及模型评估效果，便于快速回顾本次分析方案和结果表现。

● 参数名：表示本次分析采用的参数项目。

● 参数值：表示对应参数的具体设定，作用是帮助复现实验过程。

● 模型评估效果：用于汇总关键效果指标。若准确率及综合平均指标较高，通常说明模型整体表现较好。

6. 表6：数据集情况

该表格用于展示训练集、测试集、预测集和缺失数据的数量与占比。

● 训练集：用于模型学习，比例过低时模型可能学得不充分。

● 测试集：用于检验模型实际效果，过少时评估稳定性可能不足。

● 预测集：表示仅用于生成预测结果的数据。

● 缺失数据：表示未能进入分析的数据量，若占比偏高，需要关注数据完整性问题。

六、分析结果图表及其解读

SPSSAU完成GBDT分析后，会输出特征权重图；分类任务下还会输出测试集结果混淆矩阵。

1. 图1：特征权重图

该图表本质上是条形图，用于直观展示各特征在模型中的相对重要性。

● 条形越长，通常说明该特征对模型结果影响越大。

● 如果少数变量明显高于其他变量，说明模型更依赖这些关键特征。

2. 图2：测试集结果混淆矩阵

该图表在分类任务下输出，用于查看真实类别与预测类别之间的对应关系，是判断分类效果的直观图形。

● 如果对角线位置数值更集中、更高，通常说明模型分类更准确。

● 如果非对角线位置数值较多，说明某些类别更容易被混淆。

以上就是SPSSAU GBDT的相关内容，更深入教程可查看SPSSAU帮助手册、教学视频、疑难解惑等资料。