平方误差（Squared Error）和对数损失（Log Loss，又称交叉熵损失）是机器学习中两种最常用的损失函数，它们的核心作用是量化 “模型预测值” 与 “真实值” 之间的差距，但适用场景和计算逻辑有显著差异。2、回归任务不用对数损失：回归的目标是连续数值（如 100、200），无法用 “概率分布” 表示，对数损失的公式（基于 log 函数）也不适用于非概率的输出。（2）学习率太大（如 η=

随机森林则像“100个不同背景的影评人”：有人关注演员，有人关注剧情，有人关注评分——每个人（每棵树）独立给出判断，最后通过“投票”（分类任务）或“平均”（回归任务）得到最终结果。通过这两种随机性，让每棵树的“视角”略有不同（避免“抱团犯错”），最后结合所有树的意见，得到更稳健的结果。1.减小min_samples_split（如从5→2）或min_samples_leaf（如从5→1）：允许树更

LightGBM（Light Gradient Boosting Machine）是XGBoost的“优化升级版”，核心思想同样是“集成弱模型（决策树）形成强模型”，但通过两大关键优化实现了“更快的训练速度”和“更低的内存占用”。遍历区间：LightGBM会先把连续特征分成“若干区间（直方图）”（比如年龄分[18-25,26-35,36-45]），只需遍历区间就能找分裂点——相当于“把1000个零

例：用 “边缘检测卷积核” 滑动图片，所有边缘区域会输出高值，非边缘区域输出低值，最终得到一张 “边缘特征图”。训练中，模型会根据 “预测误差” 调整卷积核的数值，直到每个卷积核能 “精准捕捉一种特征”—— 比如有的卷积核变成 “边缘检测核”，有的变成 “颜色过滤核”，有的变成 “纹理提取核”。经过多轮 “卷积 + 池化” 后，模型得到了 “高维特征图”（比如 “猫的耳朵特征图”“眼睛特征图”），