数据预处理是机器学习流程中至关重要的一步，直接影响模型性能。，包括处理缺失值、异常值、标准化特征、编码类别变量等。

回归任务无异常值：优先 MSE（优化稳定）。有异常值：MAE 或 Smooth L1（稳健性）。分类任务二分类 / 多标签：BCE。单标签多分类：Categorical Cross-Entropy（独热标签）或 Sparse 版本（整数标签）。类别不平衡：Focal Loss。特殊任务相似度学习：Triplet Loss。生成任务：对抗损失。分割 / 小目标：Dice Loss。关键原则。

datasets是一个广泛使用的库，尤其在机器学习和自然语言处理领域，用于方便地加载和处理各种数据集。它提供了标准化的接口，使得数据集的访问、处理和分割变得更加简单。2.主要特点丰富的数据集库：提供了数百个公开数据集，涵盖不同领域，如文本、图像、音频等。简化数据加载：只需几行代码即可加载数据集，支持多种格式（如 CSV、JSON、文本文件等）。高效的数据处理：提供数据预处理功能，如分词、编码、数据

在机器学习领域，朴素贝叶斯算法以其简单高效、易于实现的特点占据着重要地位。无论是文本分类、垃圾邮件过滤还是情感分析，朴素贝叶斯都展现出了强大的实用价值。本文将带您深入了解朴素贝叶斯算法的核心原理、常见模型、实现过程以及实际应用场景。

本次基于自定义 ResNet 的 MNIST 手写数字识别实践，以 “简化、适配、高效” 为核心，既验证了残差网络在简单任务中的有效性，也为初学者提供了 “从模型设计到训练落地” 的完整实战路径。实践表明：残差网络的价值不仅在于 “深层”，更在于 “通过跳跃连接解决训练难题”；针对任务特点的轻量化设计，往往比直接套用复杂预训练模型更具性价比。后续可基于此框架，扩展至更复杂的图像分类任务（如 Fas

深度学习（Deep Learning, DL）是机器学习（Machine Learning, ML）的一个重要分支，核心是通过模拟人类大脑神经元的连接方式，构建多层神经网络来自动学习数据中的特征和规律，最终实现预测、分类、生成等任务。它摆脱了传统机器学习对 “人工设计特征” 的依赖，能直接从原始数据（如图像、文本、音频）中挖掘深层信息，是当前人工智能（AI）技术爆发的核心驱动力。

当网络深度增加到一定程度后，模型在训练集上的误差会随着深度增加而上升（而非下降），同时测试集误差也随之上升 —— 这并非过拟合（过拟合是训练集误差下降、测试集误差上升），而是模型 “能力退化”，无法有效利用深层结构提取特征。例如，在 ImageNet 数据集上，传统 56 层网络的训练误差（约 10%）反而高于 20 层网络（约 8%），说明深层网络不仅没有带来性能提升，反而出现了 “越学越差”

网格搜索是一种穷举式的超参数优化方法。它将每个超参数的可能取值视为一个维度，所有维度的组合构成一个 “参数网格”，然后在这个网格中逐个尝试所有可能的参数组合，通过交叉验证（Cross Validation）评估每个组合的性能，最终选择性能最优的参数组合。

熵定义为信息的期望值，如果待分类的事物可能划分在多个类之中，则符号的信息定义为：其中，是选择该分类的概率。为了计算熵，我们需要计算所有类别所有可能值所包含的信息期望值，通过下式得到：其中，n为分类数目，熵越大，随机变量的不确定性就越大。验证（熵越大，随机变量的不确定性就越大）：当随机变量只取两个值，例如1,0时，即X的分布为熵为这时，熵随着概率p变化的曲线如下图所示：当p=0或p=1时，随机变量完

本文介绍的 6 种缺失值填充方法覆盖了从简单到复杂的场景，核心是根据数据特点选择合适的方法，并严格区分训练集和测试集的填充规则（避免数据泄露）。代码可直接复用在矿物分类、地质勘探等相关任务中，也可稍作修改适配其他领域数据。