在很多真实场景中，我们虽然收集到了大量数据，却不知道这些数据各自对应什么类别，也没有人为标注好的结果可供训练。此时，机器无法像监督学习那样直接从“输入—答案”对中学习，而只能从数据本身出发，去发现其中隐藏的结构、分布特点或相似关系。因此，学习无监督学习，本质上是在理解：当没有标准答案时，机器还能如何从数据中提取信息。因此，学习无监督学习的意义，不只是多掌握几种算法，更重要的是帮助我们建立一种新的数

它关注的不是单个样本上的静态预测，而是智能体如何在连续决策过程中，通过试错（Trial and Error）不断优化行为策略，以获得尽可能大的长期收益。因此，学习强化学习，本质上是在理解：当机器必须“边行动边学习”时，它是如何形成决策能力的。强化学习的核心，不是“直接预测标签”，也不是“自动发现数据分组”，而是让智能体在环境中通过行动和反馈学习一种更优行为方式。因此，策略是强化学习中最中心的概念之

对初学者而言，可以把 ReLU 理解为：神经元的一个简单开关，正信号通过，负信号关闭。例如，在图像识别中，低层神经元可能检测边缘，中层神经元可能检测纹理，高层神经元可能检测物体部件。如果某个神经元在训练过程中长期落在负区间，它的输出一直为 0，梯度也为 0，那么它的参数可能很难继续更新。例如，Sigmoid 函数在 z 很大时接近 1，在 z 很小时接近 0，此时曲线几乎变平，梯度很小。虽然在 z

如果说输入特征提供了“原始信息”，那么权重决定“每个信息有多重要”，偏置决定“整体判断从哪里开始”。因此，权重与偏置常用于线性回归、逻辑回归、感知器、人工神经元、多层神经网络和深度学习训练，是理解模型参数的核心入口。权重的作用就是让模型学会：哪些特征更重要，哪些特征不重要，哪些特征会正向影响结果，哪些特征会负向影响结果。从通俗角度看：权重决定每个输入特征对结果的影响大小，偏置决定模型整体输出的起点

本文将把这一思想放入更完整的前馈神经网络框架中，重点讨论神经网络如何完成前向传播、如何计算损失、如何通过反向传播更新参数，以及如何用 PyTorch 实现一个完整训练流程。它的核心特点是：信息只沿一个方向逐层传播，从输入层进入，经过一个或多个隐藏层，最后到达输出层，网络中没有循环反馈连接。在神经网络中，后一层的输入依赖前一层的输出，最终损失又依赖最后一层输出。因为 PyTorch 中梯度默认会累积

输入数据、模型参数、中间激活值、损失值和梯度，通常都以张量形式存在。简单地说，torch 模块回答的是：数据在 PyTorch 中如何表示、如何计算、如何移动到 GPU 上，以及如何作为模型的输入、输出和参数参与训练。例如，一个张量形状是 (100, 4)，另一个张量形状是 (4,)，它们相加通常是合理的，因为 (4,) 可以看作对每个样本的 4 个特征分别加偏置。例如，图像张量从 (N, H,

它以多层神经网络为核心，通过大量数据训练，使模型能够自动学习数据中的特征表示，并完成识别、预测、理解、生成和决策等任务。因此，理解深度学习的主要任务，不只是记住若干任务名称，更重要的是理解：深度学习如何围绕数据表示、模式识别、内容生成、多模态理解和行为决策，构建完整的智能系统。它主要处理图像、语音、视频等感知数据，使模型能够识别其中的对象、内容、位置、结构和变化。例如，在手写数字识别任务中，模型输

换句话说，归一化层是在回答：模型训练过程中，如何让每一层接收到的特征分布更加稳定，从而使训练更容易、更平稳。例如，一个隐藏层输出的特征有的范围在 0 到 1 之间，有的范围在 -100 到 100 之间，那么后一层在接收这些特征时，不同维度的影响尺度会很不一致，模型训练可能变得困难。如果前一层输出的数值分布变化很大，后一层就需要不断适应这种变化，训练可能变得不稳定。从通俗角度看，归一化层不是简单地

在 PyTorch 中，二维卷积层的输入通常具有形状 N、C、H、W，分别表示批量大小、通道数、高度和宽度；它通过局部连接、权重共享、特征图、池化等机制，使模型能够更有效地从图像中提取空间特征，并逐层形成从低级视觉特征到高级语义特征的表示。（MLP）直接把输入展开为一维向量不同，卷积神经网络会尽量保留图像中的局部邻域关系，通过卷积核在图像上滑动，自动学习边缘、纹理、形状等层级特征。例如，对于手写数

由于这里的数据集非常小，模型只是演示 RNN 的基本流程，不能代表真实中文情感分析系统的效果。在较长序列中，早期信息需要经过很多时间步才能影响后面的输出。不同，RNN 不只是把输入从前向后逐层传递，而是在处理序列时引入“隐藏状态”，让模型能够把前面时间步的信息传递到后面时间步。为了解决普通 RNN 难以建模长距离依赖的问题，研究者提出了更复杂的循环结构，其中最经典的是 LSTM 和 GRU。循环神