如果你熟悉 NumPy 的多维数组（ndarray）中的广播语义，你会发现同样的规则也适用于此处。同形状规则的一个例外是张量广播。# 输出这里有什么诀窍？我们是如何可以将2x4张量乘以1x4张量？广播是一种在形状上具有相似性的张量之间执行运算的方式。在上述示例中，那个一行四列的张量与那个两行四列张量的两行都进行了乘法运算。这在深度学习中是一项重要的运算。

本节内容：来自Pytorch官网-Docs - Autograd mechanics本节将概述自动微分(autograd)的工作原理和记录操作。理解这一切并不是绝对必要的，但建议熟悉它，因为它将帮助您编写更高效、更干净的程序，还可以在调试程序时帮你理解程序。自动微分（Autograd）是一种反向自动微分系统。简单来说，当你进行各种运算时，自动求导会记录下所有产生数据的运算过程，为您提供一个有向无环

在训练神经网络时，最常用的算法是反向传播。在该算法中，参数（模型权重）根据损失函数的梯度相对于给定参数进行调整。为了计算这些梯度，PyTorch有一个内置的微分引擎，名为torch.autograd。它支持为任何计算图自动计算梯度。考虑最简单的一层神经网络，具有输入x、参数w和b以及一些损失函数。

我们通过继承 PyTorch 的nn.Module类来定义自己的神经网络。在__init__这个特殊方法中，我们会初始化网络中需要用到的各个神经层（比如全连接层、卷积层等）。每个继承自·nn.Module·的子类都必须在·forward·方法中定义如何对输入数据进行处理（即实现前向传播逻辑）。nn.ReLU(),nn.ReLU(),# 我们创建一个NeuralNetwork的实例，并将其移动到de

简单循环神经网络容易出现梯度消失和梯度爆炸问题。基于长短期记忆网络（LSTM）和门控循环单元（GRU）的门控循环网络能够缓解梯度消失/爆炸问题。门控循环单元（GRU）和长短期记忆网络（LSTM）被广泛应用，而简单循环神经网络（RNN）由于梯度消失/爆炸问题，使用频率较低。

在PyTorch存储库中，我们将加速器定义为与CPU一起使用以加快计算速度的设备（torch.device）。默认情况下，张量是在CPU上创建的。add_:加，copy_:复制，t_:转置.sub_:减法，mul_:乘法，div_:除法，zero_:变0，fill_:所有元素变为指定元素。在Torch中，我们使用张量来编码模型的输入和输出，以及模型的参数。CPU上的NumPy数组与张量可以共享它们

PyTorch的自动求导（Autograd）特性是使PyTorch在构建机器学习项目时具备灵活性和高效性的部分原因。它能够在复杂的计算过程中快速且轻松地计算多个偏导数（也称为梯度）。这一操作对于基于反向传播的神经网络学习来说至关重要。自动求导（Autograd）的强大之处在于，它能在运行时动态地跟踪你的计算过程。这意味着，如果你的模型中存在决策分支，或者存在直到运行时才能确定长度的循环，计算过程仍

强化学习是一种基于学习的最优控制方式，它在以最大化奖励为驱动的情况下，从状态中获取行动（策略）。我们可以从反馈控制的角度来理解强化学习，其中策略相当于控制律，环境类似于被控对象强化学习部分组成元素：包含智能体（Agent）、环境动态（Environment Dynamics）。智能体中有策略（Policy,π\piπ）和强化学习算法（Reinforcement learning algorithm

所有TorchVision数据集都有两个参数——transform来修改特征，target_transform来修改标签——接受包含转换逻辑的可调用项。FashionMNIST 数据集的特征采用的是 PythonImaging Library（PIL）图像格式，而标签是整数。很多时候，数据并不总是以训练机器学习算法所需的最终处理形式出现。所以我们需要使用变换对数据进行一些处理，使其适合训练。对于训

在人工智能技术爆发的今天，PyTorch 凭借其动态计算图的灵活性和高效的 GPU 加速能力，已成为深度学习领域最受欢迎的框架之一。好吧，其实我写这个的原因是：很多有关人工智能的工作岗位都需要应聘者熟悉Tensorflow/scikit-learn/xgboost/Caffe/MindSpore/pytorch等主流深度学习框架，或者至少其中之一。那么torch自然就是一个很好的选择。