举一个极端的例子，假如数据流中的每个数据完全相同，这会是一个非常无聊的数据流。例如，在分类器输出0.5的所有样本中，我们希望这些样本是刚好有一半实际上属于预测的类别。在我们的例子中，由于我们有4个特征和3个可能的输出类别，我们将需要12个标量来表示权重（带下标的。然而，顾名思义，全连接层是“完全”连接的，可能有很多可学习的参数。在我们的例子中，标签。为了估计所有可能类别的条件概率，我们需要一个有多

我们举一个实际的例子：我们希望根据房屋的面积（平方英尺）和房龄（年）来估算房屋价格（美元）。需要注意的是，该图只显示连接模式，即只显示每个输入如何连接到输出，隐去了权重和偏置的值。在训练我们的模型时，我们经常希望能够同时处理整个小批量的样本。当然，许多这样的单元可以通过正确连接和正确的学习算法拼凑在一起，从而产生的行为会比单独一个神经元所产生的行为更有趣、更复杂，这种想法归功于我们对真实生物神经系

例如，当在带有GPU的服务器上训练神经网络时，我们通常希望模型的参数在GPU上。需要注意的是，无论何时我们要对多个项进行操作，它们都必须在同一个设备上。例如，如果我们对两个张量求和，我们需要确保两个张量都位于同一个设备上，否则框架将不知道在哪里存储结果，甚至不知道在哪里执行计算。最后，当我们打印张量或将张量转换为NumPy格式时，如果数据不在内存中，框架会首先将其复制到内存中，这会导致额外的传输开

首先需要说明的是，大模型的训练过程需要耗费大量的计算资源（比如投入上亿元构建计算机集群去训练大模型），训练成本比较昂贵，个人是无法承担的。但是，训练得到的大模型，部署到计算机上，就不需要那么高的计算资源要求。但是，即使如此，在DeepSeek出现之前，很多市场上的大模型产品都是“贵族”模型，“段位”很高，通常需要依赖高端的硬件，配置大量的GPU，普通个人计算机一般很难运行大模型。

我们举一个实际的例子：我们希望根据房屋的面积（平方英尺）和房龄（年）来估算房屋价格（美元）。需要注意的是，该图只显示连接模式，即只显示每个输入如何连接到输出，隐去了权重和偏置的值。在训练我们的模型时，我们经常希望能够同时处理整个小批量的样本。当然，许多这样的单元可以通过正确连接和正确的学习算法拼凑在一起，从而产生的行为会比单独一个神经元所产生的行为更有趣、更复杂，这种想法归功于我们对真实生物神经系

首先需要说明的是，大模型的训练过程需要耗费大量的计算资源（比如投入上亿元构建计算机集群去训练大模型），训练成本比较昂贵，个人是无法承担的。但是，训练得到的大模型，部署到计算机上，就不需要那么高的计算资源要求。但是，即使如此，在DeepSeek出现之前，很多市场上的大模型产品都是“贵族”模型，“段位”很高，通常需要依赖高端的硬件，配置大量的GPU，普通个人计算机一般很难运行大模型。