在之前的深度学习内容中，我们已经介绍了注意力机制的核心流程，其本质可以概括为：在解码的每一个时间步增加注意力计算得到上下文向量，让模型可以根据当前状态，从输入序列中动态选择相关信息。

实际上，你会发现：在这个传播过程中，传统的注意力机制只是一个插件。
在这个机器翻译的例子里，模型的主干仍然是 RNN，如果在解码的每一步去除了注意力计算，那么整个模型就是一个常见的不等长循环神经网络。

而注意力计算的实质，其实是对解码器每一步的隐藏状态到该步输出间的一次“再加工”。
它是对解码器当前隐藏状态的一次信息增强，使得模型在生成输出时能够参考输入序列中的关键部分。
总结来说就是：

注意力机制并没有改变模型“如何建模序列”，而只是让结果“更准确”。

于是一个想法产生了：

既然这种“信息增强”在本质上是有益的，为什么我们要把它限制在解码阶段？

这就是自注意力机制的出发点，它让注意力机制彻底摆脱了“优化插件”的地位，不再依附于 RNN 或其他结构存在，而是被抽象为一种独立的计算层，与全连接层、卷积层处于同一层级，最终成为 Transformer 乃至整个现代深度学习领域的核心内容。

1.自注意力机制的背景#

不必过多赘述，自注意力机制出自大名鼎鼎的论文：Attention Is All You Need
这篇 17 年的论文目前的引用量已超过十万级别，并持续快速增长，其影响力不仅局限于 NLP 领域，更扩展到计算机视觉、多模态学习等多个方向，是近年来深度学习领域最具里程碑意义的工作之一。
在当前大模型的发展中，Transformer 已经成为事实上的核心架构，而自注意力就是它的核心计算单元。

如果把自注意力机制理解为一句话，它做的事情其实非常简单：

对于序列中的每一个位置，都去“看一遍”整个序列，然后根据相关性重新生成自己的表示。

我们知道：在传统序列建模中，每个位置的隐藏状态  仅依赖于当前输入  和前一时刻的状态 。

但在自注意力中：

每一个位置的表示，不再依赖于时间递推，而是由整个序列共同决定。

因此，在之后的相关内容中，就不会在出现由时间步递推而产生的“隐藏状态”这个词，而是回到了“层级间的输入和输出”这个范畴。

下面就来展开其详细过程：

2. 自注意力机制的运算过程#

2.1 自注意力层的输入#

首先，给定一个长度为  的序列信息，经过嵌入层得到输入：

现在，  就表示第  个位置的输入特征向量，假定每个向量的维度为  。
我们先用单个位置的向量，来说明自注意力机制的运算过程。

2.2 Query、Key 和 Value#

每个输入向量 进入自注意层的第一件事，是做三次线性变换，得到三种不同语义的表示：

1. Query（查询）：

1. Key（键）：

1. Value（值）：

这里的  都是可学习参数矩阵，它们的矩阵维度为：

其中， 和  的维度必须相同所以只使用一个参数，  和  是超参数，但我们一般也要求二者相同，具体原因我们下面就会讲到。
 

总之，这一步，是我们定义了三种变换并为其赋予了语义，具体语义是由我们后续的操作实现的，我们可以先简单了解如下：

• ：当前位置“想找什么”。
• ：当前位置“能提供什么特征”。
• ：当前位置“真正携带的信息”。

2.3 相关性计算#

完成变换后，现在，对于某个固定位置 ，它会和所有位置  计算相关性：

注意：相关性的计算包括  位置自己！
这里，就可以开始理解我们为三种向量赋予的语义：
我们简单代入一个例子，假设：

食物，空气，水

厨房，自然，湖泊

二者的点积结果就会较大，因为  位置需要的信息和  位置提供的信息比较匹配，再换一种情况：

厕所，太空，沙漠

显然，这种情况下  位置的需求和  位置的供给就不匹配，点积结果就会较小。

再次强调神经网络内部的不可知性，我们只是举例说明，一轮轮反向传播后，三种变换参数矩阵不断学习，会让变换结果的运算形成类型例子这样的效果。

从这个公式也可以看出来， 和  必须相等来满足点积运算要求。

而使用  进行缩放，则是让梯度更稳定，防止之后的 softmax 饱和。
 

这一步的逻辑就和常规注意力机制中相关度度量比较相似了，我们以此来了解所有位置的信息和当前位置信息的相关性。

2.4 softmax 归一化#

继续，这步的逻辑也不陌生，对每个 ，我们在所有  上做 softmax：

现在，我们得到就是  位置对于每个位置的注意力权重，结果  就表示位置  从位置  获取信息的比例。

2.5 加权求和得到输出#

最终，我们使用之前一直没用到的  和上一步计算得到注意力权重进行加强求和。

在这里，我们才赋予  语义，它代表真正携带的信息，用于计算最终的输出，这种效果也是不断地监督学习得到的。

每个位置  用自己的权重分布从所有  中“提取信息”，最终得到新的表示。
同样地，所有  中也包括当前位置本身的  。
 

在这一步，你会发现， 并不是必须的，前者决定判断相似度的维度，而后者决定信息表示的维度。
而通常为了结构统一与实现简洁，我们会让二者相等。

2.5 矩阵形式#

我们已经从单个位置  的角度理解了自注意力的计算过程。现在就来看看在实际计算中矩阵并行运算过程吧：
我们先将所有位置的向量堆叠起来：

同理，可以得到：

显然，在这里  的第  行就是、 的第  行就是、 的第  行就是 。

继续下一步：计算相关性矩阵：

加入缩放后就是：

对每一行做 softmax：

最终进行加权求和：

其中第  行就是 。

现在，大的要来了：将所有步骤合并，自注意力可以写成一个紧凑的形式：

这就是 Transformer 中最核心的一行公式。

最终，通过自注意力， 我们将原始输入增强成了一个融合了全局上下文的表示。
这就是自注意力的完整运算过程。

3. 自注意力机制的核心优势#

与传统方法相比，自注意力有一个核心优势：模型可以直接建模任意长距离依赖关系。
在传统序列模型（比如 RNN）中，信息是这样传播的：

路径长度是  ，不仅路径长，而且信息需要经过多次非线性变换，容易发生梯度消失或信息衰减。

而在单层自注意力中：

位置  和任意位置  之间，是“一步直达”的。  可以直接从  获取信息，不需要经过任何中间节点，信息路径长度是 1 ，这就可以实现更长距离的依赖。
此外，自注意力机制可以在所有位置上并行计算，而 RNN 必须按时间步顺序递归计算，这使得训练效率大幅提升。

总结来说，自注意力机制用一次全局加权重建表示，把“序列依赖”从递归建模转变为全局直接建模，从而在提升表达能力的同时获得更短的信息传播路径与更高的计算效率。

这就是单层自注意力的逻辑，在下一篇，我们就以此为基础，展开多头自注意力的内容。

作者：哥布林学者

出处：深度学习进阶（一）从注意力到自注意力 - 哥布林学者 - 博客园

版权：本作品采用「署名-非商业性使用-相同方式共享 4.0 国际」许可协议进行许可。

给自己一些时间。

合集: 深度学习进阶

 分类: 深度学习进阶

标签: AI, 机器学习

免责声明：本内容来自平台创作者，博客园系信息发布平台，仅提供信息存储空间服务。

 1

 0

关注

« 上一篇： 高光谱成像基础（完）光谱融合（Spectral Fusion）
» 下一篇： 深度学习进阶（二）多头自注意力机制（Multi-Head Attention）

posted @ 2026-03-31 12:45  哥布林学者  阅读(1048)  评论(1)    收藏  举报

登录后才能查看或发表评论，立即 登录 或者 逛逛 博客园首页

【推荐】 凌霞 618 年中大促，Halo 与 1Panel 产品全线半价，叠加满减！
【推荐】HarmonyOS 6.1.0 创新特性“悬浮页签+沉浸光感”精品文章专题
【推荐】科研领域的连接者艾思科蓝，一站式科研学术服务数字化平台

博客园  ©  2004-2026
​编辑浙公网安备 33010602011771号 浙ICP备20