
简介
该用户还未填写简介
擅长的技术栈
未填写擅长的技术栈
可提供的服务
暂无可提供的服务
李沐 + 李宏毅-- transformer原理和代码分析【笔记自用】
特征增强:对每个位置的向量进行深度非线性变换容量扩展:增加模型参数,提高表达能力分工明确:与自注意力机制形成互补(关系 vs 特征)维度保持:输入输出形状一致,支持残差连接通用逼近:两层网络可以逼近任何连续函数简单来说:PositionWiseFFN就像是给每个词向量单独配备的一个"微型大脑",让每个词都能被深度理解和加工!这就是为什么它在Transformer中如此重要,没有它,模型的表现力会大
李沐 -- 注意力评分函数代码分析
的形状是,这个形状的设计有深刻的数学和语义含义。每个查询应该关注所有键值对中的哪些部分python# 伪代码表示for i in range(batch_size): # 遍历每个样本for j in range(num_queries): # 遍历每个查询for k in range(num_kv_pairs): # 遍历每个键weight = 计算注意力(查询[j], 键[k])
到底了







