logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

学习 VLA 第 4 天:Transformer 原理与复现实战

今天从零复现了 Transformer 编码器,包括多头注意力、前馈网络、位置编码和残差连接等核心组件。通过动手实现,对自注意力机制有了更直观的理解。理解了自注意力的计算流程和缩放点积注意力的原理。掌握了多头注意力的拆分与拼接逻辑。能够独立实现一个可运行的 Transformer 编码器。明白了 Transformer 在 VLA 中承担跨模态融合和动作解码的关键角色。

文章图片
#学习#transformer#深度学习
到底了