logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

音频频谱预训练模型介绍AST、SSAST、SSAMBA

Transformer是一种非常主流的基于自注意力机制的神经网络架构.摒弃卷积:ViT 是第一个完全摒弃卷积操作,纯粹基于 Transformer 架构在图像识别任务上达到顶尖水平的主流模型。全局感受野:与 CNN 的局部感受野不同,从第一层开始,ViT 的注意力机制就具备全局感受野。每个 patch 都能直接与任何其他 patch 进行交互,这使得它能非常高效地捕捉图像中长距离的依赖关系。可解释

文章图片
#音视频
到底了