logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

Transformer-大模型开发中的必备知识 - 第一章(原有神经网络RNN/LSTM的痛点是什么?)

这个看不了可以在bilibili上搜 讲的非常非常好 全网讲解transformer最好的 可以听完这个课再来看这篇文章如果我的理解有问题的话 也欢迎大家在评论区指出更正!

文章图片
#神经网络#rnn#transformer
Transformer-大模型开发中的必备知识 - 第二章(自注意力机制)

很好,在上一章,我们用很通俗的例子和伪代码来分析了原有神经网络在处理序列问题的痛点那么答案来了 就是transformer那我们可以用一句话来概括transformer的核心思想用注意力机制(Attention)完全替代循环结构(RNN/LSTM),从而实现序列的并行建模与全局依赖建模。

文章图片
#transformer#深度学习#人工智能
Transformer-大模型开发中的必备知识 - 第二章(自注意力机制)

很好,在上一章,我们用很通俗的例子和伪代码来分析了原有神经网络在处理序列问题的痛点那么答案来了 就是transformer那我们可以用一句话来概括transformer的核心思想用注意力机制(Attention)完全替代循环结构(RNN/LSTM),从而实现序列的并行建模与全局依赖建模。

文章图片
#transformer#深度学习#人工智能
Transformer-大模型开发中的必备知识 - 第一章(原有神经网络RNN/LSTM的痛点是什么?)

这个看不了可以在bilibili上搜 讲的非常非常好 全网讲解transformer最好的 可以听完这个课再来看这篇文章如果我的理解有问题的话 也欢迎大家在评论区指出更正!

文章图片
#神经网络#rnn#transformer
Transformer-大模型开发中的必备知识 - 第一章(原有神经网络RNN/LSTM的痛点是什么?)

这个看不了可以在bilibili上搜 讲的非常非常好 全网讲解transformer最好的 可以听完这个课再来看这篇文章如果我的理解有问题的话 也欢迎大家在评论区指出更正!

#神经网络#rnn#transformer
到底了