logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

pytorch框架实现图像分类任务pipeline总结(以猫狗二分类为例)

pipeline:1.数据准备以及处理2.模型准备(resnet50)3.训练、推理脚本(attention:本文实现的代码可能会和其他文章的代码有不太一样的地方,但是只要把整个逻辑梳理清楚,用什么样的数据结构使用代码就看个人习惯了)

文章图片
#pytorch#人工智能#python
前馈神经网络(FeedForward Neural Network)

因为我们知道误差项反向传播的时候每一层都会乘以该层激活函数的导数,如果激活函数是Logistic函数,它的导函数的值域是[0,0.25],误差项经过每一层都会衰减,当网络层数很深的时候,梯度就会不停地衰减,甚至消失,从而使得整个网络训练起来很困难。2.激活函数和它的导函数尽可能的简单,有利于网络计算的效率。我们称损失函数对某一层神经元的偏导数为误差项,反映了最终损失对第l层神经元的敏感程度,BP算

文章图片
#神经网络#人工智能#深度学习
手撕Vision Transformer的过程及感悟

本人按照他的代码及思路一点一点搭建ViT模型,本篇博文就来认真解读一下该大神搭建ViT模型的代码风格和代码架构,看一看他是如何用400多行的代码(其实仅200多行)实现ViT的。在他的代码中,我也是学到了很多实战技巧和代码框架技巧,不过还有一些没有看得特别懂,不过整个架构是看明白了,在此和各位分享。

文章图片
#transformer#深度学习#人工智能
对于深度学习模型训练和模型验证的总结

当把训练集的数据全走一遍之后,一轮训练就结束了,我们可以使用测试集来看一看效果,步骤就是让测试集的imgs跑一遍推理,最后得到一个得分矩阵output,然后使用output.argmax(1)(这个函数的作用是取第一维的最大值索引,也就是每一行的最大值的索引)和targets中的数值比较,统计相同的个数(也就是分类正确的个数)。在我们最后一轮训练过后,我们需要保存我们的模型,使用torch.sav

文章图片
#深度学习#人工智能#神经网络
到底了