logo
publist
写文章

简介

该用户还未填写简介

擅长的技术栈

可提供的服务

暂无可提供的服务

关于transformer的具体实现步骤

这里需要解释的是,一个括号内的两个变量相乘表示的是该维度的长度,因此不要把"h"和"w"理解成图像的宽和高。在代码实现上需要使用einops这个库,完成的操作是将(B,C,H,W)的shape调整为(B,(H/P *W/P),P*P*C)。后面的"b (h w) (p1 p2 c)"表示了图像分块后的shape: (B,(H/P *W/P),P*P*C)到了CV领域里面,图像是2维的,为此,我们需

#transformer#深度学习#人工智能
注意力图可视化代码

https://github.com/szagoruyko/attention-transfer/blob/master/visualize-attention.ipynbfrom PIL import Imageimport requestsimport numpy as npfrom io import BytesIOimport torchfrom torch import nnfrom t

#python#机器学习#深度学习
深度学习模型参数量/计算量和推理速度计算

自己按照自己的模型内容编写推理速度。

使用Google-Colab训练PyTorch神经网络

https://www.cnblogs.com/jiaxin359/p/10234946.html(安装)https://blog.csdn.net/tan123456987321/article/details/104777049/(在此虚拟上运行GitHub代码)

#python
swim transformer之PatchMering实现方法

PatchMering的作用:其实就是下采样的作用。这里面用到花式python切片。

#深度学习#人工智能#pytorch
关于建立Lite-HRNet实验环境的问题

2.关于建立mmcv问题,我按照它的第一个方法建立不起来,所以我采用的是先下载mmcv这个包,然后按照需求建立的版本:pip install mmcv=1.5.3。艾玛鼓秋了一天,各种转换都没过去mmcv,我发现第一种指定cuda版本那个方法怎么都过不去,爱最后还是下载包,然后安装,最后成功了,在此记录一下悲惨且激动的过程。3.关于建立需求有一个optinal.txt,怎么都过不去,就先下载这个包

#深度学习#python#pytorch
pytorch之dataloader,enumerate

from torch.utils.data import TensorDatasetimport torchfrom torch.utils.data import DataLoadera = torch.tensor([[1, 2, 3], [4, 5, 6], [7, 8, 9], [1, 2, 3], [4, 5, 6], [7, 8, 9], [1, 2, 3], [4, 5, 6], [

#python#pytorch
使用stat时出现“‘DataFrame‘ object has no attribute ‘append‘”的解决办法

经过分析发现问题是出在显示阶段,应该是在打印报告的时候出错,所以定位到reporter.py程序里面。我的程序地址路径如下,在Anaconda安装目录下的虚拟环境里面。我的虚拟环境是py3.10_cuda11.3。路径:"D:\Anaconda3\envs\py3.10_cuda11.3\lib\site-packages\torchstat\reporter.py。在深度学习模型使用中,再查看模

文章图片
#python
pytorch torch.chunk(tensor, chunks, dim)

2. torch.chunk(tensor, chunks, dim)说明:在给定的维度上讲张量进行分块。参数:tensor(Tensor) -- 待分块的输入张量chunks(int) -- 分块的个数dim(int) -- 维度,沿着此维度进行分块>>> x = torch.randn(3, 3)>>> xtensor([[ 1.0103,2.3358, -

    共 45 条
  • 1
  • 2
  • 3
  • 4
  • 5
  • 请选择