本文目录wandb安装loss曲线记录1. step记录2. custom x-axis方法一(推荐)方法二Image记录1. 单张Image2. 多张Image方法一(推荐)方法二wandb是一个可视化库，他有visdom实时查看的优点以及能够永久的记录到云端wandb安装登陆https://wandb.ai注册一个wandb账号，然后运行下面命令安装wandb。使用时在终端输入wandb lo

写在前面：在PyTorch中有两种上采样/下采样的方法，一种是Upsample，另一种是interpolate这两个函数的使用方法略有差异，这里仅介绍UpsampleUpsampletorch.nn.Upsample(size=None, scale_factor=None, mode='nearest', align_corners=None)size - output spatial size

大气散射模型在雾天拍照时，探测器接收到的光源会被雾干扰，此时的收集到的光源主要来自两部分目标反射光经过粒子衰减到达探测系统的光光源经过粒子散射形成的大气光数学模型I(x,λ)=e−β(λ)d(x)R(x,λ)+L0(1−e−β(λ)d(x))=D(x,λ)+A(x,λ)I(x, \lambda) = e^{-\beta(\lambda)d(x)}R(x, \lambda) + L_{0}(1-e^

这是网络的原因，目前没有直接的解决方法，但是有间接的解决方法GitHub讨论：wandb官网解决方案：wandbGitHub上貌似没有很好的解决方法，官网给出了两个解决方案。进入上述链接，然后搜索以下关键字How do I deal with network issues?1. SSL certificate解决SSL certificate，我没有管理员权限，无法更改，而且更改完之后可能依然会报

torch.nn.AdaptiveAvgPool2dtorch.nn.AdaptiveAvgPool2d(output_size)output_size：可以为tuple类型(H, W)，也可以为一个数字H表示(H, H)，H,W可以为int或者None类型，如果是None默认与输入相同大小二维平均自适应池化，只需要给出输出的参数就可以自动寻找相应的kernal size以及strideAppli

PyTorch并行计算一、为什么要并行计算？二、基本概念三、DistributedDataParallel的使用1. multiprocessing2. distributed二者区别一些BUG和问题nn.parallel.DistributedDataParallel这部分是nn.DataParallel的后续，想看nn.DataParallel的点击这里为什么要用nn.parallel.Dis

本篇博客主要讲解BatchNorm函数的执行过程，需要读者有一定的批归一化的基础，本文例子通俗易懂，如果没有基础也可以阅读在PyTorch中BatchNorm有三个函数，这里主要讲解前两个，后面的就很容易理解，首先要明白批归一化是做什么的：BatchNorm在深度网络中用来加速神经网络的训练，能够加速收敛并且可以使用较大的学习率，同时归一化还有一定的正则作用一、torch.nn.BatchNorm

LayerNorm在transformer中一般采用LayerNorm，LayerNorm也是归一化的一种方法，与BatchNorm不同的是它是对每单个batch进行的归一化，而batchnorm是对所有batch一起进行归一化的y=x−E(x)Var(x)+ϵ∗γ+βy = \frac{x-E(x)}{\sqrt{Var(x)+\epsilon}}*\gamma+\betay=Var(x)+ϵ​

之前介绍过visdom模块，visdom模块不能将网络结构可视化，而tensorboard模块可以，因此这里学习了tensorboard模块，这里是在pytorch上使用tensorboard的帮助文档，本文依据文档进行改编，官方github地址：https://github.com/lanpa/tensorboardXtensorboard可视化一共分为四步tensorboard安装创建writ

这是网络的原因，目前没有直接的解决方法，但是有间接的解决方法GitHub讨论：wandb官网解决方案：wandbGitHub上貌似没有很好的解决方法，官网给出了两个解决方案。进入上述链接，然后搜索以下关键字How do I deal with network issues?1. SSL certificate解决SSL certificate，我没有管理员权限，无法更改，而且更改完之后可能依然会报