卷积神经网络中的填充(padding)和步幅(stride)之前写过一篇blog，描述CNN网络层的输入和输入尺寸的计算关系，但是并没有描述的很全面，这里全面描述了影响输出尺寸的两个超参数padding和stride，查阅了相关资料，编码理解了pytorch中CNN网络的输入输出关系。对于CNN网络，一般来说，假设输入形状是nh×nwn_h\times n_wnh​×nw​，卷积核窗口形状是kh×

图像增广大规模数据集是成功应用深度神经网络的前提。图像增广（image augmentation）技术通过对训练图像做一系列随机改变，来产生相似但又不同的训练样本，从而扩大训练数据集的规模。图像增广的另一种解释是，随机改变训练样本可以降低模型对某些属性的依赖，从而提高模型的泛化能力。例如，我们可以对图像进行不同方式的裁剪，使感兴趣的物体出现在不同位置，从而减轻模型对物体出现位置的依赖性。我们也可以

Adam算法Adam算法在RMSProp算法基础上对小批量随机梯度也做了指数加权移动平均。Adam算法可以看做是RMSProp算法与动量法的结合。算法内容Adam算法使用了动量变量vt\boldsymbol{v}_tvt​和RMSProp算法中小批量随机梯度按元素平方的指数加权移动平均变量st\boldsymbol{s}_tst​，并在时间步0将它们中每个元素初始化为0。给定超参数0≤β1<

pytorch使用GPU计算在之前的blog中早已经讲过如何配置pytorch的GPU加速环境查看GPU加速是否可用：import torchfrom torch import nnprint(torch.duda.is_available()) # true 查看GPU是否可用print(torch.cuda.device_count()) #GPU数量， 1torch.cuda.current

1 删除 C:\Users\用户名.ssh 下的 know_hosts文件2 使用其他的ssh工具（MobaXterm）远程连接目标服务器首先使用指令：ps -aux |grep ‘自己的用户名’ 列出自己所有的运行的程序找到正在使用报错的文件/*/*/.vscode-server/bin/f80445acd5a3dadef24aa20916的进程使用kill ‘进程id’指令杀掉改进程然后使用

卷积神经网络中的填充(padding)和步幅(stride)之前写过一篇blog，描述CNN网络层的输入和输入尺寸的计算关系，但是并没有描述的很全面，这里全面描述了影响输出尺寸的两个超参数padding和stride，查阅了相关资料，编码理解了pytorch中CNN网络的输入输出关系。对于CNN网络，一般来说，假设输入形状是nh×nwn_h\times n_wnh​×nw​，卷积核窗口形状是kh×

pytorch实现多层感知机对Fashion-MNIST数据集进行分类（手动定义模型）多层感知机：多层感知机在单层神经网络的基础上引入了一到多个隐藏层（hidden layer）。隐藏层位于输入层和输出层之间。输入和输出个数分别为4和3，中间的隐藏层中包含了5个隐藏单元，输入层不涉及计算，多层感知机的层数为2，隐藏层中的神经元和输入层中各个输入完全连接，输出层中的神经元和隐藏层中的各个神经元也完全

循环神经网络的从零开始实现首先，我们读取周杰伦专辑歌词数据集：import timeimport mathimport numpy as npimport torchfrom torch import nn, optimimport torch.nn.functional as Fimport syssys.path.append("..")device = torch.device('cuda'

使用pytorch框架nn.RNN实现循环神经网络首先，读取周杰伦专辑歌词数据集。import timeimport mathimport numpy as npimport torchfrom torch import nn, optimimport torch.nn.functional as Fimport syssys.path.append("..")import d2lzh_pytor

pytorch避免过拟合-dropout丢弃法的实现对于一个单隐藏层的多层感知机，其中输入个数为4，隐藏单元个数为5，且隐藏单元hih_ihi​（i=1,…,5i=1, \ldots, 5i=1,…,5）的计算表达式为：hi=ϕ(x1w1i+x2w2i+x3w3i+x4w4i+bi) h_i = \phi\left(x_1 w_{1i} + x_2 w_{2i} + x_3 w_{3i} + x_