1.这一次作业主要是认识了在卷积神经网络过程中的一些新的专业词汇，经过这次作业的学习，我对卷积提取特征这一过程算是彻底明明白白了。首先，一般在卷积的过程中，会采用局部感知+权值共享的方式来在降低网络复杂度的同时保持网络性能或增加性能，局部感知让每个卷积核专注于特定的特征提取任务，权值共享让这些特征提取任务在整个图像上保持一致。池化同样是一种降低网络复杂度同时又保持网络性能的手段，通过使用某些值来代

动态创建卷积核并初始化权重weight_value = torch.ones(kernel_size, kernel_size) # 默认初始化为1.0# 步长和填充# 零填充else:new_X = X# 获取输出张量的维度大小# 进行带步长的卷积操作dim=[1, 2]# 输入张量，加上批次维度[13., 14., 15., 16.]]).unsqueeze(0) # 添加批次维度# 创建 C

1.LSTM的推导主要是参照SumWaiLiu的博客园自己梳理复现了一遍，这里强烈推荐这个博客，写得又清楚又好，推导的过程再一次加深了对反向传播算法的认识，其实本质就是找到梯度的反向递归式，通过对求导链式法则的推导，一步一步由后面的损失函数计算前面的损失函数。得到递推公式后，想要计算任何一个参数的梯度直接使用已经计算好的损失函数代入求导式子即可，这也是本学期最后一次推导反向传播的作业了（大概），从

本次课程学习了RNN的相关知识，作业中也都用到了相关的RNN知识，这里我们进行简单的介绍。RNN意为循环神经网络（Recurrent）是一种具有循环连接的神经网络结构。我们前面所学到的FNN有一个致命的问题就是，在FNN中，每一个输入加权结合得到一个输出，即我们只关注到了层与层之间的连接与传播忽视了本层之间所有神经元的联系，这就导致了FNN完全无法处理时序数据，即输入的数据之间会因为出现的先后顺序

动态创建卷积核并初始化权重weight_value = torch.ones(kernel_size, kernel_size) # 默认初始化为1.0# 步长和填充# 零填充else:new_X = X# 获取输出张量的维度大小# 进行带步长的卷积操作dim=[1, 2]# 输入张量，加上批次维度[13., 14., 15., 16.]]).unsqueeze(0) # 添加批次维度# 创建 C

动态创建卷积核并初始化权重weight_value = torch.ones(kernel_size, kernel_size) # 默认初始化为1.0# 步长和填充# 零填充else:new_X = X# 获取输出张量的维度大小# 进行带步长的卷积操作dim=[1, 2]# 输入张量，加上批次维度[13., 14., 15., 16.]]).unsqueeze(0) # 添加批次维度# 创建 C

--------------------------------------------------打印并观察数据分布------------------------------------------------------train_set, dev_set, test_set = json.load(gzip.open('./mnist.json.gz')) # 读取数据集# 获取对应图像与