本人在跑一个人脸识别的项目时，在自己的笔记本上配置好了cuda9.0和cudnn后还是无法运行，原因是此代码不能在Windows系统上运行，于是千辛万苦在Google Drive上克隆了GitHub上的源代码尝试，以为也要下载与电脑版本对应的cuda9.0等，发现一直报错，提示libcudart.so.9.0:cannot open shared object file。最后才发现人家Google

来源于油管视频对于***卷积层的前向传播***来说，首先，我们需要有一个输入，在这里x就表示输入，这里的输入是4维的，为什么是4维的呢？我们通常在写代码的时候把x表示成x[n,c,h,w]，第一个n代表输入样本的编号，比如在这里指定了0，因为每次输入都是一个batch一个batch进行输入的，这里取了batch里面的第0个编号；第二个参数C代表了channel，如果是彩色图，有RGB3个chann

来源于油管上的讲解视频由伯克利大学开发，代码是用C++编写的，但是提供了python和matlab的接口，可以用这两个编程语言实现；在训练和微调前馈模型时效果很好。bolb：将data和label封装在blob里面；layer：对应网上的层，比如hidden layer\inputlayer等；Net：整个网络构成；Solver：进行梯度更新的。不用写一个代码就可以训练网络！！但是，需要做的事情是

YouTube视频我们在训练数据之前，需要先对输入数据进行预处理，其中数据增强就是预处理过程中的一个手段，即通过这样的方式能够使得输入数据成倍的增长。为什么要做数据增强因为在深度学习领域，更多的数据能够使得我们的模型更稳健，不太容易发生过拟合的现象，而有些时候我们并不能收集到足够多的原始数据。什么是数据增强对于图片来说，数据增强的本质是要对输入图像的像素点的分布、值的大小做一些根本性的变化，但是在

深度学习并没有在大数据中表现很好，但是我们可以利用一个巨大的数据集来训练神经网络，而在巨大的数据集基础上进行训练速度很慢，因此进行优化算法能够很大程度地增加训练速度，提升效率。本节，我们将谈谈Mini batch梯度下降法。之前的学习中，我们已经了解到向量化能够实现对m个样本有效计算，不用明确的公式就能够处理整个训练集，所以，我们要把数据集放在一个巨大的矩阵X中，X=[x(1)x(2)x(3)…x