前言之前就一直想不调用框架，实现一个CNN和RNN，实现这两种网络的主要难度就在于反向传播，对与CNN来说反向传播也要涉及到卷积，对于RNN来说反向传播会涉及到沿时间序列进行传播，也就是BPTT。在此过程中遇到不少困难，踩了不少坑，所以写此博文总结一下。实现卷积神经网络我们这里要实现的卷积神经网络是Lenet-5模型，其模型结构图如下其网络结构用语言描述的话，就是:输入层->卷积...

一、BMP文件分析1. 什么是BMP(位图)?常见的图像文件格式有：BMP、JPG(JPE,JPEG)、GIF等。BMP图像文件(Bitmap-File)格式是Windows采用的图像文件存储格式，在Windows环境下运行的所有图像处理软件都支持这种格式。Windows 3.0以后的BMP文件都是指设备无关位图(DIB，device-independent bitmap)。BMP位图文件默...

前言最近几天尝试着不用框架写一个卷积神经网络，后来代码写完之后发现运行的速度实在是太慢，分析了一下发现主要的时间都花在了卷积层上。于是查找各种资料，学习了两种现在主流的快速卷积算法，写此文主要记录一下其中的要点，在学习过程中遇到的问题。FFT如果学过或者了解过信号的，你肯定肯定，空间域中矩阵的卷积运算，实际上等价于频率域中两个矩阵对应元素相乘，关于怎么进行快速傅里叶变换,我之前的文章已经讲述...

本文需要用到傅里叶变换的知识，如果还不了解，请点击这里频域滤波的基本过程如果想对图像进行滤波的话，基本的步骤如下：使用(−1)x+y(-1)^{x+y}(−1)x+y乘以原来的图像，其中x、yx、yx、y是原图像的像素点的坐标。对第一步得到的数据的进行离散傅里叶变换F(u,v)F(u,v)F(u,v)使用某个滤波器H(u,v)乘以第三步得到的F(u,v)F(u,v)F(u,v)对第三...