全文摘要卷积神经网络(CNN)可以说是深度学习发展的一个缩影，特别是现在在计算机视觉方面已经得到了非常成熟的应用，在目标检测、目标追踪等方面也是独领风骚，本文将讲述卷积神经网络近些年来的发展历程，以及它到底创新在什么地方。本文略长，看完大约30min。卷积神经网络的十大概念与创新 1、Group convolution 卷积只能在同一组进行吗？答案当然是能！...

前言：ZF网络是2013年提出的，网上有很多关于它的介绍和讲解，但是很多内容讲的不太好（个人感觉），于是花时间收集了一些资料，整理了一些比较好的文章，从头到尾把ZFNet说了一遍。一、ZFNet简介1.1 为什么起名ZFnetworkILSVRC 2013获胜者是来自Matthew Zeiler和Rob Fergus的卷积网络。它被称为ZFNet（Zeiler＆...

前言：这篇文章是对已经较为深入理解了RNN、LSTM、GRU的数学原理以及运算过程的人而言的，如果不理解它的基本思想和过程，可能理解起来不是很简单。一、先从一个实例看起这是官网上面的一个例子，本次以LSTM作为例子而言，实际上，GRU、LSTM、RNN的运算过程是很类似的。import torchimport torch.nn as nnlstm = nn.LSTM(10,...

前言：我们前面将的各种循环神经网络的实现都是固定的时间步长的，即timesteps的长度是固定的，但是在实际问题中，这个往往是不固定的，为什么呢？因为文本数据在处理的时候，由于各样本的长度并不一样，有的句子长有的句子短这就导致在timesteps上面是维度不固定的，这种数据该如何处理呢？这就是本文要说的重点了。目录一、大胆尝试，直接填充0行不行？二、tensorflow对于...

前言：tensorboard是一个非常强大的工具、不仅仅可以帮助我们可视化神经网络训练过程中的各种参数，而且可以帮助我们更好的调整网络模型、网络参数，这一块类容后面会讲到，不管是tensorflow、keras、还是pytorch，tensorboard都提供了非常好的支持，本文是系列文章的第一篇，详细介绍基于keras+tensorboard如何来进行网络的可视化。写这篇文章的初衷很简单...

一、从生成模型开始谈起1、什么是生成模型？概率统计层面：能够在给丁某一些隐含参数的条件下，随机生成观测数据的这样一种模型，称之为“生成模型”。它给观测值和比周数据系列制定一个连和概率分布机器学习层面：直接对数据进行建模，比如根据某个变量的概率密度函数进行数据采样。在贝叶斯算法中，直接对连和概率分布P(x,y)进行建模，然后利用贝叶斯公式进行求解P(y|x)。2、生成模型的两大类型...

进入正文一、什么是“感受野”感受野感受野的概念1.1“感受野”的概念来源于生物神经科学，比如当我们的“感受器”，比如我们的手受到刺激之后，会将刺激传输至中枢神经...

一、什么是“感受野”1.1 感受野的概念“感受野”的概念来源于生物神经科学，比如当我们的“感受器”，比如我们的手受到刺激之后，会将刺激传输至中枢神经，但是并不是一个神经元就能够接受整个皮肤的刺激，因为皮肤面积大，一个神经元可想而知肯定接受不完，而且我们同时可以感受到身上皮肤在不同的地方，如手、脚，的不同的刺激，如痛、痒等。这说明皮肤感受器是由很多不同的神经元控制的，那么每一个...

说明：本文适合信号处理方面有一定的基础的人阅读，能够理解什么时候傅里叶级数和傅里叶变换，能够理解他们的核心思想以及基本原理，能够理解到底什么是“频率域”，能够从频率的角度分析信号。一、一些关键概念的引入1、离散傅里叶变换（DFT）离散傅里叶变换(discrete Fourier transform) 傅里叶分析方法是信号分析的最基本方法，傅里叶变换是傅里叶分析的核心，通过它把信...

一、什么是jupyter1、简介：jupyter notebook是一种 Web 应用，能让用户将说明文本、数学方程、代码和可视化内容全部组合到一个易于共享的文档中。它可以直接在代码旁写出叙述性文档，而不是另外编写单独的文档。也就是它可以能将代码、文档等这一切集中到一处，让用户一目了然。Jupyter这个名字是它要服务的三种语言的缩写：Julia，PYThon和R，这个名字与“...