深度学习的BP算法

Softmax介绍Softmax回归模型，该模型是logistic回归模型在多分类问题上的推广，Softmax回归是有监督的，不过它可以与深度学习/无监督学习方法的结合。

深度学习的BP算法

深度学习的BP算法

深度残差网络在2015的ILSVRC比赛中获得取得第一的成绩，ICLR2016上也是重点议题之一。它主要思想很简单，就是在标准的前馈卷积网络上，加一个跳跃绕过一些层的连接。每绕过一层就产生一个残差块(residual block)，卷积层预测加输入张量的残差。如下图所示：普通的深度前馈网络难以优化。除了深度，所加层使得training和validation的错误率增加，即使用上了batch n

这篇算是自己对caffe学习的一个总结系列的开头。首先因为caffe的依赖项比较多，配置起来也比较麻烦。这篇算是比较详尽地把caffe的各种相关配置说清楚。转载请注明出处。推