HighPerformance Offline Handwritten Chinese Character Recognition Using GoogLeNet and Directional Feature Maps  今天看到这篇文章 使用传统方法的gabor 和 googlenet 的深度学习网络相结合，取得很好的识别率。本文的代码实现 https://github.co

转【面向代码】学习 Deep Learning（二）Deep Belief Nets(DBNs)【面向代码】学习 Deep Learning（二）Deep Belief Nets(DBNs)http://blog.csdn.net/dark_scope/article/details/9447967分类： 机器学习2013-07-24 11:50 517人阅读 评论(5

siamese 网络， 是05年Yann Lecun提出来的。 ，它的特点是它接收两个图片作为输入，而不是一张图片作为输入。文献资料：摘抄自caffe github的issue697Siamese nets are supervised models for metric learning [1].[1] S. Chopra, R. Hadsell, and

目前了解到的MATLAB中分类器有：K近邻分类器，随机森林分类器，朴素贝叶斯，集成学习方法，鉴别分析分类器，支持向量机。现将其主要函数使用方法总结如下，更多细节需参考MATLAB 帮助文件。设　　训练样本：train_data             % 矩阵，每行一个样本，每列一个特征　　训练样本标签：train_label      % 列向量　　测试样本：test_da

1. 为什么要合并BN层在训练深度网络模型时，BN（Batch Normalization）层能够加速网络收敛，并且能够控制过拟合，一般放在卷积层之后。BN 层将数据归一化后，能够有效解决梯度消失与梯度爆炸问题。虽然 BN 层在训练时起到了积极作用，然而，在网络前向推断时多了一些层的运算，影响了模型的性能，且占用了更多的内存或者显存空间。目前，很多先进的网络模型（ResNet，MobileN...

第一个问题：为什么引入非线性激励函数？如果不用激励函数（其实相当于激励函数是f(x) = x），在这种情况下你每一层输出都是上层输入的线性函数，很容易验证，无论你神经网络有多少层，输出都是输入的线性组合，与只有一个隐藏层效果相当，这种情况就是多层感知机（MLP）了。正因为上面的原因，我们决定引入非线性函数作为激励函数，这样深层神经网络就有意义了（不再是输入的线性组合，可以逼近任意函数）。最

目前大部分机器学习算法都是基于统计学， 统计学习方法的三要素：模型策略和算法。基本步骤：    1 得到有限的训练数据集合    2 确定包含所有可能的模型假设空间，即学习模型的集合   3 确定模型选择的准则，其学习策略   4 实现求解最优模型的算法，即学习的算法   5 通过学习方法 选择最优模型，（刚开始随机初始化模型） 6 利用学习的最优模型对新数据进行预测或

2006年Hinton他们的Science Paper再次引起人工神经网络的热潮，当时提到，2006年虽然Deep Learning的概念被提出来了，但是学术界的大家还是表示不服。当时有流传的段子是Hinton的学生在台上讲paper时，台下的机器学习大牛们不屑一顾，质问你们的东西有理论推导吗？有数学基础吗？搞得过SVM之类吗？回头来看，就算是真的，大牛们也确实不算无理取闹，是骡子是马拉出来遛遛，

http://caffe.berkeleyvision.org/tutorial/net_layer_blob.html 官网地址        总概况：   caffe 计算模型：一层层的框架，从bottom 到 top 从输入数据到loss, 数据和梯度流通过 forwardand backward passes 流动。                         

下边这部分摘自知乎：http://www.zhihu.com/question/24005468首先，还是纠正下题主，直接叠加RBM是DBN。而DBM是一个真正的无向图模型，层间互有反馈。DBN是hiton在06年发表在science上的“Reducing the dimensionality of data with neural networks.”这篇文章中提到的方法，具体的细节不做