今天来仔细讲一下卷基层和全连接层训练参数个数如何确定的问题。我们以Mnist为例，首先贴出网络配置文件：[python] viewplain copy name: "LeNet"  layer {    name: "mnist"    type: "Data"    top: "data"    top: "label"  

前言典型关联分析(Canonical Correlation Analysis，简称CCA)是最常用的挖掘数据关联关系的算法之一。比如我们拿到两组数据，第一组是人身高和体重的数据，第二组是对应的跑步能力和跳远能力的数据。那么我们能不能说这两组数据是相关的呢？CCA可以帮助我们分析这个问题。CCA概述在数理统计里面，都知道相关系数这个概念。假设有两组一维的数据集X和Y，则相关系数ρ的定义...

从图像分类到图像分割卷积神经网络（CNN）自2012年以来，在图像分类和图像检测等方面取得了巨大的成就和广泛的应用。CNN的强大之处在于它的多层结构能自动学习特征，并且可以学习到多个层次的特征：较浅的卷积层感知域较小，学习到一些局部区域的特征；较深的卷积层具有较大的感知域，能够学习到更加抽象一些的特征。这些抽象特征对物体的大小、位置和方向等敏感性更低，从而有助于识别性能的提高。这些抽象的特征对分类

1. 激活函数Rectified Linear Unit(ReLU) - 用于隐层神经元输出Sigmoid - 用于隐层神经元输出Softmax - 用于多分类神经网络输出Linear - 用于回归神经网络输出（或二分类问题）    ReLU函数计算如下：                               Sigmoid函数计算如下：   

一、深度学习（deeplearning)是美国学者Ference Marton和Roger Saljo在1976年提出的，与浅层学习(surface learning)想对应。二、布鲁姆将教育目标分为六类，从低级到高级分别为：识记（knowledge)、理解(comprehension)、应用(application)、分析(analysis)、综合(synthesis)、评价(ev

一、误差准则函数与随机梯度下降：数学一点将就是，对于给定的一个点集（X，Y），找到一条曲线或者曲面，对其进行拟合之。同时称X中的变量为特征（Feature)，Y值为预测值。如图：一个典型的机器学习的过程，首先给出一组输入数据X，我们的算法会通过一系列的过程得到一个估计的函数，这个函数有能力对没有见过的新数据给出一个新的估计Y，也被称为构建一个模型。我们用X1、X2...

1. 激活函数Rectified Linear Unit(ReLU) - 用于隐层神经元输出Sigmoid - 用于隐层神经元输出Softmax - 用于多分类神经网络输出Linear - 用于回归神经网络输出（或二分类问题）    ReLU函数计算如下：                               Sigmoid函数计算如下：   

在Linux操作系统下的安装安装环境Tensorflow的支持列表里是没有Windows的。虽然可以用Docker来实现在Windows上运行，但小问题很多，它支持的最好的还是基于unix内核的系统，如Linux，因此我们最好还是安装一个Linux的环境来运行它。Linux是一款免费的开源操作系统，应用非常广泛，如著名的Android就是基于Linux改进的一款针对手机

从图像分类到图像分割卷积神经网络（CNN）自2012年以来，在图像分类和图像检测等方面取得了巨大的成就和广泛的应用。CNN的强大之处在于它的多层结构能自动学习特征，并且可以学习到多个层次的特征：较浅的卷积层感知域较小，学习到一些局部区域的特征；较深的卷积层具有较大的感知域，能够学习到更加抽象一些的特征。这些抽象特征对物体的大小、位置和方向等敏感性更低，从而有助于识别性能的提高。这些抽象的特征对分类

深度学习数据标签处理的两种常见方式：LabelEncoder 和 OneHotEncoderOne-Hot 编码即独热编码，又称一位有效编码，其方法是使用N位状态寄存器来对N个状态进行编码，每个状态都由他独立的寄存器位，并且在任意时候，其中只有一位有效。这样做的好处主要有：1. 解决了分类器不好处理属性数据的问题； 2. 在一定程度上也起到了扩充特征的作用。将离散型特征进行one-hot编码的作用