1.     神经网络架构及符号说明                                                 图1 神经网络架构图(f1)图1为四层神经网络的架构图，包含一个输入层(1层)，两个隐层(2,3层)，一个输出层(c层)，分别包含2个，3个，2个，2个神经元。训练的输入输出数据共包含m组样本数据。i1和i2代表两个输入信号值。c1和c2代表两个

输出连续值的深度神经网络1.     前言        本文设计并实现了输出连续值的深度神经网络。可用于自动构图特征线位置判断等需要连续值的场合。特征线的位置可以是垂直的，也可以是水平的。即特征线有垂直和水平两种特征线。      所设计的深度神经网络基于Deeplearning Toolbox中的神经神经网络修改而来。主要修改内容为将输出节点数由原来的10个调整为3个。每个节点的输

caffeResnet-50模型训练及测试1.       注意事项Resnet-50计算精度比较高，而且运算量较小，因此是一种理想的残差网络的训练模型。采用Resnet-50模型进行训练，需要注意以下方面：(1)     BatchNorm层的参数在finetuneResnet时，网络结构文件中BatchNorm层的参数要注意：1.在训练时所有BN层要设置use_gl

Alex在2012年提出的alexnet网络结构模型引爆了神经网络的应用热潮，并赢得了2012届图像识别大赛的冠军，使得CNN成为在图像分类上的核心算法模型。接下来本文对该网络配置结构中各个层进行详细的解读（训练阶段）：注：下述关于卷积核的尺寸来自于Alex在2012年发表的经典论文。 1. conv1阶段DFD（data flow diagram）： 第一层输入数

MATLAB Coder可以从MATLAB代码生成独立的、可读性强、可移植的C/C++代码。本文基于matlab2015a编制，但是也适用于matlab 2014~2016的版本。1. 使用MATLAB Coder产生C代码的4个步骤：(1) 开发实现特定算法功能的MATLAB代码及其测试文件；(2) 检查MATLAB代码的兼容性，确保MATLAB代码中的语句都能被转换成C代码(有些m

新版的笔记本电脑安装ubuntu中卡死问题解决方法。1. 解决方法：重新开机，光标选中“Install Ubuntu” ，按“e”，进入grub界面，将倒数第二行中的“quiet splash ---”改为“nomodeset”。F10保存，就可以进入安装界面，进行安装。2. 安装完成后，进入ubuntu的recovery mode，安装nvidia的显卡驱动。从nvidia网站下载NVI

1. 神经网络损失函数说明神经网络欧式距离损失函数用于连续值训练样本的拟合，softmaxwithloss损失函数用于分类训练样本的拟合。另外，深度网络对于分类样本的拟合能力强于对于连续值样本的拟合能力。即同样的深度网络如果能拟合10组分类的样本，可能只能拟合3组连续值的样本。欧式距离损失函数如下式所示：                        (f1) 它在 Log

最近在看深度学习的东西，一开始看的吴恩达的UFLDL教程，有中文版就直接看了，后来发现有些地方总是不是很明确，又去看英文版，然后又找了些资料看，才发现，中文版的译者在翻译的时候会对省略的公式推导过程进行补充，但是补充的又是错的，难怪觉得有问题。反向传播法其实是神经网络的基础了，但是很多人在学的时候总是会遇到一些问题，或者看到大篇的公式觉得好像很难就退缩了，其实不难，就是一个链式求导法则反复用。如果

新版的笔记本电脑安装ubuntu中卡死问题解决方法。1. 解决方法：重新开机，光标选中“Install Ubuntu” ，按“e”，进入grub界面，将倒数第二行中的“quiet splash ---”改为“nomodeset”。F10保存，就可以进入安装界面，进行安装。2. 安装完成后，进入ubuntu的recovery mode，安装nvidia的显卡驱动。从nvidia网站下载NVI

1.     两层神经网络结构双输入单输出的两层神经网络结果如下图所示。其中括号中表示实际的权值、输出值、阈值等神经网络的参数，括号外的变量表示估计的权值、输出值、阈值等值。具体的公式推导可参考周志华的《机器学习》清华大学出版社第5.3节的内容。对于最后的代价函数的显示，可以用log函数来对其进行处理，以便能观察当代价函数的值很小时的变化趋势。如果学习速率太大，则神经网可能会发散，