1 人工神经网络1.1 神经元    神经网络由大量的神经元相互连接而成。每个神经元接受线性组合的输入后，最开始只是简单的线性加权，后来给每个神经元加上了非线性的激活函数，从而进行非线性变换后输出。每两个神经元之间的连接代表加权值，称之为权重（weight）。不同的权重和激活函数，则会导致神经网络不同的输出。    举个手写识别的例子，给定一个未知数字，让神经网络识别是什么数字。此时的神经网络的输

版权声明：本文为原创文章：http://blog.csdn.net/programmer_wei/article/details/52072939Logistic Regression（逻辑回归）是机器学习中一个非常非常常见的模型，在实际生产环境中也常常被使用，是一种经典的分类模型（不是回归模型）。本文主要介绍了Logistic Regression（逻辑回归）模型的原理以及参数估计、公式推导方法

1.混淆矩阵 混淆矩阵是机器学习中总结分类模型预测结果的情形分析表，以矩阵形式将数据集中的记录按照真实的类别与分类模型作出的分类判断两个标准进行汇总。这个名字来源于它可以非常容易的表明多个类别是否有混淆（也就是一个class被预测成另一个class）下图是混淆矩阵的一个例子 其中灰色部分是真实分类和预测分类结果相一致的，绿色部分是真实分类和预测分类不一致的，即分类错误的。2.confusion_m

很早以前就知道这些概念了，不过由于跟自己的认知习惯不一样，所以碰到了还是经常会忘。于是索性把这些概念总结一下，以后再忘了也好找（其他的文章太啰嗦了，计算方法也写的不清不楚….） 另外我也会陆续更新一些其他的机器学习相关概念和指标，即是方便自己，也方便他人吧。注意：本文将混用正负样本和阳性(+)阴性(-)这两套说法真阳率、假阳率这些概念其实是从医学那边引入到机器学习里面的，所以其思维逻辑多多少少会跟

版权声明：本文为原创文章：http://blog.csdn.net/programmer_wei/article/details/52072939Logistic Regression（逻辑回归）是机器学习中一个非常非常常见的模型，在实际生产环境中也常常被使用，是一种经典的分类模型（不是回归模型）。本文主要介绍了Logistic Regression（逻辑回归）模型的原理以及参数估计、公式推导方法

一、多层感知机（MLP）原理简介多层感知机（MLP，Multilayer Perceptron）也叫人工神经网络（ANN，Artificial Neural Network），除了输入输出层，它中间可以有多个隐层，最简单的MLP只含一个隐层，即三层的结构，如下图：从上图可以看到，多层感知机层与层之间是全连接的（全连接的意思就是：上一层的任何一个神经元与下一层的所有神经元都有连接）。多层感知机最底层

一、多层感知机（MLP）原理简介多层感知机（MLP，Multilayer Perceptron）也叫人工神经网络（ANN，Artificial Neural Network），除了输入输出层，它中间可以有多个隐层，最简单的MLP只含一个隐层，即三层的结构，如下图：从上图可以看到，多层感知机层与层之间是全连接的（全连接的意思就是：上一层的任何一个神经元与下一层的所有神经元都有连接）。多层感知机最底层

引言本blog之前已经写了四篇关于SIFT的文章，请参考九、图像特征提取与匹配之SIFT算法，九（续）、sift算法的编译与实现，九（再续）、教你一步一步用c语言实现sift算法、上，及九（再续）、教你一步一步用c语言实现sift算法、下。上述这4篇文章对SIFT算法的原理和C语言实现都做了详细介绍，用SIFT做图像匹配效果不错。现在考虑更为高层的应用，将SIFT算法应用于目标识别：发现图像中包含

Word2vec中两个重要模型是：CBOW和Skip-gram模型这里主要讲下我本人对CBOW模型的理解，这是主要是举个例子简化下首先说下CBOW的三层结构：输入层，投影层（中间层），输出层假设语料库有10个词: 【今天，我，你，他，小明，玩，北京，去，和，好】现在有这样一句话：今天我和小明去北京玩很显然，对这个句子分词后应该是：今天我和小明去北京玩对于小明而言，选择他的前

1.混淆矩阵 混淆矩阵是机器学习中总结分类模型预测结果的情形分析表，以矩阵形式将数据集中的记录按照真实的类别与分类模型作出的分类判断两个标准进行汇总。这个名字来源于它可以非常容易的表明多个类别是否有混淆（也就是一个class被预测成另一个class）下图是混淆矩阵的一个例子 其中灰色部分是真实分类和预测分类结果相一致的，绿色部分是真实分类和预测分类不一致的，即分类错误的。2.confusion_m