今天要讲的主要内容是协同过滤，即Collaborative Filtering，简称CF。 Contents    1. 协同过滤的简介   2. 协同过滤的核心   3. 协同过滤的实现   4. 协同过滤的应用  1. 协同过滤的简介    关于协同过滤的一个最经典的例子就是看电影，有时候不知道哪一部电影是我们喜欢的或者评分比较高的，那

拉格朗日乘数法是用来求条件极值的，极值问题有两类，其一，求函数在给定区间上的极值，对自变量没有其它要求，这种极值称为无条件极值。其二，对自变量有一些附加的约束条件限制下的极值，称为条件极值。例如给定椭球       求这个椭球的内接长方体的最大体积。这个问题实际上就是条件极值问题，即在条件       下，求的最大值。 当然这个问题实际可以先根据条件

今天谈论的重点是数值稳定性，在计算机编程中，有很多算法都需要考虑数值稳定性。比如在机器学习算法中我学过的Logistic回归的牛顿迭代解法，在牛顿迭代时需要解线性方程组，由于Hessian矩阵是对称正定的，用Cholesky矩阵分解不但可以大大减少运算量，而且还具有很好的数值稳定性。借此机会来更多地了解一下数值稳定性。在计算机编程中，有时候同一个计算问题，不同算法中舍入误差对计算的结果产生的影响各

在机器学习中，无论是分类还是回归，都可能存在由于特征过多而导致的过拟合问题。当然解决的办法有   （1）减少特征，留取最重要的特征。  （2）惩罚不重要的特征的权重。 但是通常情况下，我们不知道应该惩罚哪些特征的权重取值。通过正则化方法可以防止过拟合，提高泛化能力。 先来看看L2正则化方法。对于之前梯度下降讲到的损失函数来说，在代价函数后面加上一个正则化项，得到

今天我来介绍一种在机器学习中应用的比较多的模型，叫做广义线性模型（GLM）。这种模型是把自变量的线性预测函数当作因变量的估计值。在机器学习中，有很多模型都是基于广义线性模型的，比如传统的线性回归模型，最大熵模型，Logistic回归，softmax回归，等等。今天主要来学习如何来针对某类型的分布建立相应的广义线性模型。 Contents    1. 广义线性模型的认识

在机器学习中领域中的数据分析之前，通常需要将数据标准化，利用标准化后得数据进行数据分析。不同评价指标往往具有不同的量纲和量纲单位，这样的情况会影响到数据分析的结果，为了消除指标之间的量纲影响，需要进行数据标准化处理，以解决数据指标之间的可比性。原始数据经过数据标准化处理后，各指标处于同一数量级，适合进行综合对比评价。 Contents    1. 归一化的定义  

今天来讲BP神经网络，神经网络在机器学习中应用比较广泛，比如函数逼近，模式识别，分类，数据压缩，数据挖掘等领域。接下来介绍BP神经网络的原理及实现。 Contents   1. BP神经网络的认识  2. 隐含层的选取  3. 正向传递子过程  4. 反向传递子过程  5. BP神经网络的注意点  6. BP神经网络的C++实现  1. BP神经

今天我来介绍一种在机器学习中应用的比较多的模型，叫做广义线性模型（GLM）。这种模型是把自变量的线性预测函数当作因变量的估计值。在机器学习中，有很多模型都是基于广义线性模型的，比如传统的线性回归模型，最大熵模型，Logistic回归，softmax回归，等等。今天主要来学习如何来针对某类型的分布建立相应的广义线性模型。 Contents    1. 广义线性模型的认识

Java的内存管理有内存分配与内存回收，Java中内存分配与回收完全用虚拟机自动实现。 内存分为：栈，堆，代码区，静态变量存储区。 栈：存放局部变量，引用对象，形参(形参是一种特殊的局部变量)。例如，定义局部变量int i=20; 那么i分配在栈中，栈中   的内容用完后立即释放，所以速度较快，注意一点，基本数据类型不一定分配在栈中。 堆：存放new出来的对象，堆里面的

首先来看看set集合容器： set集合容器实现了红黑树的平衡二叉树数据结构，在插入元素时它会自动调整二叉树的排列，把该元素放到适当的位置，并且保证左右子树平衡。平衡二叉检索树采用中序遍历算法。 对于set，vector，map等等，它们的前向迭代器定义是这样的(以set为例)： set::iterator it;for(it=s.begin();it!=s.end(