同朴素贝叶斯一样，高斯判别分析（Gaussian discriminant analysismodel, GDA）也是一种生成学习算法，在该模型中，我们假设y给定的情况下，x服从混合正态分布。通过训练确定参数，新样本通过已建立的模型计算出隶属不同类的概率，选取概率最大为样本所属的类。

EM算法（Expection-Maximizationalgorithm，EM）是一种迭代算法，通过E步和M步两大迭代步骤，每次迭代都使极大似然函数增加。但是，由于初始值的不同，可能会使似然函数陷入局部最优。下面来谈谈EM算法以及其在求解高斯混合模型中的作用。

一、问题的提出在EM算法求解高斯混合模型一文中，我们的样本集，而样本的数量m远大于样本的维度n，因此，可以轻易的构造出高斯混合模型。现在，我们再看下不同的情况：假如，或，我们将很难构建一个普通高斯模型，更别提高斯混合模型。这m个的数据仅仅是的子空间，如果我们用这m个数据建立高斯模型，并对利用极大似然，对期望和方差进行参数估计。可得：我们将发现协方差为奇异矩阵，即

一、问题的提出在EM算法求解高斯混合模型一文中，我们的样本集，而样本的数量m远大于样本的维度n，因此，可以轻易的构造出高斯混合模型。现在，我们再看下不同的情况：假如，或，我们将很难构建一个普通高斯模型，更别提高斯混合模型。这m个的数据仅仅是的子空间，如果我们用这m个数据建立高斯模型，并对利用极大似然，对期望和方差进行参数估计。可得：我们将发现协方差为奇异矩阵，即

EM算法（Expection-Maximizationalgorithm，EM）是一种迭代算法，通过E步和M步两大迭代步骤，每次迭代都使极大似然函数增加。但是，由于初始值的不同，可能会使似然函数陷入局部最优。下面来谈谈EM算法以及其在求解高斯混合模型中的作用。

同朴素贝叶斯一样，高斯判别分析（Gaussian discriminant analysismodel, GDA）也是一种生成学习算法，在该模型中，我们假设y给定的情况下，x服从混合正态分布。通过训练确定参数，新样本通过已建立的模型计算出隶属不同类的概率，选取概率最大为样本所属的类。