统计模式识别

1.统计模式识别基本概念

• 特征（Feature）

特征是可以用来体现类别之间相互区别的某个或某些数学测度，测度的值称为特征值。

• 样本（Sample）

被分类或识别的模式个体称为样本，特征值必须由样本的原始数据计算得到。

• 特征空间（Feature Space）

由所有特征值为变量轴所形成的欧氏空间。

• 特征向量（Feature Vector）

以所有特征值为其分量的向量。

• 训练和学习

训练（Training）

对分类器或分类器设计提供一批类别已知的样本（统计学概念），使之可以确定适当的待分类别、待分类别个数、分类决策规则，以及估算错误分类的概率，从而形成可以对未知样本进行分类的分类器。这些类别已知的样本称为训练样本，否则称为未知样本或待分类样本（即识别对象）。

学习（Learning）

学习过程就是指训练过程，但两者的含义和出发点有所不同。训练是被动的，学习是主动的。

2.统计模式识别系统设计

系统组成部分

统计模式识别系统组成部分一般包含：传感器，数据预处理，特征计算和分类器。我们用一个通用的模式识别系统举例：

系统设计过程

统计模式识别系统设计一般包含这么几个步骤：收集样本数据——>选择特征集——>选择分类器——>训练分类器——>评价分类器。用流程图来表示：

学习过程（提供一批训练样本）：特征选择与提取——>分类器设计；

分类过程（针对待分类的未知样本）：特征形成与计算——>分类器决策 ;

• 特征的选择与提取

特征选择：从原始特征集中优选特征组合；

特征提取：由原始特征集进行数学（正交）变换得到新特征集

• 特征形成与计算

当识别对象是波形或图像时，特征可以由这些原始数据直接计算得到。当识别对象是实物或某种过程时，特征也可以是由仪表或传感器测量出来。

一个完整的统计模式识别系统设计流程大抵如此。