统计模式识别——Bayes分类器（2）上一节，我们讨论了最小错误率分类器，接下来这一节我们将讨论最小风险Bayes分类器。最小风险Bayes分类器1.问题提出1.最小错误率Bayes决策的最小错误率——概率意义上最优，在工程上是否是最优?2.错误分类的结果、代价或风险会是怎样的？（考虑癌细胞图像识别的例子）3.出错的可能情况：正常细胞ω1错分为异常ω2，异常细胞ω2错分为正常ω1，这两者的代价应该

统计模式识别——线性分类器1.线性分类器基础基本概念线性分类器：对于两类的分类问题，采用线性判别函数划分特征空间（即采用直线或平面等将两类样本在特征空间中的区域划分开），这样的分类器是线性分类器。       线性分类器特点：特征空间一分为二，适合于解决两类的分类问题对于两类二维问题来说，分类依据是一条直线。这条直线的代数方程为：w1x1+ w2x2+ w0= 0这条直线的向量形式为：wTx +

自动机理论1.自动机概念自动机是语言和串的识别装置；同时，自动机也是从识别的观点来定义语言的一种方法。用能够被某种识别装置所接受的串的集合来定义语言，记为L(A)。2.Chomsky文法模型对应的自动机模型3.有限自动机有限自动机概述有限自动机是最简单的语言识别装置，有限自动机只能处理正则文法所产生的语言。有限自动机组成状态寄存器，只读头，输入带有限自动机模型有限自动机的运行模型状态寄存器的状态—

统计模式识别——非线性分类器1.非线性分类器基础非线性分类器概念很多情况下我们并不能保证类别间的分类面是线性的（线性是最简单的情况），而且许多复杂问题中，可能采用非线性分类器更适合问题的解决。非线性分类器的模型分界面可以是曲面或者超平面的组合。2.非线性分类器的类别划分常用的非线性分类器主要有两大类：基于判别函数的和非基于判别函数的；基于判别函数的非线性分类器1）分段线性分类器：基于非线性函数可以

统计模式识别——Bayes分类器（1）首先我们回顾一下前几节介绍的几个线性分类器垂直平分分类器：未经优化，错误率通常较大；感知器:优化（求线性可分样本集的解），最终错误率未知（条件苛刻，要求样本线性可分）；最小平方误差：优化（样本集MSE的解），最终错误率未知（条件相对比较宽松，取消样本线性可分的要求）；Bayes分类器1.问题提出之前几节介绍的分类器错误率都属于未知情况，很难做一个量化的描述，所

统计模式识别——Bayes分类器（3）上两节我们介绍了最小错误率和最小风险Bayes分类器，接下来谈谈最小最大决策。最小最大Bayes决策1.问题提出（假设C=2）现在我们假定一种情况，先验概率未知或者不确定的前提，在这种前提下，绝对意义的最小风险不存在，这种情况下我们怎么求Bayes分类器。2.求解思路虽然P(ω1) 和P(ω2)未知，但我们可以假设他们确定，在先验概率确定的前提下设计一系列最小

句法模式识别理论支持1.形式语言诞生形式语言的研究开始于上个世纪五十年代，动机：描述人类语言，基于Chomsky提出文法的数学模型。发展成果1. 计算机语言的描述2. 图像结构模式的描述3. 机器翻译相关概念Grammar /Grammars：语法/文法；Syntax/Syntactic：句法；实例分析文法相关概念导出树：该句子的文法（G）推导过程非终止符号：其它节点终止符号：叶节点起始符号：根节

统计模式识别——各种各样的线性分类器（2）1. 感知准则

统计模式识别——各种各样的线性分类器1.垂直平分分类器（最小距离分类器）设计思路基于两类样本均值点作垂直平分线分类器的垂直平分形式对于两类二维问题（C=2,D=2）对于任何的线性分类器都有线性判别函数：g(x) = wTx + w0，决策面方程为：g(x) = 0即wTx + w0= 0.求解步骤1. 对于C=2，先求两类样本的均值m1和m2（m1和m2都为向量）；2. 利用垂直几何关系，因为w为

句法分析串语言的句法分析上一节我们介绍过了串语言的自动机分析，这一节我们主要介绍串语言的句法分析。句法分析概要利用产生式直接推导，实现串语言的识别。句法分析是一种遍历算法——穷举所有可能。句法分析方法分类    自顶向下推导给定文法G和待识别符号串x ，从起始符S开始，利用产生式集合P中的产生式，尝试推导出符号串x。    自底向上推导给定文法G和待识别符号串x ，从符号串x开始，利用产生式集合P