本章主要内容 ▣引言 第二章贝叶斯决策理论 口基于最小错误率的Bayes决策 口基于最小风险的Bayes:决策 口基于判别函数的分类器设计 2009.09.22 口正态分布的最小错误率Bayes决策 口讨论 引言 引言 口模式识别是一种分类(classification)问题,即 口统计决策理论是处理模式分类问题的基本理论之 根据识别对象所呈现的观察值,将其分到某个类 一,对模式分析和分类器(classifier)的设计起 别中去。 指导作用。贝叶斯(Bayes)决策理论是统计模式 信号空间 识别中的一个基本方法,我们先讨论这一决策理 特征空问 论,然后讨论涉及统计判别方法的一些基本问题。 数据获取 预处理 特征提取 与选择 分类决策 分类器 设计 引言 引言 口客观现象或事物的发生和发展,按照“可预见性” 口随机模型是用来描述自然界中不确定现象的数学 可分两类情况一确定性和随机性。 模型。 ■随机性事物的结果无法预知,但具有统计规律。 口统计模式识别的要点:将模式的特征量考虑为符 ▣随机性事物的特征观察值是随机变量。 合某种统计规律(概率密度/分布函数)的随机 量。而任一个样本是取自总体中的一个个体。 口特征的观察值总含有某种误差,其具有一定的随 口需要解决三个问题: 机性:而且同类的不同对象的某个特征的值通常 ■判别问题:已知若干总体分布,当给出一个个体 也是按某种规律散布的。 样本时,要确定这个样本属于哪个总体? →模式类别和判决结果的随机性 ■训练问题:已知一些个体样本,分别属于某些总 体,要确定这些总体的分布规律(或参数)。 →用概率统计的理论和方法来解决识别问题是合 ■误判率问题:研究运用上述模型所造成的误判率 理的。 的计算。第二章 贝叶斯决策理论 2009.09.22 本章主要内容 引言 基于最小错误率的Bayes决策 基于最小风险的Bayes决策 基于判别函数的分类器设计 正态分布的最小错误率Bayes决策 讨论 引言 模式识别是一种分类(classification)问题,即 根据识别对象所呈现的观察值,将其分到某个类 别中去。 引言 统计决策理论是处理模式分类问题的基本理论之 一,对模式分析和分类器(classifier)的设计起 指导作用。贝叶斯(Bayes)决策理论是统计模式 识别中的一个基本方法,我们先讨论这一决策理 论,然后讨论涉及统计判别方法的一些基本问题。 引言 客观现象或事物的发生和发展,按照“可预见性” 可分两类情况 — 确定性和随机性。 随机性事物的结果无法预知,但具有统计规律。 随机性事物的特征观察值是随机变量。 特征的观察值总含有某种误差,其具有一定的随 机性;而且同类的不同对象的某个特征的值通常 也是按某种规律散布的。 模式类别和判决结果的随机性 用概率统计的理论和方法来解决识别问题是合 理的。 引言 随机模型是用来描述自然界中不确定现象的数学 模型。 统计模式识别的要点:将模式的特征量考虑为符 合某种统计规律(概率密度/分布函数)的随机 量。而任一个样本是取自总体中的一个个体。 需要解决三个问题: 判别问题:已知若干总体分布,当给出一个个体 样本时,要确定这个样本属于哪个总体? 训练问题:已知一些个体样本,分别属于某些总 体,要确定这些总体的分布规律(或参数)。 误判率问题:研究运用上述模型所造成的误判率 的计算