模式识别的方法 模式识别的方法 口模版匹配法(template matching) 口模旅匹配 o统计方法(statistical pattern recognition): ■方法： 1950s 口首先对每个类别建立一个或多个模版； 口神经网络方法(neural network):1980s 口输入样本和数据库中每个类别的模版进行比较 例如求相关或距离； 口结构方法（句法方法）： 1970s (structural pattern recognition 口根据相似性（相关性或距离）大小进行决策： ■优点：直接、简单 口支持向量机、核方法：1990s ■缺点：适应性差 口多分类器、集成学习：1990s- 口Bayes学习：1990s ■扩展：弹性模版法、多模版匹配 口1990s-:模式识别技术大规模应用 ■应用：生物特征识别、条码识别、车牌识别 模式识别的方法 模式识别的方法 口统计方法 口句法方法（结构方法) ■原理：基于模式类的统计描述。 ■1970s由付京荪(K.S.Fu,Purdue U.)提出； 。方法： ■方法： o有监督：基于训练样本，建立决策边界(decision 口许多复杂的模式可以分解为简单的子模式，这些子模 boundary)本课程的重点内容 式组成所谓“基元"： ·统计决策理论一根据每一类总体的概率分布决定决策 边界： 口每个模式都可以由基元根据一定的关系来组成： ·判别式分析方法一给出带参数的决策边界，根据某种 口基元可以认为是语言中的词语，每个模式都可以认为 准则，由训练样本决定“最优”的参数： 是一个句子，关系可以认为是语法： 口无监督：聚类分析 口模式的相似性由句子的相似性来决定： ■优点 ■优点：适合结构性强的模式； ■缺点 ■缺点：抗噪声能力差，计算复杂度高。 模式识别的方法 模式识别的方法 口神经网络 口神经网络和统计模式识别的关系 ■模拟生物神经网络的结构和功能的计算模型； 统计模式识别 人工神经网络 ■能进行大规模并行计算的数学模型； 线性决策函数 感知机 ■由大量互相联系的单元（神经元）组成，相互间 PCA 自相关网络，PCA网 的联系可以在不同的神经元之间传递增强或抑制 络 信号； 后验概率估计 多层感知机 ■优，点：可以有效的解决一些复杂的非线性问题； 具有学习、推广、自适应、容错、分布表达和计 非线性决策分析 多层感知机 算的能力； Parzen窗密度估计分 径向基函数网络 ■缺点：缺少有效的学习理论 类器 K近邻 Kohonen's LVQ
模式识别的方法 模版匹配法(template matching) 统计方法(statistical pattern recognition)： 1950s- 神经网络方法(neural network)： 1980s- 结构方法(句法方法)： 1970s- (structural pattern recognition ) 支持向量机、核方法：1990s- 多分类器、集成学习：1990s- Bayes学习：1990s- 1990s-: 模式识别技术大规模应用 模式识别的方法 模版匹配 方法： 首先对每个类别建立一个或多个模版； 输入样本和数据库中每个类别的模版进行比较， 例如求相关或距离； 根据相似性（相关性或距离）大小进行决策； 优点：直接、简单 缺点：适应性差 扩展：弹性模版法、多模版匹配 应用：生物特征识别、条码识别、车牌识别…… 模式识别的方法 统计方法 原理：基于模式类的统计描述。 方法： 有监督：基于训练样本，建立决策边界(decision boundary) 本课程的重点内容 统计决策理论 — 根据每一类总体的概率分布决定决策 边界； 判别式分析方法 — 给出带参数的决策边界，根据某种 准则，由训练样本决定“最优”的参数； 无监督：聚类分析 优点 缺点 模式识别的方法 句法方法（结构方法） 1970s由付京荪(K.S. Fu, Purdue U.)提出； 方法: 许多复杂的模式可以分解为简单的子模式，这些子模 式组成所谓 “基元”； 每个模式都可以由基元根据一定的关系来组成； 基元可以认为是语言中的词语，每个模式都可以认为 是一个句子，关系可以认为是语法； 模式的相似性由句子的相似性来决定； 优点：适合结构性强的模式； 缺点：抗噪声能力差，计算复杂度高。 模式识别的方法 神经网络 模拟生物神经网络的结构和功能的计算模型； 能进行大规模并行计算的数学模型； 由大量互相联系的单元（神经元）组成，相互间 的联系可以在不同的神经元之间传递增强或抑制 信号； 优点：可以有效的解决一些复杂的非线性问题； 具有学习、推广、自适应、容错、分布表达和计 算的能力； 缺点：缺少有效的学习理论。 非线性决策分析 多层感知机 Parzen窗密度估计分 径向基函数网络 类器 后验概率估计 多层感知机 K近邻 Kohonen’s LVQ 自相关网络，PCA网 络 PCA 线性决策函数 感知机 统计模式识别 人工神经网络 神经网络和统计模式识别的关系 模式识别的方法
模式识别的方法 模式识别的应用 口几种方法比校 口文本图像分析，文本分类 方法 表达 识别函数 评价准则 口语音识别 口工业自动化：零部件/物品分类 模版匹配 样本，像 相关，距 分类错误 口数据挖掘 元，曲线 离度量 口多媒体数据检索（文档、图像、视频、音乐检索） 统计方法 特征 决策函数 分类错误 口生物特征识别，生物信息学，医学图像 句法方法 基元 规则，语 接受错误 口空间探测与环境资源检测，遥感图像 法 口安全监控（身份识别、视频监控、交通监控、音 神经网络 样本，像 网络函数 均值方差 视频监听) 元，特征 错误 口.… 模式识别的应用 模式识别的应用 Pattern Classes 口光学字符识别一手写体英文识别 Choractets words ”出出品 pooch rcoonion Telophone drecloryss 气，公一州 image ndrfomaoion ton ap 世九2出“ 模式识别的应用 模式识别的应用 口光学字符识别一手写体汉字识别 口信函分拣 改天将降大体子是人也，公先 员人，其新帽，域其体肤 空互其身，行扬乱其所为，所以 机5忍，性，害益真所不月。 (n) 故天将降大任于是人也，必先苦 其心志，劳其筋骨，饿其体肤， 空乏其身，行拂乱其所为，所以 动心忍性，曾益其所不能
模式识别的方法 规则，语 接受错误 法 句法方法 基元 均值方差 错误 样本，像 网络函数 元，特征 神经网络 统计方法 特征 决策函数 分类错误 相关，距 分类错误 离度量 样本，像 元，曲线 模版匹配 方法 表达 识别函数 评价准则 几种方法比较 模式识别的应用 文本图像分析，文本分类 语音识别 工业自动化：零部件/物品分类 数据挖掘 多媒体数据检索（文档、图像、视频、音乐检索） 生物特征识别，生物信息学，医学图像 空间探测与环境资源检测，遥感图像 安全监控（身份识别、视频监控、交通监控、音 视频监听） …… 模式识别的应用 模式识别的应用 光学字符识别 — 手写体英文识别 模式识别的应用 光学字符识别 — 手写体汉字识别 模式识别的应用 信函分拣
模式识别的应用 模式识别的应用 口指纹识别 口生物特征识别 模式识别的应用 模式识别的应用 口人脸跟踪 口癌细胞识别 Cancer detection and grading using microscopic tissue data 模式识别的应用 模式识别的应用 口遥感图像地表分类 口车牌识别 京AA0729 京A77255 C70706
模式识别的应用 指纹识别 模式识别的应用 生物特征识别 模式识别的应用 人脸跟踪 模式识别的应用 癌细胞识别 模式识别的应用 遥感图像地表分类 模式识别的应用 车牌识别
总结 总结 口再看什么是模式识别 地九领m合美 People recognize things,from observations. 大。时到海◆ --识别 制玉有绿的种的女 一单大标时他数■ People recognize things by recognizing patterns,rather than individual observations. 时香节有 --模式识别 Pattern Recognition with Machines. 黑村时蛋年 --People like to make machines that can do what we can do. eBecause we are curious. Because we are lazy. Because we are not so able
总结 再看什么是模式识别 People recognize things, from observations. ----识别 People recognize things by recognizing patterns, rather than individual observations. ----模式识别 Pattern Recognition with Machines. --People like to make machines that can do what we can do. ☺Because we are curious. ☺Because we are lazy. ☺Because we are not so able. 总结