概述 口模式识别：（人、动物或机器）获取关于某 事物的信息（数据），并将其归为某一类别的 第一章模式识别引论 过程。 2010.9.13 ■所 概述 概述 口作为一门学科，模式识别是研究用机器完成自动 口模式识别的意义 识别事物的工作。 1. 计算机能比人类更快速地处理海量数据： ·模式识别是使计算机模仿人的感知能力，从感知 2.数字化感知数据：来源丰富、数量巨大： 数据中提取信息（判别物体和行为）的过程。 3.处理人类难以解决的识别问题： ■是由数学、控制理论、信息处理、计算机技术、 人脑中 生物生理学和心理学等众多学科交叉融合产生。 ■是理论和应用并重的学科。 概述 概述 口模式识别的难点 口模式识别的发展简史 ■感知数据：非结构化（像素、波纹等） ■1929年 .Tauschek发明阅读机，能够阅 读0-9的数字 。30年代 Fisher提出统计分类理论，奠定了 统计模式识别的基础。在随后的60~70年代， 电视 统计模式识别发展很快：但是由于被识别的模式 越来越复杂，特征也越多，因而出现“维数灾 难”。不过由于计算机运算速度的迅猛发展，这 个问题得到了一定的克服。统计模式识别至今仍 语 g各板据 是模式识别的主要理论。 1
1 1 第一章 模式识别引论 2010.9.13 2 模式识别：（人、动物或机器）获取关于某一 事物的信息（数据），并将其归为某一类别的 过程。 信息来源 83 11 6 视觉 听觉 其他（触觉、 味觉等） 概述 3 概述 作为一门学科，模式识别是研究用机器完成自动 识别事物的工作。 模式识别是使计算机模仿人的感知能力，从感知 数据中提取信息（判别物体和行为）的过程。 是由数学、控制理论、信息处理、计算机技术、 生物生理学和心理学等众多学科交叉融合产生。 是理论和应用并重的学科。 4 概述 模式识别的意义 1. 计算机能比人类更快速地处理海量数据； 2. 数字化感知数据：来源丰富、数量巨大； 3. 处理人类难以解决的识别问题； 4. 研究机器模式识别的能力可以帮助理解人脑中 的模式识别过程（反之亦然）。 5 概述 模式识别的难点 感知数据：非结构化（像素、波纹等） 6 概述 模式识别的发展简史 1929年 G. Tauschek发明阅读机，能够阅 读0-9的数字。 30年代 Fisher提出统计分类理论，奠定了 统计模式识别的基础。在随后的60～70年代， 统计模式识别发展很快；但是由于被识别的模式 越来越复杂，特征也越多，因而出现“维数灾 难”。不过由于计算机运算速度的迅猛发展，这 个问题得到了一定的克服。统计模式识别至今仍 是模式识别的主要理论
概述 概述 口模式识别的发展简史 口相关的学术组织 ■50年代N.Chomsky提出了形式语言理 论：美籍华人付京荪提出句法结构模式识别。 ■1973年IEEE发起了第一次关于模式识别的国际 会议“ICPR”,成立了国际模式识别协会一 ■60年代L.A.Zadeh提出了模糊集理论，模 “IAPR”,每2年召开一次国际学术会议。 糊模式识别理论得到了较为广泛的应用。 ■1977年IEEE的计算机学会成立了模式分析与机 ■80年代 Hopfield提出神经元网络模型理 器智能(PAMI)委员会，每2年召开一次模式识 论。近些年人工神经元网络在模式识别和人工智 别与图象处理学术会议。 能上得到较广泛的应用。 ■90年代 小样本学习理论，支持向量机也受 ■国内的组织有电子学会，通信学会，自动化学 会，人工智能学会，中文信息学会… 到了很大的重视。 概述 概述 口主要期刊 口主要会议 IEEE Trans.on PAMI.1978-.IEEE Computer Society ■ICPR:2年一次，1000人规模 Pattern Recognition,1968-,PR Society,Elsevier Pattern Recognition Letter.1980-.IAPR,Elsevier ■ICCV:2年一次，1000人规模 Machine Learning.Neural Computation.IEEE Trans. On NN ■CVPR:每年一次在美国，1000人规模 Int.Journal of PR and AI,1988-(World Scientific) ■ICDAR:2年一次，300-400人规模 Pattern Analysis and Applications,1997-(Springer) Int.J.Document Analysis Recognition,1998- ■ICB:2年一次，200-300人规模 ■模式识别与人工智能 ■其他(ICASSP,ICIP,ICML等) ■中回图像与图形学学报 模式识别和模式的概念 模式识别和模式的概念 口样本(sample,object):一类事物的一个具体 口什么是模式(pattern)? 体现，对具体的个别事物进行观测所得到的某种 *Watanabe defines a pattern "as 形式的信号 所见的具体事物。 opposite of a chaos;it is an entity, vaguely defined,that could be given a name. 0123456789 fingerprint image 0123456789 handwritten word ohuman face 0123456789 ospeech signal 0123456789 DNA sequence S.Watanabe,Pattern Recognition:Human and Mechanical,1985. 2
2 7 概述 模式识别的发展简史 50年代 N. Chomsky提出了形式语言理 论；美籍华人付京荪提出句法结构模式识别。 60年代 L.A.Zadeh提出了模糊集理论，模 糊模式识别理论得到了较为广泛的应用。 80年代 Hopfield提出神经元网络模型理 论。近些年人工神经元网络在模式识别和人工智 能上得到较广泛的应用。 90年代 小样本学习理论，支持向量机也受 到了很大的重视。 8 概述 相关的学术组织 1973年 IEEE发起了第一次关于模式识别的国际 会议“ICPR”，成立了国际模式识别协会— “IAPR”，每2年召开一次国际学术会议。 1977年 IEEE的计算机学会成立了模式分析与机 器智能（PAMI）委员会，每2年召开一次模式识 别与图象处理学术会议。 国内的组织有电子学会，通信学会，自动化学 会，人工智能学会，中文信息学会…… 9 概述 主要期刊 IEEE Trans. on PAMI，1978-，IEEE Computer Society Pattern Recognition，1968-，PR Society, Elsevier Pattern Recognition Letter，1980-，IAPR, Elsevier Machine Learning，Neural Computation，IEEE Trans. On NN Int. Journal of PR and AI, 1988- (World Scientific) Pattern Analysis and Applications, 1997- (Springer) Int. J. Document Analysis & Recognition, 1998- 模式识别与人工智能 中国图像与图形学学报 10 概述 主要会议 ICPR：2年一次，1000人规模 ICCV： 2年一次，1000人规模 CVPR：每年一次在美国，1000人规模 ICDAR： 2年一次，300-400人规模 ICB： 2年一次，200-300人规模 其他（ICASSP, ICIP,ICML等) 11 模式识别和模式的概念 样本(sample, object)：一类事物的一个具体 体现，对具体的个别事物进行观测所得到的某种 形式的信号 —— 所见的具体事物。 12 模式识别和模式的概念 什么是模式（pattern）？ *Watanabe defines a pattern “as opposite of a chaos; it is an entity, vaguely defined, that could be given a name.” fingerprint image handwritten word human face speech signal DNA sequence …… *S. Watanabe, Pattern Recognition: Human and Mechanical, 1985
14 模式识别和模式的概念 模式识别和模式的概念 o样本vs.模式 口常见模式举例 Handwritten Characters 。模式表示一类事物，样本是具体的事物： ■模式是对同一类事物概念性的概括。 nA-&X八 ■模式类与模式联合使用时，模式表示具体的事 UPC BarCode 物，而模式类则是对一类事物的概念性描述。 Fingerprint 口模式识别是从样本到类别的映射。 nimal Footprn 样 模式识别 osnet月ar Cod 本 Data Trend 模式识别和模式的概念 模式识别和模式的概念 口常见模式举例 口常见模式举例 ·人脸模式 ■纹理(texture)模式 模式识别和模式的概念 模式识别和模式的概念 口常见模式举例 o什么是识别(recognition) ■社会模式 nre-cognition:再认知： 口信用：收入、消费习惯、贷款… 口保险：驾龄、出险次数、车型、驾驶习惯… ■识别是人将具体事物归类的活动： 口信息服务：爱好、浏览习惯、文化程度… 口周围物体的认知、人的识别、声音的辨别、气味 口择偶：背景、爱好、性格、经济状况… 的分辨等： 口性格：… ■模式识别讨论机器对模式类的分辨，判断，分 口文化：… 类，从而提高机器的感知能力，开拓更广泛的 口事件：… 应用： 口政治：… 口主要研究相似和分类问题。 3
3 13 模式识别和模式的概念 样本 vs. 模式 模式表示一类事物，样本是具体的事物； 模式是对同一类事物概念性的概括。 模式类与模式联合使用时，模式表示具体的事 物，而模式类则是对一类事物的概念性描述。 模式识别是从样本到类别的映射。 14 模式识别和模式的概念 常见模式举例 15 模式识别和模式的概念 常见模式举例 人脸模式 16 模式识别和模式的概念 常见模式举例 纹理（texture）模式 17 模式识别和模式的概念 常见模式举例 社会模式 信用：收入、消费习惯、贷款…… 保险：驾龄、出险次数、车型、驾驶习惯…… 信息服务：爱好、浏览习惯、文化程度…… 择偶：背景、爱好、性格、经济状况…… 性格：…… 文化：…… 事件：…… 政治：…… 18 模式识别和模式的概念 什么是识别（recognition） re-cognition：再认知； 识别是人将具体事物归类的活动： 周围物体的认知、人的识别、声音的辨别、气味 的分辨等； 模式识别讨论机器对模式类的分辨，判断，分 类，从而提高机器的感知能力，开拓更广泛的 应用； 主要研究相似和分类问题
模式识别和模式的概念 模式识别和模式的概念 口什么是模式识别(pattern recognition)？ 口什么是模式识别？ The recognition of patterns Anil K.Jain:Pattern recognition is the study of how machines can: To see something 1 as something 2 1.observe the environment; 通过对事物的观察对其某种性质的认识。 2.learn to distinguish patterns of interest from their background; 尤指 3.make sound and reasonable decisions 分类性质 about the categories of the patterns. 模式识别和模式的概念 模式识别和模式的概念 口什么是模式识别？ 口什么是模式识别？ 看到东西→得出看法 ■对象：样本sample(模式) 观察→判断 ■模式：类class(模式类) 观测→决策 ■观察：特征features(属性) 量化观测→分类决策 ·模式识别：将样本根据其特征归类，又称模式 分类(pattern classification): ×∈Rd→ye(-1,1) ·例：硬币分类 口三类：1角、5角、1元 模式识别 口特征：重量、体积、文字、图案… 模式识别系统 A12951- 1⊙
4 19 模式识别和模式的概念 什么是模式识别（pattern recognition）？ The recognition of patterns To see something 1 as something 2 通过对事物的观察对其某种性质的认识。 尤指 分类性质 20 模式识别和模式的概念 什么是模式识别？ Anil K. Jain: Pattern recognition is the study of how machines can: 1. observe the environment; 2. learn to distinguish patterns of interest from their background; 3. make sound and reasonable decisions about the categories of the patterns. 21 模式识别和模式的概念 什么是模式识别？ 22 模式识别和模式的概念 什么是模式识别？ 对象：样本 sample （模式） 模式：类 class （模式类） 观察：特征 features （属性） 模式识别：将样本根据其特征归类，又称模式 分类（pattern classification）； 例：硬币分类 三类：1角、5角、1元 特征：重量、体积、文字、图案…… 23 模式识别系统