31 正态分布 单变量的正态分布 口目的：结合一种比较典型的概率分布来进一步研究基于 A bell-shaped distribution defined by the probability density function 最小错误率Bayes决策分类器。 口Bayes?决策的三个前提： 1 ·@类别数确定；@各类的先脸概率P(®已知；③各类的 p(x)= e 2a 条件概率密度函数pxw)已知， v2no 口Bayesa决策中，类条件概率密度的选择要求： If the randon variable x follows a normal distribution,then ■模型合理性 ◆The probabi1 ity that Y wi11Eal】4 nto the1 nterval《e,b)4a given by ■计算可行性 口最常用概率密度模型：正态分布 ·apsed,.6eaa,vaiue of瓦X灯=了prdt= ■观测值通常是很多种因素共同作用的结果，根据中心极 限定理，它们（近似）服从正态分布。 Var(x)=EI(x-)]=[(x-u)'p(x)dx=a2 。计算、分析最为简单的模型， Standard deviation of x.a',in 0.=0 33 单变量的正态分布 单变量的正态分布 口样本主要集中分布在其均值附近，其分散程度用 口p)完全由u与σ2确定，常记作N(u,σ2)。 标准差来衡量，。愈大分散程度也越大。从分布 口正态分布的熵(entropy)在所有的已知均值及方 的总体中抽取样本，约有95%的样本都落在区间 差的分布中最大。 (4-20,u+20)内。 Hp(x)=-∫px)npx)d 80%of area(prohabi5y）花sm:士1.28 %of area (probability)lies in 口p)关于均值对称，最大值位于x=μ处， 1 p0=2πo 25 35 多元正态分布 多元正态分布 口概率密度函数 口如x服从多元正态分布，则有 1 μ=Ex=∫xp(x)dk P(x)= 2a)区cp--n/z'-. Σ=Ex--]=∫(K--'p) 其中： 口具体的，如x是x的第i个分量，μ是μ的第i个 【=[,x,…,x是d维列向量(T表示向量的转置)： 分量，01是∑的第个元素，则有 μ=4,4，…，4是d维均值向量： 4=Ex]=∫xpd Σ是d×d协方差矩阵： o=g-43,-4] 工是的逆矩阵，四是Σ的行列式。 =g-4x,4,p,x,,本31 正态分布  目的：结合一种比较典型的概率分布来进一步研究基于 最小错误率Bayes决策分类器。  Bayes决策的三个前提：  ①类别数确定；②各类的先验概率P(ωi)已知；③各类的 条件概率密度函数p(x|ωi)已知。  Bayes决策中，类条件概率密度的选择要求：  模型合理性  计算可行性  最常用概率密度模型：正态分布  观测值通常是很多种因素共同作用的结果，根据中心极 限定理，它们（近似）服从正态分布。  计算、分析最为简单的模型。 32 单变量的正态分布 33 单变量的正态分布  p(x)完全由μ与σ2确定，常记作N(μ, σ2)。  正态分布的熵(entropy)在所有的已知均值及方 差的分布中最大。  p(x)关于均值对称，最大值位于x=μ处，      H p(x)   p(x)ln p(x)dx; . 2 1 ( )  p   34 单变量的正态分布  样本主要集中分布在其均值附近，其分散程度用 标准差来衡量，σ愈大分散程度也越大。从分布 的总体中抽取样本，约有95%的样本都落在区间 (μ-2σ,μ+2σ)内。 35 多元正态分布  概率密度函数 1 1 1/2 2 / 2 1 2 1 2 1 1 ( ) exp( ( ) ( )), (2 ) [ , , , ] [ , , , ] T d T d T d p xx x d T d d d            x x μ Σ x μ Σ x μ Σ Σ Σ ΣΣ   其中： 是 维列向量( 表示向量的转置)； 是 维均值向量； 是 协方差矩阵； 是 的逆矩阵， 是 的行列式。 36 多元正态分布  如 x 服从多元正态分布，则有  具体的，如 xi 是 x 的第i个分量，μi是μ的第i个 分量，σij2是Σ的第ij个元素，则有 [] () ; [( ) ] ( ( ) ; T T E pd E p d       μ x xxx Σ x -μ)(x -μ x -μ)(x -μ) xx 2 [] () ; [( )( ) ] ( )( ) ( , ) . i i i ii T ij i i j j T i i j j ij ij E x x p x dx Ex x x x p x x dx dx             