37 多元正态分布 多元正态分布的性质 口协方差矩阵Σ 1.参数μ和∑对分布具有决定性 ■是对称非负定阵，这里严格限定成正定阵，即 p(x)~N(μ，) IΣ1>0. ■多元正态分布由d+d(d+1)/2个参数完全确 ■对角线元素0是x相应分量x的方差，即0？。 定。 ■非对角线元素0是和y的协方差，衡量了分 量间的相关性。 2.等密度点的轨迹为超椭球面 手果x原马线动料立，购=4X,-6川 ■p(x)是指数函数，因此等概率密度点对应于指 口电0唐】，则p是x中图元的单 数项为常数，即 李正杏密度函数的内积。 (x-)「(《-)=常数； 39 40 多元正态分布的性质 多元正态分布的性质 2.等密度点的轨迹为超椭球面 2. 等密度点的轨迹为超椭球面 置 在二维情况下，方程的解是一个椭圆轨迹，其 ■马氏距离(Mahalanobis distance):随机向量x偏 长短轴方向由协方差矩阵∑的特征向量决定： 离均值向量μ的距离 在三维时则是一个椭球面；超过三维则是超椭 球面，主轴方向由协方差矩阵的特征向量决 r=/(x-H)(x-p); 定，各主轴的长度则与相应的特征值成正比。 口在数理统计中，常用来确定未知样本集和已知样 伤 本集的相似性；考虑到各种特性之间的联系(C.f. 欧式距离)：与尺度无关，即独立于测量尺度； 口也可衡量两个服从同一分布并且其协方差矩阵为 Σ的随机变量的差异程度。 ■Σ=I,即为欧式距离； ■Σ=diag(o子…o),即为归一化的欧式距离。 41 多元正态分布的性质 多元正态分布的性质 3.分布的离散程度 5.不相关性等价于独立性 ■由参数|Σ1/2决定，与单变量时由标准差。决 ■x和y相互独立：p心y=p6p心 定相一致。 ■：和不相关：E]=EE 4.边缘分布和条件分布的正态性 ■如多元正态分布的任意两个分量互不相关，则 ■多元正态分布的边缘分布和条件分布仍然是正 它们一定独立。 态分布； o2=0,i≠j ■如多元正态随机向量X的协方差阵是对角阵， 则x各分量之间是相互律的正态分怖随机变量。 p(x)~N() 0 →p(x)=Πpx)37 2 1 1 1 12 2 2 2 21 1 1 1 2 2 1 12 2 2 21 2 [( ) ] [( )( )] [( )( )] [( ) ] . Ex Ex x Ex x Ex                           Σ 多元正态分布  协方差矩阵Σ  是对称非负定阵，这里严格限定成正定阵，即 |Σ| > 0。  对角线元素σii2是 x 相应分量 xi 的方差，即σi 2 。  非对角线元素σij2是 xi 和 xj 的协方差，衡量了分 量间的相关性。 如果xi 和 xj统计独立，则σij=0。 如σij=0（任意i≠j），则p(x) 是x 中各元素的单 变量正态密度函数的内积。 38 多元正态分布的性质 1. 参数μ和 Σ对分布具有决定性  多元正态分布由 d+d(d+1)/2 个参数完全确 定。 2. 等密度点的轨迹为超椭球面  p(x) 是指数函数，因此等概率密度点对应于指 数项为常数，即 p(x) ~ N(μ,Σ);    T 1 (x μ) Σ (x μ) 常数; 39 多元正态分布的性质 2. 等密度点的轨迹为超椭球面  在二维情况下，方程的解是一个椭圆轨迹，其 长短轴方向由协方差矩阵Σ的特征向量决定； 在三维时则是一个椭球面；超过三维则是超椭 球面，主轴方向由协方差矩阵的特征向量决 定，各主轴的长度则与相应的特征值成正比。  例： 1 2 1 2 2 0 4 0 1/4 0 , , , 0 01 0 1 1, 4 x x                      如   是一个椭圆。 40 多元正态分布的性质 2. 等密度点的轨迹为超椭球面  马氏距离(Mahalanobis distance)：随机向量 x 偏 离均值向量 μ的距离  在数理统计中，常用来确定未知样本集和已知样 本集的相似性；考虑到各种特性之间的联系(c.f. 欧式距离)；与尺度无关，即独立于测量尺度；  也可衡量两个服从同一分布并且其协方差矩阵为 Σ的随机变量的差异程度。  Σ=I，即为欧式距离；  Σ=diag(σ1 2, …,σd 2 )，即为归一化的欧式距离。 r ;    T 1 (x μ) Σ (x μ) 41 多元正态分布的性质 3. 分布的离散程度  由参数|Σ|1/2决定，与单变量时由标准差σ决 定相一致。 4. 边缘分布和条件分布的正态性  多元正态分布的边缘分布和条件分布仍然是正 态分布； 42 2 2 11 2 1 () ( ) 0, 0 0 ij nn n i i p px  i j                   x     多元正态分布的性质 5. 不相关性等价于独立性  xi 和 xj 相互独立：p(xi ,xj )＝p(xi )p(xj )；  xi 和 xj 不相关： E[xi xj ]＝E[xi ]·E[xj ]；  如多元正态分布的任意两个分量互不相关，则 它们一定独立。  如多元正态随机向量x的协方差阵Σ是对角阵， 则x各分量之间是相互独立的正态分布随机变量