§3.5随机变量的数字特征、契贝晓夫有等式 我们已经知道离散型随机变量5的数学期望为 B5-2xP5=x) 现在,自然要问连续型随机变量的数学期望是什么?我们就来讨论这个问题。 设5是一个连续型随机变量,密度函数为p(x),取分点: Xo<1<Xn+ 则随机变量落在Ax=(X1,X41)中的概率为 p(x)ds 当△x,相当小时,就有 P(5eAx)≈px)Ax,0,l,…,n 这时,分布列为 X。 px)Ar,p(s,)Ar,Ps.)ar 的离散型随机变量可以看作是5的一种近似,而这个离散型随机变量的数学期望为 x,P(x,)Ax, 它近似地表达了连续型随机变量二的平均值。当分点愈密时,这种近似也就愈好,由数学 分析上述和式以积分 xp(x)ds 为极限,因而我们有下述定义。 定义3.7设5是一个连续型随机变量,密度函数为p(x),当 xp(x)< 时,称5的数学期望存在,且
§3.5 随机变量的数字特征、契贝晓夫有等式 我们已经知道离散型随机变量 的数学期望为 E = ( ) 1 i n i i x P = x = 现在,自然要问连续型随机变量的数学期望是什么?我们就来讨论这个问题。 设 是一个连续型随机变量,密度函数为 p(x) ,取分点: x 0 <x 1 <…<x n+1 则随机变量落在 i x =(x 1 ,x i+1 )中的概率为 P ( ∈ i x )= +1 ( ) i i x x p x dx 当 i x 相当小时,就有 P ( ∈ i x ) ( ) i p x i x ,i=0,1, …,n 这时,分布列为 [ 0 0 0 p(x ) x x 1 1 1 p(x ) x x n n n p x x x ( ) ] 的离散型随机变量可以看作是 的一种近似,而这个离散型随机变量的数学期望为 i i n i i x P x x = ( ) 1 它近似地表达了连续型随机变量 的平均值。当分点愈密时,这种近似也就愈好,由数学 分析上述和式以积分 − xp(x)dx 为极限,因而我们有下述定义。 定义 3.7 设 是一个连续型随机变量,密度函数为 p(x) ,当 − | x | p(x)dx 时,称 的数学期望存在,且
Bi-xp(x)dx (3.61) 这里要求|xp(x)k<o0的理由与离散型时要求立1x,P(5=x)<0 的理由是相同的。同离散型情形一样,连续型随机变量5的数学期望E5是5的可能取值 (关于概率)的平均。 例3.17设5在品b上均匀分布,求E5 解由例3.1己知5的密度函数为 1 ,a≤x≤b p(x)=b-a 0,其他 故 这个结果是显然的。因为5在品,b]上均匀分布,它取值的平均值当然应该在[品b)的 中间,也就是a+b。 例3.18(略) 例3.19(略) 例3.20(略) 定理32若5是一个连续型随机变量,密度函数为p(x),又f(x)是实变量x的函 数,且 [lf(x)I p(x)dx<o 则有 Ef)-广fx)p(x)k (3.65) 如果(x)满足定理3.1的条件,那么利用定理3.1即可证明定理。对多维情形也有类 似的定理,仍以二维为例,有 定理3.3设(5,)是二维连续型随机变量,密度函数为p(x,y),又f(x,y)是二元 函数,则随机变量5=f(5,)的数学期望为
E = − xp(x)dx (3.61) 这里要求 − | x | p(x)dx 的理由与离散型时要求 = = | | ( ) 1 i n i i x P x 的理由是相同的。同离散型情形一样,连续型随机变量 的数学期望 E 是 的可能取值 (关于概率)的平均。 例3.17 设 在[a, b]上均匀分布,求 E 解 由例 3.1 已知 的密度函数为 p(x)= − 0,其他 , 1 a x b b a 故 E = − a b dx b a x 1 = 2 | 2 1 2 x a b b a b a + = − 这个结果是显然的。因为 在[a, b]上均匀分布,它取值的平均值当然应该在[a, b]的 中间,也就是 2 a + b 。 例 3.18(略) 例 3.19(略) 例 3.20(略) 定理 3.2 若 是一个连续型随机变量,密度函数为 p(x) ,又 f (x) 是实变量 x 的函 数,且 − | f (x) | p(x)dx 则有 E f ( ) = − f (x) p(x)dx (3.65) 如果 f (x) 满足定理 3.1 的条件,那么利用定理 3.1 即可证明定理。对多维情形也有类 似的定理,仍以二维为例,有 定理 3.3 设 (,) 是二维连续型随机变量,密度函数为 p(x, y) ,又 f (x, y) 是二元 函数,则随机变量 = f ( ,) 的数学期望为
E5=Ef5,n=广f(x.y)p(,.ykd (3.66) 这里,当然也要求上述积分为绝对收敛 如同离散型随机变量,连续型随机变量的数学期望也具有下述性质: (1)若,则存在a≤5≤b,且a≤E5≤b: (2)对任一二维连续型随机变量(5,),若存在B5、E),则对任意的实数k1、k2, E(k5+k2门)存在且 E(k15+k2刀)=kE5+k,E7 (3.67) (3)又若5、刀相互独立,则E51存在且 E(n)=En (3.68) 这些性质的证明也与离散型场合相同只要把那里的和号“∑”换成积分号“「”,并把 分布列换成密度函数就可了,我们把它留给读者作为一个练习 接下米读者大概会想到应该讨论连续型随机变量的方差了。 正是如此,在前一章中已经知道E(5-E5)2可衡量随机变量5离开它的均值E(5) 的平均偏离程度,因而我们理所当然地有下述定义。 定义3.8若5是一个随机变量,又E(5-E5)2存在,则称E(5-E5)2是随机变 量5的方差,记作D5或5,并称√D5是5的根方差或标准差。 如果5的密度函数为p(x),则由前述的,有 D5-E(5-E5)2=广(x-E5}px) -[x2-2x·E5+(E)]px)d =x产px)dk-2B5.广xx)dt+(E) ▣c52-B5)2 (3.69 这一关系也是意料中的。因为它与离散型情形完全相同。 例3.21(略) 例3.22(略) 例3.23(略)
E = E f ( ,) = − − f (x, y) p(x, y)dxdy (3.66) 这里,当然也要求上述积分为绝对收敛。 如同离散型随机变量,连续型随机变量的数学期望也具有下述性质: (1)若,则存在 a≤ ≤b,且 a≤E ≤b; (2)对任一二维连续型随机变量 (,) ,若存在 E 、E ,则对任意的实数 1 k 、 2 k , E( 1 k + 2 k )存在且 E( 1 k + 2 k )= 1 k E + 2 k E (3.67) (3)又若 、 相互独立,则 E 存在且 E( )=E ·E (3.68) 这些性质的证明也与离散型场合相同只要把那里的和号“ ”换成积分号“ ”,并把 分布列换成密度函数就可了,我们把它留给读者作为一个练习。 接下来读者大概会想到应该讨论连续型随机变量的方差了。 正是如此,在前一章中已经知道 E( − E ) 2 可衡量随机变量 离开它的均值 E( ) 的平均偏离程度,因而我们理所当然地有下述定义。 定义 3.8 若 是一个随机变量,又 E( − E ) 2 存在,则称 E( − E ) 2 是随机变 量 的方差,记作 D 或 Var ,并称 D 是 的根方差或标准差。 如果 的密度函数为 p(x) ,则由前述的,有 D =E( − E ) 2 = − (x − E ) p(x)dx 2 = − [x − 2x E + (E ) ]p(x)dx 2 2 = − x p(x)dx 2 –2E ﹒ 2 xp(x)dx + (E) − = c 2 -(E ) 2 (3.69) 这一关系也是意料中的。因为它与离散型情形完全相同。 例 3.21(略) 例 3.22(略) 例 3.23(略)
我们知道方差反映了随机变量离开数学期望的平均偏离程度。如果随机变量为5,数 学期望为E5,方差为D5,那么对任意的大于零的常数B,事件(|5-E5|≥E)发 生的概率P(5-E5|≥£)应该与D5有一定的关系。粗糙地说,如果D5愈大,那么 P(|5B5|≥B)也会大一些,把这个直觉严格化,就是下面著名的契贝晓夫不等式,我 们把它写成定理的形式。 定理3,4对任意的随机变量5,若B5=,又D5存在,则对任意的正常数£,有 A15E51≥E2器 (3.71) 在契贝晓夫不等式给出的估计中,只需要知道数学期望E5及方差D5两个数字特征就够 了,因而使用起来是比较方便的。但是也正因为它没有完整地用到随机变量的统计规律一分 布函数或密度函数,所以一般来说,它给出的估计是比较粗的。例如,若5是4,σ) 分布的随机变量,则由不等式(3.71)可得估计 P(l5-a≥3o)≤ 品器0n 而的§32的(3.71)己经指出 P15-a|≤30)≈0.997 故有 P|5-al≥30)≈0.003 比较这两者的结果,可知契贝晓夫不等式给出的估计的确是粗糙一些。利用契贝晓夫不等式 可以证明下列事实:随机变量5的方差D5-0的充要条件是5取某个常数值的概率为1 (证明略),即 P(5=a)=1 (3.72) 离散型时方差所具有的性质,连续型时也同样具有。例如有 (1)若C是常数,则D(C5)=C2D52 (3.73) (2)对任意的常数C≠E5,有 D5E(5-C)2 (374) (3)若是D5、E5两个相互独立的连续型随机变量,且D5、D存在,则有
由定义我们不难知道,正态分布中的参数 ,正好是服从该分布的随机变量的标准差, 于是正态分布由它的数学期望及标准差唯一确定。 我们知道方差反映了随机变量离开数学期望的平均偏离程度。如果随机变量为 ,数 学期望为 E ,方差为 D ,那么对任意的大于零的常数 ,事件(| -E |≥ )发 生的概率 P(| -E |≥ )应该与 D 有一定的关系。粗糙地说,如果 D 愈大,那么 P(| -E |≥ )也会大一些,把这个直觉严格化,就是下面著名的契贝晓夫不等式,我 们把它写成定理的形式。 定理 3.4 对任意的随机变量 ,若 E =a,又 D 存在,则对任意的正常数 ,有 P(| -E |≥ )≤ 2 D (3.71) 在契贝晓夫不等式给出的估计中,只需要知道数学期望 E 及方差 D 两个数字特征就够 了,因而使用起来是比较方便的。但是也正因为它没有完整地用到随机变量的统计规律―分 布函数或密度函数,所以一般来说,它给出的估计是比较粗的。例如,若 是 N( 2 , ) 分布的随机变量,则由不等式(3.71)可得估计 P(| -a|≥ 3 )≤ 2 (3 ) D = 9 1 0.11 而的§3.2 的(3.71)已经指出 P(| -a|≤ 3 ) 0。997 故有 P(| -a|≥ 3 ) 0.003 比较这两者的结果,可知契贝晓夫不等式给出的估计的确是粗糙一些。利用契贝晓夫不等式 可以证明下列事实:随机变量 的方差 D =0 的充要条件是 取某个常数值的概率为 1 (证明略),即 P( =a)=1 (3.72) 离散型时方差所具有的性质,连续型时也同样具有。例如有 (1)若 C 是常数,则 D(C )= C 2 D 2 (3.73) (2)对任意的常数 C E ,有 D <E 2 ( −C) (3.74) (3)若是 D 、E 两个相互独立的连续型随机变量,且 D 、D 存在,则有
D(5+7)=D5+Dn (3.75) 这些性质的证明与离散型情形是相同的,这里不再作进一步的叙述。 对二维随机变量(5,)来说,数学期望E5、E)只反映了5与)各自的平均值,方 差D5、D1只反映了5与各自离平均值的偏离程度,它们对5与之间相互联系不提 供任何信息。前面己经指出,二维随机变量(5,)的密度函数pX,y)或分布列P)全面地描 述了(5,)的统计规律,其中包含有5与刀相互联系的内容。如同数学期望和方差一样, 当然也希望有一个数字特征能够在一定程度上反映这种联系。现在我们已经发现当5与门 相互独立时,有 E(5-E5)(0-E1=0 (376) 也就是说,当E(5-E)(”-E1)丰0时,5与”肯定不独立。这说明 E(5一E5)(?-E门)的数值在一定程度上反映了5与)相互间的联系。因而我们引入 下述定义。 定义3.9若(5,)是一个二维随机变量,又 E引(5-E5)(I-E1Ko 则称E(5-E5)(0-En)为5与n的协方差,并记作Cov(5,),即 Cov(5,)-E(5-E5)(1-E7) (3.77) 由协方差的定义可知它具有下述性质: )Cov(5,)=Cov(,5): (②)若a、b为两个任意常数,则 Cov(as,bn)=ab.Cov() (3)Cov(5+52,)=Cov(5i,)+Cov(52,7) 协方差的数值虽然在一定程度上反映了5与)相互间的联系,但它还受5与刀本身 数值大小的影响。譬如说,令5与)各自增大K倍,即气=Kξ,=K,这时5与门 间的相互联系和与刀间的相互联系应该是一样的,可是反映这种联系的协方差却增大了 K2倍,即有
D ( +) = D +D (3.75) 这些性质的证明与离散型情形是相同的,这里不再作进一步的叙述。 对二维随机变量 (,) 来说,数学期望 E 、E 只反映了 与 各自的平均值,方 差 D 、D 只反映了 与 各自离平均值的偏离程度,它们对 与 之间相互联系不提 供任何信息。前面已经指出,二维随机变量 (,) 的密度函数 p(x,y)或分布列 p ij 全面地描 述了 (,) 的统计规律,其中包含有 与 相互联系的内容。如同数学期望和方差一样, 当然也希望有一个数字特征能够在一定程度上反映这种联系。现在我们已经发现当 与 相互独立时,有 E ( − E ) ( –E )=0 (3.76) 也就是说,当 E ( − E ) ( –E ) 0 时, 与 肯定不独立。这说明 E ( − E ) ( –E )的数值在一定程度上反映了 与 相互间的联系。因而我们引入 下述定义。 定义 3.9 若 (,) 是一个二维随机变量,又 E| ( − E ) ( –E )|< 则称 E ( − E ) ( –E )为 与 的协方差,并记作 Cov (,) ,即 Cov (,) =E ( − E ) ( –E ) (3.77) 由协方差的定义可知它具有下述性质: (1)Cov (,) = Cov (, ) ; (2)若 a、b 为两个任意常数,则 Cov (a ,b) =ab﹒Cov (,) (3) Cov ( , ) 1 + 2 = Cov ( , ) 1 + Cov ( , ) 2 协方差的数值虽然在一定程度上反映了 与 相互间的联系,但它还受 与 本身 数值大小的影响。譬如说,令 与 各自增大 K 倍,即 = K 1 ,1 = K ,这时 与 间的相互联系和 与 间的相互联系应该是一样的,可是反映这种联系的协方差却增大了 K 2 倍,即有
Cov()=K2Cov() 为了克服这一缺点,在计算随机变量5与刀的协方差之前,先对二与门进行“标准化”。 如果三是一个N(4,σ2)分布的正态随机变量,在§3.2中我们曾经提到,这时 =5-a 是分布的标准正态变量,所谓“标准”的意思无非是指E号-0,D5=1 而已。现在,对任意的一个随机变量5,若E5=a,D5=02,令 6"s5-a σ 由数学期望和方差的性质可知有E5=0,D5”=1,所以5”就是对5“标准化”以后的 随机变量。现引入下面的定义。 定义3.10若(5,)是一个二维随机变量,且 -9.g-到 DE 则称 Cov(5,)E(5-E5)(0°-En (3.78) Co(5,) DEDn 为随机变量5与刀的相关系数。 随机变量的相关系数常常用希腊字母P表示。顾名思义,相关系数反映了随机变量的 之间的相关一也就是它们相互之间的一种联系。到底是哪一种联系呢?这是我们希望进一步 弄清楚的问题,为此,先证明下述引理。 引理3.2若(传,)是一个二维随机变量,又E52<0,E72<0,则有 1E(5)2≤E52E72 (3.79) 不等式(3.9)通常也称为柯西一许瓦兹不等式,由这个不等式可得 (EI(5-E5n-E)D2≤E(5-E)*(-E) =D5·Dn 所以,当二维随机变量的两个分量具有方差时,它们间的协方差必定存在,显然这时的相关
Cov ( , ) 1 1 = K 2 Cov (,) 为了克服这一缺点,在计算随机变量 与 的协方差之前,先对 与 进行“标准化”。 如果 是一个 N( 2 , ) 分布的正态随机变量,在§3.2 中我们曾 经提到,这时 − a = 是分布的标准正态变量,所谓“标准”的意思无非是指 E =0,D =1 而已。现在,对任意的一个随机变量 ,若 E =a,D = 2 ,令 − a = 由数学期望和方差的性质可知有 E =0,D =1,所以 就是对 “标准化”以后的 随机变量。现引入下面的定义。 定义 3.10 若 (,) 是一个二维随机变量,且 E| D ( − E ) · D ( − E ) |< 则称 Cov ( , ) =E ( ) − E ( –E ) (3.78) = D D Cov ( , ) 为随机变量 与 的相关系数。 随机变量的相关系数常常用希腊字母 表示。顾名思义,相关系数反映了随机变量的 之间的相关—也就是它们相互之间的一种联系。到底是哪一种联系呢?这是我们希望进一步 弄清楚的问题,为此,先证明下述引理。 引理 3.2 若 (,) 是一个二维随机变量,又 E 2 < ,E 2 < ,则有 | E () | 2 ≤E 2 ·E 2 (3.79) 不等式(3.79)通常也称为柯西—许瓦兹不等式,由这个不等式可得 2 (E | ( − E)( − E) |) ≤ 2 2 E( − E) ( − E) = D ·D 所以,当二维随机变量的两个分量具有方差时,它们间的协方差必定存在,显然这时的相关
系数也存在。现在我们引出下述定理。 引理3.5设二维随机变量(5,)的两个分量5与的相关系数为P,则有 (1)1P1≤1: (②)1P≤2的充要条件是5与1以概率1线性相关。即存在常数a与b,使有 P(n-a+b)=1 (3.80) 相关系数只是随机变量间线性关系强弱一个度量,因而说得更确切一些,应该把这称作线性 相关系数,只是因为大家习惯了,所以叫做相关系数。当P1时,上述定理表明专与门间 存在着线性关系,并且容易验证当P=1时为正线性相关,P=-1时为负线性相关。当 IP1<1时,这种线性相关程度就随着P的减小而减弱。当P=0时,就称二与刀是不相 关的或零相关的。前面曾经指出,当5与门独立时,如果Cov(5,)存在,则必有 Cov(5,)=0,这表明5与门独立时,若相关系数存在,必有P=0。从而5与门是不相关 的,说得更确切些,也就是不线性相关的。到这里,读者肯定要问,当与门不相关时,5 与刀是否一定独立?回答是否定的,理由很简单,因为如果5与不相关,也就是说它们 之间不存在线性关系,但是它们之间还是可能存在着别的函数关系,从而是不独立的。下面 就是这样的一个例子(详略)。这就是说不相关和独立性是两个不同的概念,在一股情形下 并不能从不相关性推出独立性。不过对最常用的正态分布来说,不相关性和独立性是一致的。 例3.24(略) 例3.25(略) 前面讨论了随机变量的数学期望、方差及协方差这些数字特征,如果数学期望为,则 方差 D5-E52-(E5)1 对连续型随机变量,设密度函数为p(x:对离散型随机变量,设分布列为P,=印(5=x) 则计算式分别为: E=[xp(x)dx. BE-ZxP B2-x"p(x)dx B8-p 这些计算式与物理学中静力矩和惯性矩的计算式相似,借用物理学中“矩”的名字,E5,E
系数也存在。现在我们引出下述定理。 引理 3.5 设二维随机变量 (,) 的两个分量 与 的相关系数为 ,则有 (1) | |≤1; (2) | |≤2 的充要条件是 与 以概率 1 线性相关。即存在常数 a 与 b,使有 P( =a +b)=1 (3.80) 相关系数只是随机变量间线性关系强弱一个度量,因而说得更确切一些,应该把这称作线性 相关系数,只是因为大家习惯了,所以叫做相关系数。当| |=1 时,上述定理表明 与 间 存在着线性关系,并且容易验证当 =1 时为正线性相关, =-1 时为负线性相关。当 | | 1 时,这种线性相关程度就随着| |的减小而减弱。当 =0 时,就称 与 是不相 关的或零相关的。前面曾经指出,当 与 独立时,如果 Cov (,) 存在,则必有 Cov (,) =0,这表明 与 独立时,若相关系数存在,必有 =0。从而 与 是不相关 的,说得更确切些,也就是不线性相关的。到这里,读者肯定要问,当 与 不相关时, 与 是否一定独立?回答是否定的,理由很简单,因为如果 与 不相关,也就是说它们 之间不存在线性关系,但是它们之间还是可能存在着别的函数关系,从而是不独立的。下面 就是这样的一个例子(详略)。这就是说不相关和独立性是两个不同的概念,在一般情形下 并不能从不相关性推出独立性。不过对最常用的正态分布来说,不相关性和独立性是一致的。 例 3.24(略) 例 3.25(略) 前面讨论了随机变量的数学期望、方差及协方差这些数字特征,如果数学期望为,则 方差为 D = E 2 — 2 (E) 对连续型随机变量,设密度函数为 p(x);对离散型随机变量,设分布列为 p i =p( =x i ), 则计算式分别为: E = − xp(x)dx , E = i i xi p =1 E 2 = − x p(x)dx 2 , E 2 = i i xi p =1 2 这些计算式与物理学中静力矩和惯性矩的计算式相似,借用物理学中“矩”的名字,E , E 2
分别称为一阶矩和二阶矩。对任意正整数k可以自然地定义 E5=x'pax)d或E5-p, 如果它们存在的话,这时称E是随机变量5的k阶炬。 我们注意到方差D5-E(5一E5)?,当然也可以对任意的正整数k,考虑 E(5-E5)A 它也是一种k阶矩。前面已经提到E5是5的一个“中心”,因面常常把E(5一E5)称 作是5的k阶中心矩。而E5对原点X0的k阶矩,也就称B5是5的k阶原点矩。由此 可知,数学期望E5是一阶原点矩,方差D5是二阶中心矩。 更一般地,若a是某一常数,P是任一正数,如果 E(-a)" 存在,则称E(5一a)P是关于a点的p阶矩。 以上说的是一维随机变量的矩,对多维随机变量,问题当然要复杂一点。我们还是来 考虑二维的情形。 若(5,)是一个二维随机变量,通常考虑下面两种形式的矩 E(5·) E(5-E5)(5-E52)/ 其中k,I是两正整数,它们分别称为k+H阶的混合矩和k+1阶的中心混合矩。其中用得最 多的是上1时的情形,这时1+1阶中心混合矩就是前面已经提到过的协方差。现在,我 们把(5,52)写成列向量的形式: 图 它的转置为 图动 这时5的数学期望,即一阶原点矩为 )- 类似于一维情形,可以对5定义二阶中心矩:
分别称为一阶矩和二阶矩。对任意正整数 k,可以自然地定义 E k = − x p x dx k ( ) 或 E k = i i k xi p =1 如果它们存在的话,这时称 E k 是随机变量 的 k 阶矩。 我们注意到方差 D = 2 E( − E) ,当然也可以对任意的正整数 k,考虑 k E( − E) 它也是一种 k 阶矩。前面已经提到 E 是 的一个“中心”,因面常常把 k E( − E) 称 作是 的 k 阶中心矩。而 E k 对原点 x=0 的 k 阶矩,也就称 E k 是 的 k 阶原点矩。由此 可知,数学期望 E 是一阶原点矩,方差 D 是二阶中心矩。 更一般地,若 a 是某一常数,p 是任一正数,如果 p E( − a) 存在,则称 p E( − a) 是关于 a 点的 p 阶矩。 以上说的是一维随机变量的矩,对多维随机变量,问题当然要复杂一点。我们还是来 考虑二维的情形。 若 (,) 是一个二维随机变量,通常考虑下面两种形式的矩: ( ) 1 2 k l E k E( E ) 1 − 1 l ( E ) 1 − 2 其中 k,l 是两正整数,它们分别称为 k+l 阶的混合矩和 k+l 阶的中心混合矩。其中用得最 多的是 k=l=1 时的情形,这时 1+1 阶中心混合矩就是前面已经提到过的协方差。现在,我 们把( 1 , 2 )写成列向量的形式: = 2 1 它的转置为 2 1 =( 1 , 2 ) 这时 的数学期望,即一阶原点矩为 E = E 2 1 = 2 1 E E 类似于一维情形,可以对 定义二阶中心矩:
E(5-E5)(5-E5) 易知 @H) 它的转置为 (5-E5)-(5-E5,52-E52) 因而 E(5-E5)(5-E5) 低购}联后- e (51-E552-E5) (52-E52)2 _E(5-E5)2 E(5-E5X5-E5,)》 (E(52-E52(5-E5) E(52-E52)2 如果令 bg=E(5-E5)(5,-E5/,iF1,2 则有 E5-E5)(5-E5)=(by).J=1.2 易知 b1=D5,b2=D52 b2=b21=Cov(5,5) 故矩阵B=(b)1,2中的元素是51与52的方差与协方差,因而称B是5的协方差矩 阵。协方差矩阵B具有下述性质: (1)对称性:B=B: (②)非负性:即若C= 是一个任意的二维向量,则必有 (a2 aBa=∑b,a,a,20
E( —E ) ( —E ) ' 易知 —E = 2 1 —E 2 1 = − − 2 2 2 1 E E 它的转置为 ( —E ) ' =( 1 2 2 − E, − E ) 因而 E( —E ) ( —E ) ' =E − − 2 2 2 1 E E ( 1 2 2 − E, − E ) =E − − − − − − 2 2 2 1 1 2 2 1 1 2 2 2 1 1 ( )( ) ( ) ( ) ( )( ) E E E E E E = − − − − − − 2 2 2 1 1 2 2 1 1 2 2 2 1 1 ( )( ) ( ) ( ) ( )( ) E E E E E E E E E E 如果令 ij b = E( i —E i ) ( j —E j ),i, j=1,2 则有 E( —E ) ( —E ) ' =( ij b ) i, j=1,2 易知 11 b =D 1 , b22=D 2 b12 = b21= Cov ( , ) 1 1 故矩阵 B=( ij b ) i, j=1,2 中的元素是 1 与 2 的方差与协方差,因而称 B 是 的协方差矩 阵。协方差矩阵 B 具有下述性质: (1)对称性:B=B ' ; (2)非负性:即若 = 2 1 是一个任意的二维向量,则必有 0 2 , 1 ' = = j i j B biji
其中,对称性为显然,只要验证非负性。令 y-2a传-) 这时就有 名Aaa =EIa,5,-E5a,(5,-E5J} i.i=l =E7≥0 既然B是非负定矩阵,由二次型理论即知它的行列式|B引≥0。 现在我们可以方便地把上述讨论推广到n维情形。设 5=(5,52,…,5n) 是n维随机变量,又 b=E(5,-E5)(5-E5),ijF12.…n E(5-E5)(5-E5)=(b)1,J=1,2=B 是的协方差矩阵。同二维时所证,B是对称的非负定矩阵,且B≥0。 读者可能以为协方差矩阵B中的元素b,不就是方差与协方差吗?引入协方差矩阵的 概念,并把矩阵的运算引入到概率论中来有什么好处呢?那么请看下面: 设5=(51,52)是服从Ma1,a2,o,o,P)分布pK1)的二维正态随机变 量,其密度函数如式(3.43)所示,由过去的计算知的协方差矩阵为 (o02p03 IB=gjg;(1-P') 从而 1(o3-002P B-Bl-a:0 ai 再令
其中,对称性为显然,只要验证非负性。令 ( ) 2 1 i j i = i − E = 这时就有 j i j biji = 2 , 1 = {[ ( )][ ( )]} 2 , 1 i i j j j i j E i − E − E = =E 2 ≥0 既然 B 是非负定矩阵,由二次型理论即知它的行列式| B|≥0。 现在我们可以方便地把上述讨论推广到 n 维情形。设 ' =( 1 , 2 ,…, n ) 是 n 维随机变量,又 ij b = E( i —E i ) ( i —E i ),i, j=1,2,…,n 称 E( —E ) ( —E ) ' =( ij b ) i, j=1,2 = B 是的协方差矩阵。同二维时所证,B 是对称的非负定矩阵,且 B≥0。 读者可能以为协方差矩阵 B 中的元素 ij b 不就是方差与协方差吗?引入协方差矩阵的 概念,并把矩阵的运算引入到概率论中来有什么好处呢?那么请看下面: 设 ' =( 1 , 2 )是服从 N(a 1 , a 2 , 2 1 , 2 2 , )分布(| |<1)的二维正态随机变 量,其密度函数如式(3.43)所示,由过去的计算知的协方差矩阵为 B= 2 1 2 2 1 2 2 1 故 |B|= (1 ) 2 2 2 2 1 − 从而 B −1= | | 1 B − − 2 1 2 1 1 2 2 2 再令