§33协方差及相关系数 定义3.7:X,Y的协方差定义为 cOV(X, Y=ELX-EXOr-EYI X,Y的相关系数定义为: DXVDY 说明:pxy表征了X,Y线性相关的程度。 协方差的性质: 1. cov(X, =cov(r, X), cov(X, X=DX 2.cov(X,Y)=E(XY)-EYEY(计算式) 3. cov(ax, br)=ab cov(X, Y) 4. cOV(X+X2, r)=coV(X, r)+ cov(X,Y) 5.若X与Y独立,则cov(X,Y)=0 6.D(X±Y)=D(X)+D(Y)±2cov(X,Y) 证6: D(X±Y)=E(X±Y)-E(X±y2=E(X-EX)±(Y-EY =EL(-EX)+(Y-EY)2+2(Y-EX)(Y-EY)I =D(X)+D(r+2cov(X, r) 若X与Y独立 cOV(X, Y)=ELOX-EXOY-EyI =ECX-EXEQY-EY)=0 例320:设K1X2…,xn为随机变量,a12a2…an为常数 求D∑aX1)
§3.3 协方差及相关系数 定义 3.7： X,Y 的协方差定义为： cov(X ,Y ) = E[(X − EX )(Y − EY )] X,Y 的相关系数定义为： DX DY X Y X Y cov( , ) ρ = 说明： ρ X Y 表征了 X,Y 线性相关的程度。 协方差的性质： 1．cov(X ,Y ) = cov(Y, X ), cov(X , X ) = DX 2．cov(X ,Y ) = E(XY ) − EXEY （计算式） 3．cov(aX ,bY ) = abcov(X ,Y ) 4．cov( , ) cov( , ) cov( , ) X1 + X2 Y = X1 Y + X2 Y 5．若 X 与 Y 独立，则 cov(X ,Y ) = 0 6． D(X ± Y ) = D(X ) + D(Y ) ± 2cov(X ,Y ) 证 6： 2 D(X ± Y) = E[(X ± Y) − E(X ± Y)] = 2 E[(X − EX ) ± (Y − EY)] = [( ) ( ) 2( )( )] 2 2 E X − EX + Y − EY ± X − EX Y − EY = D(X ) + D(Y ) ± 2cov(X ,Y ) 若 X 与 Y 独立 cov(X ,Y ) = E[(X − EX )(Y − EY )] = E(X − EX )E(Y − EY ) = 0 例 3.20：设 X1, X2 ,", Xn 为随机变量， a1,a2 ,"an 为常数 求 ( ) 。 1 ∑= n i D aiXi
解:D∑aX)=E∑ax1-E(∑aX)=ED∑a(X1-EX EC∑q(X-EXx-E,-∑∑ aa: cov(x,X) ∑aD(X)+2∑∑aa1cov(x,X) 若X1,H2,…,Xn独立,则 D∑ax)=∑aD(X) 例321:设(XY)的密度函数为 (x+y),0≤x≤1,0≤y≤2 p(x, y) 其它 求D(2X-3+8) 解:D(2X-3y+8)=D(2X-3)=4DX+9D-12cov(X,y P2(x)=」2(x+y)d=(x+1)0≤x≤1 E(X)=x3(x+1)d E(x2)=x23(x+1xs 9 18 D(X)=E(x2)-(E)213同理:D()81 E(r) 1 (x+y)dydx cov(x, Y)=E(XY)-EXEY=-L D(2X-3Y+8)245 81-3.025 例322:设(X,Y)~N(1,42,01,02,P),求Pxy Mr: cOV(X, Y)=E(X-EX)(Y-E
解： ( ) = = 1 ∑= n i D aiXi 2 1 1 [ ( )] i n i i i n i E ∑aiX E ∑a X = = − 2 1 [ ( )] i i n i E ∑ai X − EX = = [ ( )( )]= 1 1 i i j j n i n j E ∑∑ai aj X − EX X − EX = = cov( , ) 1 1 i j n i n j ∑∑ai aj X X = = = ( ) 2 cov( , ). 1 2 j i j i j i i n i ∑ai D X ∑∑a a X X = < + 若 X1, X2 ,", Xn 独立，则 ( ) = 1 ∑= n i D aiXi ( ) 1 2 i n i ∑ai D X = 例 3.21：设(X,Y)的密度函数为 ⎪ ⎩ ⎪ ⎨ ⎧ + ≤ ≤ ≤ ≤ = 0 , 其它 ( ) , 0 1, 0 2 3 1 ( , ) x y x y p x y 求 D(2X − 3Y + 8) 。 解： D(2X − 3Y + 8) = D(2X − 3Y ) = 4DX + 9DY −12cov(X ,Y ) ( 1) ,0 1 3 2 ( ) 3 1 ( ) 2 0 = + = + ≤ ≤ ∫ p x x y dy x x X 9 5 ( 1) 3 2 ( ) 1 0 = + = ∫ E X x x dx 18 7 ( 1) 3 2 ( ) 1 0 2 2 = + = ∫ E X x x dx 162 13 ( ) ( ) ( ) 2 2 D X = E X − EX = 同理： 81 23 D(Y ) = 3 2 ( ) 3 1 ( ) 1 0 2 0 = + = ∫∫ E XY xy x y dydx 81 1 cov(X ,Y ) = E(XY ) − EXEY = − 3.025 81 245 D(2X − 3Y + 8) = = 例 3.22：设（X,Y）～ ( , , , , ) ，求 2 2 2 N µ1 µ2 σ1 σ ρ ρ X Y 。 解：cov(X ,Y ) = E(X − EX )(Y − EY )
E(X-AY-2)=∫∫(x-Xy-2)p(x,y)b=oa2 ∞-∞ DX√DY 的性质 L l 2.|pxy1分PY=ax+b}=1,即X,Y几乎处处呈线性相关。 X-EX Y-EY 证明:pxy=cov( DX DY X-EX Y-EX l、构造:z D(Z=DI X-EX Y-EX DX DI X-EX X-EX Y-EY 7Dx)+D、Dy2)2co 1+1±2pxy=2(1±pxy)≥0 所以 ≤Pxy≤1即|pxy 2、充分性:设P{Y=aX+b}=1 Y=ax+b as ey=aex +b. dy=adx E(X-EXY-ED GE(X -EX) /τ Y DX√a2Dx|al I Pxr =l 必要性:设Pxy|=1,即pxy=±1 由于D X-EX Y-EX )=2(1xy) 当pxy=1时,有D( X-EX Y-Ey )=2(1-pxy)=0
= E(X )(Y ) (x )( y ) p(x, y) dxdy = − µ1 − µ2 = ∫ ∫ − µ1 − µ2 +∞ −∞ +∞ −∞ ρσ1 σ 2 ρ σ σ ρσ σ ρ = = = 1 2 1 2 cov( , ) DX DY X Y X Y ρ X Y 的性质： 1．| ρ X Y | ≤ 1 2．| ρ X Y |=1⇔ P{Y = aX +b}=1，即 X,Y 几乎处处呈线性相关。 证明： ρ X Y = cov( , ) DY Y EY DX X − EX − 1、 构造： DY Y EY DX X EX Z − ± − = ( ) ( ) 2cov( , ) ( ) [ ] DY Y EY DX X EX DY Y EY D DX X EX D DY Y EY DX X EX D Z D − − ± − + − = − ± − = =1+1± 2ρ X Y = 2(1± ρ X Y ) ≥ 0 所以 −1 ≤ ρ X Y ≤ 1 即 | ρ X Y | ≤ 1。 2、 充分性： 设 P{Y = aX + b} = 1 Y = aX + b , a.s EY aEX b DY a DX 2 = + , = ρ X Y = | | ( )( ) ( ) 2 2 a a DX a DX aE X EX DX DY E X EX Y EY = − = − − | ρ X Y |= | | a | a | =1 必要性：设| ρ X Y |=1，即 ρ X Y = ±1。 由于 ( ) 2(1 ) = ± ρ X Y − ± − DY Y EY DX X EX D 当 ρ X Y =1 时，有 ( ) = 2(1− ) = 0 − − − X Y DY Y EY DX X EX D ρ
所以PX-EXY EY =0}=1 即P{Y= + ey VDrEr= Dr, b=EY-DY DY eX 则有P{=aX+b}=1 同理可证pxy=-1时,有P{Y=aX+b}=1证毕 定义3.8若pxy=0时,则称XY不相关 X,Y独立与X,Y不相关的关系: X,Y独立则它们不相关,反之不真 例323:设X~N(0,1,Y=x2,求pxy。 AT: EX=0, DX=1.EY=1, DY=2 Prr=E(r-EX(Y-EY) ELX(Y-D) EXY EX3=0 故X,Y不相关,但X,Y存在非线性关系。 理:设(X,F)N(A1,422,a2,p),则有 X,Y独立分X,Y不相关 证明:Pxy=p,由P4—例212: X,Y独立台p=0即Pxy=0,即xY不相关 设n维随机变量:X=(X1,X2…,Xn) X的数学期望定义为:E(X)=(EX1,EH2…,EXn)=4 X的协方差阵定义为: cov(X, X)=ELCX-EX)(X-EX)]
所以 { = 0} = 1 − − − DY Y EY DX X EX P 即 { = + − EX} = 1 DX DY X EY DX DY P Y 令 EX DX DY b EY DX DY a = , = − 则有 P{Y = aX + b} = 1 同理可证 ρ X Y = −1时，有 P{Y = aX + b} = 1 证毕！ 定义 3.8 若 ρ X Y =0 时，则称 X,Y 不相关 X,Y 独立与 X,Y 不相关的关系： X,Y 独立则它们不相关，反之不真。 例 3.23：设 X～N(0,1), Y= 2 X , 求 ρ X Y 。 解： EX=0, DX=1, EY=1, DY=2 ρ X Y = 1 2 ( )( ) [ ( −1)] = − − E X Y DX DY E X EX Y EY = 0 2 1 2 1 3 EXY = EX = 故 X,Y 不相关，但 X,Y 存在非线性关系。 定理：设( , ) ( , , , , ) ，则有 2 2 2 X Y ～N µ1 µ2 σ1 σ ρ X,Y 独立⇔ X,Y 不相关 证明： ρ X Y = ρ ，由 P41——例 2.12： X,Y 独立⇔ ρ = 0 即 ρ X Y =0，即 X,Y 不相关。 设 n 维随机变量： Τ = ( , , , ) X X1 X2 " Xn X 的数学期望定义为： µ ∆ Τ E(X ) = (EX1,EX2 ,",EXn ) = X 的协方差阵定义为： cov( , ) [( )( ) ] Τ ∆ X X =E X − EX X − EX
XI-EX X.-EX (X1-EX, X2-EX2,",X-EX) coV(X,, X, cov(X,, X2)...COV(X,Xn) cov(X2, XI cov(X2,X2).cOV(X2,Xn) cov(Xn,X1)cov(Xn,X2)……cov(xn,Xn 4O21a2 00 2 协方差阵∑是一个对称非负定矩阵。 n维正态分布:X(X1,X2,…,X1)~N(∑) ∑ ∑ 其中x=(x,x2…,xn) 例3.24:设XN(4,a12),Y~N(A2,G2) 且X,Y独立,令U=x+,V=X-。求Pu 解:EU=1+2,EV=山1-2 DU=o+ D EUV=E(X-Y)=EX-EY=DX+(EX)-[Dr +(Ey] =a2+12-(a2+m2) Cov(U, )=EUV-EUEV=01-02 cov DU√Da2+a2
= ( ) ⎥ ⎥ ⎥ ⎥ ⎥ ⎦ ⎤ ⎢ ⎢ ⎢ ⎢ ⎢ ⎣ ⎡ − − − ⎟ ⎟ ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝ ⎛ − − − n n n n X EX X EX X EX X EX X EX X EX E , , , 1 1 2 2 2 2 1 1 " # = ⎟ ⎟ ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝ ⎛ cov( , ) cov( , ) cov( , _ cov( , ) cov( , ) cov( , ) cov( , ) cov( , ) cov( . ) 1 2 2 1 2 2 2 1 1 1 2 1 n n n n n n X X X X X X X X X X X X X X X X X X "" # # # # "" "" ∑ ∆ ∆ = ⎟ ⎟ ⎟ ⎟ ⎟ ⎠ ⎞ ⎜ ⎜ ⎜ ⎜ ⎜ ⎝ ⎛ = n n nn n n σ σ σ σ σ σ σ σ σ "" # # # # "" "" 1 2 21 22 2 11 12 1 协方差阵∑ 是一个对称非负定矩阵。 n 维正态分布： ( , , , ) ( , ). 1 2 ∑ Τ X～ X X " Xn ～Nn µ ∑ = − − − Τ − ∑ [( ) ( )] 2 1 2 1 2 1 (2 ) | | 1 ( ) µ µ π x x n X～p x e 其中 Τ = ( , , , ) 1 2 n x x x " x 例 3.24：设 ( , ) , ( , ) 2 2 2 2 X～N µ1 σ1 Y～N µ σ 且 X,Y 独立，令U = X + Y, V = X − Y 。求 ρ UV 。 解： 1 2 1 2 EU = µ + µ , EV = µ − µ 2 2 2 1 2 2 2 1 DU = σ +σ , DV = σ +σ 2 2 2 2 EUV = E(X − Y ) = EX − EY = ( ) [ ( ) ] 2 2 DX + EX − DY + EY = ( ) 2 2 2 2 2 1 2 σ1 + µ − σ + µ 2 2 2 1 cov(U,V ) = EUV − EUEV = σ −σ 2 2 2 1 2 2 2 1 cov( , ) σ σ σ σ ρ + − = = DU DV U V U V