节目录 第六章大数定律与中心极限定理 6.1大数定律 62中心极限定理 欐率统计(ZYH) ▲区u
概率统计(ZYH) 节目录 6.1 大数定律 6.2 中心极限定理 第六章 大数定律与中心极限定理
本章理论: 大量客观现象 大数定律 中心 极限 随机事件频率的稳定性定理 大量测量 抽象 公理化体系 值的算术 大量随机 平均值也 随机事件的概率 基础L 变量服从 是稳定的 正态分布 概率论的结论(前5章) 几 为数理统计」奠定基础 数理统计 欐率统计(ZYH) ▲区u
概率统计(ZYH) 本章理论: 随机事件的概率 随机事件频率的稳定性 大量客观现象 概率论的结论 (前5章) 公理化体系 大数定律 抽象 基础 大量测量 值的算术 平均值也 是稳定的 大量随机 变量服从 正态分布 中心 极限 定理 数理统计 为数理统计 奠定基础
61大数定律 定理1(切比雪夫大数定律)设X1,X2…相互独立且 分别有数学期望EX及有公共上界的方差DX≤K(k=1,2, 作算术平均值V=∑X,则对v6>0,有 lim P EY 或 n→ En"0(m→∞)(称Y-EY依概率收敛于0 其中EH=∑EX 切比雪夫大数定律以严格的数学形式表明:随着n的增 大,大量随机变量的算术平均值Yn稳定于它的期望值EYn 欐率统计(ZYH) ▲
概率统计(ZYH) 6.1 大数定律 lim − = 1 → n n n P Y EY 定理1 (切比雪夫大数定律) 设X1 , X2 , … 相互独立且 其中 分别有数学期望EXi 及有公共上界的方差 ( 1,2, ) DX K k i = 1 1 n n i i Y X n = 作算术平均值 = ,则 Y − EY ⎯→0 (n → ) P n n 或 ( 0) 称Y EY n n − 依概率收敛于 1 1 n n i i EY EX n = = 对 0,有 切比雪夫大数定律以严格的数学形式表明:随着n的增 大, 大量随机变量的算术平均值Yn稳定于它的期望值EYn
为了证明切比雪夫定理,先证明切比雪夫不等式: 引理1(切比雪夫不等式)设随机变量X有数学期望EX 及方差DX则对vE>0,有 P({X-EX≥e}(切比雪夫不等式) 或 P({X-EX<e}≥1 DX (切比雪夫不等式) 证(只就连续型证明)设密度为f(x,则有 PIIX-Ex(26]= f(x)dx s x-EX 2 f∫(x)dx x-EX≥E x-EX≥E + DX (x-EX)∫(x)d. 欐率统计(ZYH) ▲
概率统计(ZYH) 引理1 2 1 DX P X − EX − (切比雪夫不等式)设随机变量X 有数学期望EX 或 及方差DX, 则 对 0,有 2 DX P X − EX 证(只就连续型证明)设密度为f (x), 则有 − − = x EX P X EX f (x)d x − − x EX f x x x EX ( )d 2 2 + − (x − EX) f (x)d x 1 2 2 2 DX = (切比雪夫不等式) (切比雪夫不等式) 为了证明切比雪夫定理,先证明切比雪夫不等式:
e x> 例1设Xf(x)=1n! 用切比雪夫不等式证明 x≤0. n P{0<X<2(n+1)}≥ n+1 证EX= x +00 e +(n+ to dx=n+1 0n1 1+2 n+1 2 x EX xf-e dx e+(n+2 e-dx=(n+1)(n+2) n n! 所以DX=EX2-(EX)2=(n+2(n+1)-(n+1)2=n+1 从而P{0<X<2(+1)}=P{X-EXkn+1} n+1 n+1 (这里E=n+1) 欐率统计(ZYH) ▲区u
概率统计(ZYH) 例1 设X~ , 0, ( ) ! 0 , 0, n x x e x f x n x − = 用切比雪夫不等式证明 1 {0 2( 1)} + + n n P X n 证 0 e d ! n x x EX x x n + − = 2 2 0 e d ! n x x EX x x n + − = 所以 P{0 X 2(n + 1)} = P{| X − E X | n + 1} 2 ( 1) 1 1 + + − n n + 1 = n n 2 2 2 DX EX EX n n n = − = + + − + ( ) ( 2)( 1) ( 1) = n + 1 = (n + 1)(n + 2) (这里 = + n 1) 1 0 0 e ( 1) e d ! ! n n x x x x n x n n + + + − − = − + + 2 1 0 0 e ( 2) e d ! ! n n x x x x n x n n + + + + − − = − + + = n + 1 从而
定理1的证明这时,对任意的正整数n,有 K EY= EX. Dy ∑ DX0,有 P{Y-E<c}≥1-m、, n8 令n→,即知imP{yn-El<a}=1,这就证明了定理1 n→0 如果把定理1中的X看成n重伯努利试验中第i次试验 时4发生的次数(即X服从0-1分布)并记P(4)=p,则 EX=p,DX=P(I-p)v I k EY= p 于是定理1可表现为如下的定理2的形式 欐率统计(ZYH) ▲区u
概率统计(ZYH) 定理1的证明 2 1 n n n DY P Y EY − − lim − = 1 → n n n P Y EY 故由切比雪夫不等式知,对 0,有 2 1 1 1 1 n n n i n i i i K EY EX DY DX n n = = n = = , 这时,对任意的正整数n, 有 2 1 n K − 令n→,即知 如果把定理1中的Xi看成 n重伯努利试验中第 i 次试验 时A发生的次数(即Xi 服从0-1分布)并记 P(A)=p, 则 , 1 1 n n X n Y A n k n = k = = EX p DX p p i i = = − , (1 ) , EY p n = 于是定理1可表现为如下的定理 2的形式 ,这就证明了定理1
定理2(伯努利大数定律)设nA是n重伯努利试验中A 发生的次数,p=P(4),则对vE>0,有 In n→0 n p<e=1 或 →p(m→0)(称频率一依概率收敛于p) 伯努利大数定律以严格的数学形式表明:当试验在不 变的条件下重复进行很多次时,事件的频率稳定于它的概率. 因此,在实际应用中可用频率代替概率.这也为概率的公理化 定义提供了理论支持 欐率统计(ZYH) ▲区u
概率统计(ZYH) 定理2 lim = 1 − → p n n P A n (伯努利大数定律)设nA是n重伯努利试验中A 发生的次数, p=P(A), 则对 0,有 ⎯→ p (n → ) n nA P 或 ( ) nA p n 称频率 依概率收敛于 伯努利大数定律以严格的数学形式表明:当试验在不 变的条件下重复进行很多次时, 事件的频率稳定于它的概率. 因此, 在实际应用中可用频率代替概率. 这也为概率的公理化 定义提供了理论支持
由伯努利大数定律可知,如果事件A的概率很小,则事 件4发生的频率也很小因此,在实际问题中我们常采用 实际推断原理(小概率事件的实际不可能原理) 概率很小的事件在个别试验中几乎是不会发生的 概率很大的事件在个别试验中几乎一定会发生 如果概率很小的事件在一次试验中竞然发生了,那 我们就有理由怀疑“概率很小”这一假定的正确性 当然无论事件概率多么小,总是可能发生的.因此, 所谓小概率事件的实际不可能原理仅仅适用于个别的或 次数极少的试验,当试验次数较多时就不适用了 欐率统计(ZYH) ▲
概率统计(ZYH) 概率很小的事件在个别试验中几乎是不会发生的 概率很大的事件在个别试验中几乎一定会发生 实际推断原理(小概率事件的实际不可能原理) 由伯努利大数定律可知,如果事件A的概率很小, 则事 件A发生的频率也很小. 因此, 在实际问题中我们常采用 如果概率很小的事件在一次试验中竟然发生了,那 我们就有理由怀疑“概率很小”这一假定的正确性. 当然,无论事件概率多么小, 总是可能发生的. 因此, 所谓小概率事件的实际不可能原理仅仅适用于个别的或 次数极少的试验,当试验次数较多时就不适用了.
大数定律是概率论中用来阐明大量随机现象平均结果 稳定性和事件频率稳定性的一系列定理,条件较弱的还有 定理3(辛钦大数定律)设随机变量序列{Xn}相互独 立,服从同一分布,且E(Xn)=p,则对任意的e>0,有 lim p 或 (n→>∞) 辛钦大数定律以严格的数学形式表明:当n无限增大 时,独立同分布的随机变量的平均值依概率收敛于它的期 望.这为数理统计的矩估计奠定了理论基础 欐率统计(ZYH) ▲
概率统计(ZYH) 是概率论中用来阐明大量随机现象平均结果 稳定性和事件频率稳定性的一系列定理, 条件较弱的还有 1 1 lim 1 = − = → n i i n X n P 大数定律 定理3(辛钦大数定律)设随机变量序列{Xn }相互独 立, 服从同一分布,且 E( Xn )= , 则对任意的ε>0 , 有 ( ) 1 1 = ⎯→ → = X n n X P n i i 或 辛钦大数定律以严格的数学形式表明:当n无限增大 时, 独立同分布的随机变量的平均值依概率收敛于它的期 望. 这为数理统计的矩估计奠定了理论基础