5中心极限定理 利用特征函数,可以得到比积分极限定理更为一般的极限定理,就是下 面的中心极限定理: 定理( Lindeberg-Levy)设X1,X2,……,Xn,…是独立同分布的随机 变量列,EX1=p,VarX1=a2>0,Sn=X1+…+Xn,则对任意的x都 有 lim ≤x)=(x) S 其中,()是标准正态分布的分布函数,也就是说,(m依分布收敛到 标准正态分布 证记 则原命题就是要证明Zn依分布收敛到正态分布,也就是要证明Zn的 特征函数收敛到标准正态分布的特征函数 记它的特征函数为f(t)。由X1,……,Xn独立同分布知Zn的特征函数为 fn(t)=f( √n 由于EX1=,VarX1=a2,故EY=0,VarY=1.于是就有 f(0)=iEY=0,f(0)=i2EY2=-1 由 Taylor公式 f()=1--+o(t2), 于是就有 ln(0)=nhn(1-2n+0(7)
Ch5 1 §5 ✂✁☎✄☎✆☎✝☎✞ ✟☎✠☎✡☎☛☎☞☎✌✎✍✑✏☎✒☎✓☎✔✖✕✘✗☎✙✛✚☎✜✛✢☎✣✛✤☎✥✛✦☎✧✛★☎✚✛✜☎✢✛✣✩✍✫✪☎✬✛✭ ✮☎★✖✯✂✰☎✚☎✜☎✢☎✣✩✱ ✝☎✞ (Lindeberg − Levy) ✲ X1, X2, · · · , Xn, · · · ✬☎✳☎✴✖✵✂✙☎✶☎★✛✷✛✸ ✹☎✺☎✻ ✍ EX1 = µ ✍ VarX1 = σ 2 > 0 ✍ Sn = X1 + · · · + Xn ✍✽✼☎✾☎✿☎❀☎★ x ❁ ❂ limn→∞ P Sn − nµ √ nσ2 6 x = Φ(x). ❃✯❄✍ Φ(x) ✬❆❅❆❇❆❈❆❉☎✙✛✶☎★✛✙☎✶✛☞☎✌✩❊✫❋☎✪☎✬✛●✩✍ Sn − nµ √ nσ2 ❍✙❆✶❆■❆❏☎✔ ❅☎❇☎❈☎❉☎✙☎✶✎❊ ❑ ▲ Zn = Sn − nµ √ nσ2 , ✼☎▼☎◆☎❖☎✪☎✬☎P✛◗❙❘ Zn ❍✙☎✶☎■☎❏☎✔✛❈✛❉✛✙✛✶❚✍❯❋✛✪✛✬✛P❱◗❲❘ Zn ★ ✡☎☛☎☞☎✌☎■☎❏☎✔☎❅☎❇☎❈✛❉✛✙☎✶✛★☎✡✛☛✛☞☎✌✩❊ ❳ Y = X1 − µ σ , ▲☎❨☎★☎✡☎☛☎☞☎✌☎✥ f(t) ❊❬❩ X1, · · · , Xn ✳☎✴✖✵✂✙☎✶☎❭ Zn ★☎✡☎☛☎☞☎✌☎✥ fn(t) = f t √ n n . ❩✂❪ EX1 = µ ✍ VarX1 = σ 2 ✍✫❫ EY = 0 ✍ VarY = 1 ❊✫❪☎✬☎✪❂ f 0 (0) = iEY = 0, f ” (0) = i 2EY 2 = −1. ❩ Taylor ❴☎❵ f(t) = 1 − t 2 2 + o(t 2 ), ❪☎✬☎✪❂ lnfn(t) = nln 1 − t 2 2n + o t 2 n → − t 2 2 (n → ∞), 1
即 fn(t)→e-2 中心极限定理中独立同分布的条件是很强的要求,下面给出另一个定 定理( Lindeberg- Feller)设X1,X2,…是相互独立的随机变量,记 4=EX,娱=Vamx,B2=∑ k=1 如果 Lindeberg条件成立,即对任意的e>0,都有 lim B (ar -ak)dFk(a 则对任意的x,有 lim P( Xk-ak)≤x)=重(x) 在Xn为相互独立的随机变量列的前提下, Lindeberg条件不仅仅是中 心极限定理成立的充分条件,也差不多是必要条件。确切的说,要加上下面 两个条件: lim B n→ 6大数定律与强大数定律 先给出弱大数定律 定理( Chebysher)设{Xn,n≥1}是相互独立的随机变量列,若对一切 k有 VarXk≤C,则对任意的ε>0,都有 es |≥)→0(n→∞) 其中,Sn
Ch5 2 ❛ fn(t) → e − t 2 2 . ✯❜✰❱✚❱✜❱✢❱✣❙✯❜✳❱✴❙✵❝✙❞✶❱★❞❡❞❢❱✬❞❣❞❤❞★❱P❞✐❥✍✘✭❞✮❞❦♠❧❜♥❞✦❞♦❞✢ ✣✎❊ ✝☎✞ (Lindeberg − Feller) ✲ X1, X2, · · · ✬☎♣☎q☎✳☎✴☎★☎✷☎✸✹☎✺✍✽▲ ak = EXk, b 2 k = VarXk, B 2 n = Xn k=1 b 2 k , r☎s Lindeberg ❡☎❢☎t☎✴✎✍ ❛✾☎✿✛❀✛★ ε > 0 ✍ ❁ ❂ limn→∞ 1 B2 n Xn k=1 Z |x−ak|>εBn (x − ak) 2 dFk(x) = 0, ✼☎✾☎✿☎❀☎★ x ✍ ❂ limn→∞ P 1 Bn Xn k=1 (Xk − ak) 6 x = Φ(x). ✉ Xn ✥☎♣☎q☎✳☎✴☎★☎✷✛✸✹❱✺✛✻★✛✈✛✇✛✭❚✍ Lindeberg ❡☎❢☎①☎②☎②☎✬✖✯ ✰☎✚☎✜☎✢☎✣☎t☎✴✛★☎③✛✙✛❡✛❢❚✍④❋✛⑤✛①✛⑥✛✬✛⑦✛P☎❡✛❢❚❊⑨⑧✛⑩✛★☎●❚✍⑨P✛❶✛❷✛✭☎✮ ❸☎♦☎❡☎❢✩✱ limn→∞ Bn = ∞, limn→ bn Bn = 0. §6 ❹☎❺✝☎❻☎❼☎❽❹☎❺✝☎❻ ❾❦✖❧✂❿☎➀☎✌☎✢☎➁✎❊ ✝❆✞ (Chebyshev) ✲ {Xn, n > 1} ✬❆♣❆q❆✳❆✴✛★☎✷☎✸✹☎✺✛✻ ✍✑➂☎✾✛✦☎⑩ k ❂ VarXk 6 C ✍✫✼☎✾☎✿☎❀☎★ ε > 0 ✍ ❁ ❂ P | Sn − ESn n | > ε → 0 (n → ∞). ❃✯❄✍ Sn = Xn k=1 Xk ❊ 2
证由 Chebyshev不等式 n 2g2>VarXk k=1 从而可知命题成立 然后是强大数定律 定理( Kolmogorov)设Xn,n≥1是相互独立的随机变量列,满足 ∑ P(im∑(Xk-EX) 与弱大数定律相比,强大数定律给出的结论更强,它说明了S-E几乎 n 处处收敛于0,而弱大数定律说的是依概率收敛到0 对于独立同分布的随机变量列,有一个更好的结果 设{Xn2,m≥1}是独立同分布的随机变量列,则 P(lim Xk=a)=1>EX1存在且等于a. 大数定律的意义说明了频率会无限接近概率,对于参数估计给出了理论 上的基础,也说明 Monte- Carlo方法是可行的 大数定律的结果一一EX说明了Sn大致上是线性增长。而对于 EX=0的情况,有ESn=nEX2=n02,由中心极限定理知 (0,a2),Sn 在 Bernoulli试验中p=q=1/2时,有EX=0,1922年 Khinchine 证明了下面的结论 lim sup 1, lim inf Sn n→∞/ mInIon VinInlnn
Ch5 3 ❑ ❩ Chebyshev ①☎➃❵ P | Sn n − E Sn n > ε 6 1 ε 2 VarSn n = 1 n2ε 2 Xn k=1 VarXk 6 1 nε2 . ➄☎➅✏☎❭☎◆☎❖☎t☎✴✎❊ ➆☎➇✬☎❤☎➀☎✌☎✢☎➁✎❊ ✝☎✞ (Kolmogorov) ✲ Xn, n > 1 ✬☎♣☎q☎✳☎✴☎★☎✷☎✸✹☎✺✛✻ ✍✽➈✛➉ X∞ k=1 VarXn n2 1} ✬☎✳☎✴✖✵✂✙☎✶☎★☎✷☎✸✹☎✺✛✻ ✍✽✼ P limn→ 1 n Xn k=1 Xk = a = 1 ⇐⇒ EX1➔ ✉☎→➃☎❪ a. ➀❆✌❆✢❆➁❆★❆❀❆➣☎●✖❘✂➍☎↔➒❆↕☎➙✜☎➛☎➜➑☎➒✍➝✾☎❪☎➞☎✌☎➟☎➠☎❦✖❧✂➍☎✣☎➌ ❷☎★☎➡☎➢✎✍✫❋☎●✖❘ Monte − Carlo ➤☎➥✬☎✏☎➦☎★✎❊ ➀❱✌❱✢❱➁❱★❱➋s Sn n −→ EX ●❙❘❜➍ Sn ➀❱➧❱❷❱✬❱➨❱➩❱➫❱➭❚❊ ➅✾❞❪ EX = 0 ★☎➯☎➲✎✍ ❂ ES 2 n = nEX2 = nσ2 ✍❬❩☎✯✂✰☎✚☎✜☎✢☎✣☎❭ Sn √ n ∼ N(0, σ 2 ), Sn ∼ √ n. ✉ Bernoulli ➳☎➵✯ p = q = 1/2 ➸ ✍ ❂ EX = 0 ✍ 1922 ➺ Khinchine ◗✖❘✂➍☎✭☎✮☎★☎➋☎➌✩✱ lim sup n→∞ q Sn 1 2 nlnlnn = 1, lim inf n→∞ q Sn 1 2 nlnlnn = −1. 3
