第四章 大数定律与中心极限定理 §4.1大数定理 *在本课程一开始引入概率这个概念时,我们 曾经指出,频率是概率的反映,随着观察次 数n的增大,频率将会逐渐稳定到概率。还曾 经指出,当n很大时,频率会概率是会非常 “靠近”的,某些读者可能早就有了疑问: 这里说的“逐渐稳定”和非常“靠近”究竟 是什么意思?与数学分析中的极限概念有关 系吗?这个问题提得非常好,前面提到的 “逐渐稳定”和非常“靠近”都只是一种直 观的说法,它的严格的数学家意义确实需要 我们进一步阐明,本章就是要讨论这一类问 题
第四章 大数定律与中心极限定理 §4.1 大数定理 在本课程一开始引入概率这个概念时,我们 曾经指出,频率是概率的反映,随着观察次 数n的增大,频率将会逐渐稳定到概率。还曾 经指出,当n很大时,频率会概率是会非常 “靠近”的,某些读者可能早就有了疑问: 这里说的“逐渐稳定”和非常“靠近”究竟 是什么意思?与数学分析中的极限概念有关 系吗?这个问题提得非常好,前面提到的 “逐渐稳定”和非常“靠近”都只是一种直 观的说法,它的严格的数学家意义确实需要 我们进一步阐明,本章就是要讨论这一类问 题
若事件A在一次试验中发生的概率为p,如果观察了 次这样的试验(也就是一个n重贝努里试验),事件A共发 生了4次,则事件A在n次观察中的频率为/?,当n 增大时频率逐渐稳定到(或“靠近”)概率,是否就是数学分 析中的极限?也就是是否有 成立呢?如果是这样,为什么不说“频率以概率为极限”,岂 不干脆利落!但是读者应该觉察到,上述这种极限关系是不 成立的,因为这个极限关系意味着,对任给的8>0,存在 充分大的整数N,使对一切>N都有
(4.1) 成立。而我们知道,频率4/a是随着试验结果而变的,在 重贝努里试验中,下面的试验结果:gz A,A,…,A(1n个A出现) 还是可能发生的,当出现这样的结果时,从,于是 4/2=1,从而当很小时(0<E<1-p),不论H多大,也不 能得到当n时,都有
<8 成立,所以形如(4.1)极限关系并不成立。但是当n很大时 发生的可能性是很小的。例如上述的4, 发生的可能性为 P告=小R4 =P在11次独立试验中A出现山次)中
显然,当n→o时这个概率趋向于零。所以,频率“靠近” 概率不是意味着极限关系式(4.1),而是意味着 哈小0a 其中是任一大于零的常数,这就是下面的贝努里定理。 风努里定理: 设4,是n重贝努里试验中事件A出 现的次数,又在每次试验中出现的概率为p(00,有 P怡-小小-1 (4.2)
频率“靠近”概率是可以直接观察到的一种客观现象,而上 述贝努里定理则从理论上给了这种现象以更加确切的含意。 由于贝努里定理说明了大数次重复试验下呈现的客观规律, 所以也称为贝努里大数定律。 贝努里大数定律的实质是是讨论了形如 5-∑E 2 的随机变量,当n→o时的统计规律,其中{}是独立的服 从同一个子0一一1分布的随机变量。由此得到启发,我们引 入下述更一般的大数定律的定义
定义41若1,52,5,…,5,…是随机变量序 列,如果存在常数列a1,32,使对任意的80,有 lim P (4.3) 成立,则称随机变量序列{}服从大数定律
切贝晓夫大教定律:设51,52,5,…,5,… 是一列两两不相关的随机变量,又设它们的方差有界,即存 在常数C>0,使有 D分≤C,1,2,… 则对任意的>0,有 (4.4) 例4.1设51,52,5,…是独立同分布随机变量序列,均 服从参数为的普哇松分布,在第2章中已经求得E=月
D=有(=1,2,…),因而满足定理42(契贝晓夫大数定律) 即的条件,由(4.4)式知有 @P2- 可以看出贝努里大数定律是契贝晓夫大数定律的特例,在它 们的证明中,都是以契贝晓夫大数定律为基础的,所以要求 随机变量具有方差,从但是进一步的研究表明,方差存在这 个条件并不是必要的,下面我们介绍一下一个独立同分布的 辛钦大数定律
辛轼大数定律:设5,52,与,…是一列独立同分 布的随机变量,且数学期望存在:z E5, =1,2,… 则对任意的£>0,有 24小小 (4.5) 成立