USTC概率论习题课讲义（试用版）2022秋、2023春-刘党政班作者：宗语轩时间：2023年8月版本：0.6ProbabilityTheory is Measure Theory with a Soul.MarkKac
USTC 概率论习题课讲义 (试用版) 2022 秋、2023 春-刘党政班 作者：宗语轩 时间：2023 年 8 月 版本：0.6 Probability Theory is Measure Theory with a Soul. ——Mark Kac
前言概率论，是研究随机现象并揭示随机现象中的结构和规律的数学分支，同时也为统计理论与方法提供理论基础概率论起源于17世纪帕斯卡与费马有关机会性游戏的研究，后经伯努利，拉普拉斯，棣莫弗，高斯与李雅普诺夫等人的发展，出现了一般形式的大数定律与中心极限定理.1933年Kolmogorov在其专著《概率论基础》中提出的基于测度论的概率公理化体系，标志着现代概率论的建立.之后受数理金融与统计力学发展的驱动,Lévy，Ito，Doob等人发展了随机过程理论，形成了如今完善的鞅论与随机分析.其后概率论及其应用一直蓬勃发展，同时也一直与其他数学分支及其他学科领域相互交叉渗透直至现在，概率论已成为一门能够“项天立地”的学科在2022年秋季学期，笔者有幸担任刘党政老师班级的概率论课程助教，也是笔者首次担任小班教学课程的助教.在笔者担任助教期间，发现不少同学尤其在期中之后的概率论学习出现一定困难。一方面，概率论本身内容比较杂，很多概念初学起来并不容易理解，以及大部分同学初学概率论都会有“项碎”之感，尤其体现在处理概率问题中运用的各种技巧和技术上，因此，初学概率论时出现瓶颈也是非常正常的现象：另一方面，很多同学自始至终对概率空间的理解不够深刻，以及对分析中最常见最基本的technique和最基本的测度论知识不熟悉，从部分同学的作业和考试中也体现出概念使用混乱，概率语言不会表述或表述不当等问题.基于笔者担任助教期间的积累，同时为了让后人更好地适应课程体系，加深概念理解，总结及延伸一些重要的technique及idea，并适当开拓视野，笔者在原有的习题课讲义基础上编写了此份《USTC概率论习题课讲义》合集，本课程对应的教材内容为：Grimmett，Stirzaker:ProbabilityandRandomProcess，Chapter1-3，4.1-4.105.1，5.6-5.10，7.1-7.6.本讲义的内容编排基本参照教材内容的顺序，但也补充了一部分拓展知识.另外，由于科大数院的本科培养方案进行了改革，至2022年春季学期起，本课程从原有的4学分调整至现在的3学分，因此现在的3学分课程在原有的4学分课程的基础上主要在随机游走、正态分布下的样本均值与样本方差、矩方法与组合计数、用Linderberg替换术证明Linderberg-Feller中心极限定理、摘、随机矩阵初步等内容以及一些例子上作了删减（其中一部分内容会放在1学分的课程概率论进阶中讲授）但笔者认为这些删去的大部分内容都是概率和统计甚至和其相关方向中比较重要的内容及idea，因此这些删去的内容也补充至本讲义中，特此说明本讲义以“专题选讲”的形式为大家呈现。由于本讲义是习题课讲义，从定位上可以看作课堂内容的补充、延伸和拓展，同时也结合各位读者的需求，笔者在讲义的编排上主要分为“基本内容”、“进阶内容”两部分：。基础内容主要侧重于课堂内容的整理或补充，包括课堂内容的整合加工，以及对已学过的概念进行适度延伸等，有助于对课堂内容进一步理解以及知识框架的建立：除此之外，还补充了一些基本的工具及从所学内容延伸出的一些方法、technique或idea，这也是笔者认为大家需要了解的部分。进阶内容主要侧重于课堂内容的拓展．一部分是一些既与课内相关度较大，又和其他领域有一定关联的“趣味”问题，这部分所涉及到的知识点和证明的技术使用往往会比较综合，旨在让读者了解概率论在其他领域上的一些“渗透”现象.还有一部分是从课内内容出发拓展一些实实在在的知识或方法，不仅对这些内容有助于更深刻的理解，同时也跟概统的后续课程起到了过渡和衔接的作用.此外，在一些章节最后补充了适量的练习题，大家要做到合理选用。部分练习题提示与解答附在本讲义第三部分，以供大家参考
前 言 概率论, 是研究随机现象并揭示随机现象中的结构和规律的数学分支, 同时也为统计理论与方法提 供理论基础. 概率论起源于 17 世纪帕斯卡与费马有关机会性游戏的研究, 后经伯努利, 拉普拉斯, 棣莫 弗, 高斯与李雅普诺夫等人的发展, 出现了一般形式的大数定律与中心极限定理. 1933 年 Kolmogorov 在 其专著《概率论基础》中提出的基于测度论的概率公理化体系, 标志着现代概率论的建立. 之后受数理 金融与统计力学发展的驱动, Lévy，Ito，Doob 等人发展了随机过程理论, 形成了如今完善的鞅论与随机 分析. 其后概率论及其应用一直蓬勃发展, 同时也一直与其他数学分支及其他学科领域相互交叉渗透. 直至现在, 概率论已成为一门能够 “顶天立地” 的学科. 在 2022 年秋季学期, 笔者有幸担任刘党政老师班级的概率论课程助教, 也是笔者首次担任小班教 学课程的助教. 在笔者担任助教期间, 发现不少同学尤其在期中之后的概率论学习出现一定困难. 一方 面, 概率论本身内容比较杂, 很多概念初学起来并不容易理解, 以及大部分同学初学概率论都会有 “琐 碎” 之感, 尤其体现在处理概率问题中运用的各种技巧和技术上, 因此, 初学概率论时出现瓶颈也是非常 正常的现象. 另一方面, 很多同学自始至终对概率空间的理解不够深刻，以及对分析中最常见最基本的 technique 和最基本的测度论知识不熟悉, 从部分同学的作业和考试中也体现出概念使用混乱, 概率语言 不会表述或表述不当等问题. 基于笔者担任助教期间的积累, 同时为了让后人更好地适应课程体系, 加 深概念理解, 总结及延伸一些重要的 technique 及 idea, 并适当开拓视野, 笔者在原有的习题课讲义基础 上编写了此份《USTC 概率论习题课讲义》合集. 本课程对应的教材内容为: Grimmett, Stirzaker: Probability and Random Process, Chapter 1-3, 4.1-4.10, 5.1, 5.6-5.10, 7.1-7.6. 本讲义的内容编排基本参照教材内容的顺序, 但也补充了一部分拓展知识. 另外, 由于科大数院的本科培养方案进行了改革, 至 2022 年春季学期起, 本课程从原有的 4 学分调整至现在 的 3 学分, 因此现在的 3 学分课程在原有的 4 学分课程的基础上主要在随机游走、正态分布下的样本均 值与样本方差、矩方法与组合计数、用 Linderberg 替换术证明 Linderberg-Feller 中心极限定理、熵、随 机矩阵初步等内容以及一些例子上作了删减 (其中一部分内容会放在 1 学分的课程概率论进阶中讲授). 但笔者认为这些删去的大部分内容都是概率和统计甚至和其相关方向中比较重要的内容及 idea, 因此 这些删去的内容也补充至本讲义中, 特此说明. 本讲义以 “专题选讲” 的形式为大家呈现. 由于本讲义是习题课讲义, 从定位上可以看作课堂内容 的补充、延伸和拓展, 同时也结合各位读者的需求, 笔者在讲义的编排上主要分为 “基本内容”、“进阶内 容”两部分: 基础内容主要侧重于课堂内容的整理或补充, 包括课堂内容的整合加工, 以及对已学过的概念进 行适度延伸等, 有助于对课堂内容进一步理解以及知识框架的建立; 除此之外, 还补充了一些基本 的工具及从所学内容延伸出的一些方法、technique 或 idea, 这也是笔者认为大家需要了解的部分. 进阶内容主要侧重于课堂内容的拓展. 一部分是一些既与课内相关度较大, 又和其他领域有一定 关联的 “趣味” 问题, 这部分所涉及到的知识点和证明的技术使用往往会比较综合, 旨在让读者了 解概率论在其他领域上的一些 “渗透” 现象. 还有一部分是从课内内容出发拓展一些实实在在的 知识或方法, 不仅对这些内容有助于更深刻的理解, 同时也跟概统的后续课程起到了过渡和衔接 的作用. 此外, 在一些章节最后补充了适量的练习题, 大家要做到合理选用. 部分练习题提示与解答附在本 讲义第三部分, 以供大家参考
iUSTC概率论习题课讲义特别感谢刘党政老师对笔者助教工作的支持和鼓励，特别感谢班级里的所有同学提供的问题、解法及各种资料，同时特别感谢本科19级数院何家志同学提供的本课程往年笔记，为本讲义的撰写提供了极大的帮助.由于笔者水平有限，加之时间紧迫，部分内容未免片面或有所疏漏，笔误亦在所难免，请广大读者批评指正，感激不尽！中国科学技术大学本科2019级数学科学学院宗语轩2022年12月于合肥参考书目：[1] Grimmett, Stirzaker:Probability andRandomProcess,2001.[2] Rick Durrett: Probability:Theory and Examples, fifth edition, 2019[3]李贤平：《概率论基础》第三版，高等教育出版社,2010.[4]李贤平，陈子毅：《概率论基础学习指导书》，高等教育出版社，2011.[5]吴昊：清华大学《概率论1》课程讲义(IntroductiontoProbabilityTheory)[6]苏淳，冯群强：《概率论》第三版，科学出版社，2020.[7] E. Kowalski: An introduction to probabilistic number theory, 2021.[8] Hardy,G.H.,Wright, E.M.:AnIntroduction to theTheory ofNumbers(6th ed.),OxfordUniversityPress,2008[9] Noga Alon, Joel H.Spencer:The Probabilistic Method, 4th Edition, 20160欢迎访问个人主页：http://home.ustc.edu.cn/-zyx240014/闻道有先后，内容有疏漏.发现错误欢迎联系我：zyx240014@mail.ustc.edu.cn
USTC 概率论习题课讲义 ii 特别感谢刘党政老师对笔者助教工作的支持和鼓励, 特别感谢班级里的所有同学提供的问题、解法 及各种资料, 同时特别感谢本科 19 级数院何家志同学提供的本课程往年笔记, 为本讲义的撰写提供了 极大的帮助. 由于笔者水平有限, 加之时间紧迫, 部分内容未免片面或有所疏漏, 笔误亦在所难免, 恳请广大读者 批评指正, 感激不尽! 中国科学技术大学 本科 2019 级数学科学学院 宗语轩 2022 年 12 月于合肥 参考书目: [1] Grimmett, Stirzaker: Probability and Random Process, 2001. [2] Rick Durrett: Probability: Theory and Examples, fifth edition, 2019. [3] 李贤平: 《概率论基础》第三版, 高等教育出版社, 2010. [4] 李贤平, 陈子毅: 《概率论基础学习指导书》, 高等教育出版社, 2011. [5] 吴昊: 清华大学《概率论 1》课程讲义 (Introduction to Probability Theory). [6] 苏淳, 冯群强: 《概率论》第三版, 科学出版社, 2020. [7] E. Kowalski: An introduction to probabilistic number theory, 2021. [8] Hardy, G.H., Wright, E.M.: An Introduction to the Theory of Numbers (6th ed.), Oxford University Press, 2008. [9] Noga Alon, Joel H. Spencer: The Probabilistic Method, 4th Edition, 2016. 0欢迎访问个人主页: http://home.ustc.edu.cn/~zyx240014/ 闻道有先后, 内容有疏漏. 发现错误欢迎联系我: zyx240014@mail.ustc.edu.cn
目录前言i1第1章基本内容11.1组合恒等式21.2随机事件（集合）的运算61.3条件概率的应用81.4随机变量与分布函数101.5离散型及期望方差141.6示性函数与概率论1.7条件期望151.8概率母函数18201.9一维简单随机游走241.10连续型随机变量281.11多元正态分布1.12正态分布下的样本均值与样本方差301.13期望浅谈32351.14特征函数371.15矩方法与组合计数391.16中心极限定理（CLT)1.17随机变量列的收敛与极限定理43431.17.1基本工具与技术471.17.2浅谈四种收敛531.17.3结论拾零及应用571.17.4用截尾术证明弱大数律591.17.5再谈a.s.收敛和强大数律64第2章进阶内容642.1乘积空间浅引642.2互素概率问题浅谈662.3概率方法举例2.4一维简单随机游走的双吸收壁模型及其应用68702.5zd上简单对称随机游走的常返性722.6特征函数与矩742.7连续性定理与弱收敛762.8用Linderberg替换术证明Linderberg-Feller中心极限定理782.9利用Kolmogorov三级数定理证明强大数律812.10信息（entropy）
目录 前言 i 第 1 章 基本内容 1 1.1 组合恒等式 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 1 1.2 随机事件 (集合) 的运算 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 2 1.3 条件概率的应用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 6 1.4 随机变量与分布函数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 8 1.5 离散型及期望方差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 10 1.6 示性函数与概率论 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 14 1.7 条件期望 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 15 1.8 概率母函数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 18 1.9 一维简单随机游走 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 20 1.10 连续型随机变量 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 24 1.11 多元正态分布 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 28 1.12 正态分布下的样本均值与样本方差 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 30 1.13 期望浅谈 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 32 1.14 特征函数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 35 1.15 矩方法与组合计数 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 37 1.16 中心极限定理 (CLT) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 39 1.17 随机变量列的收敛与极限定理 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43 1.17.1 基本工具与技术 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 43 1.17.2 浅谈四种收敛 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 47 1.17.3 结论拾零及应用 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 53 1.17.4 用截尾术证明弱大数律 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 57 1.17.5 再谈 a.s. 收敛和强大数律 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 59 第 2 章 进阶内容 64 2.1 乘积空间浅引 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64 2.2 互素概率问题浅谈 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 64 2.3 概率方法举例 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 66 2.4 一维简单随机游走的双吸收壁模型及其应用 . . . . . . . . . . . . . . . . . . . . . . . . . . 68 2.5 Z 𝑑 上简单对称随机游走的常返性 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 70 2.6 特征函数与矩 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 72 2.7 连续性定理与弱收敛 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 74 2.8 用 Linderberg 替换术证明 Linderberg-Feller 中心极限定理 . . . . . . . . . . . . . . . . . . 76 2.9 利用 Kolmogorov 三级数定理证明强大数律 . . . . . . . . . . . . . . . . . . . . . . . . . . 78 2.10 信息熵 (entropy) . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 81
目录USTC概率论习题课讲义iv852.11随机矩阵初步852.11.1起源862.11.2高斯正交系综(GaussianOrthogonalEnsemble,GOE)2.11.3半圆律872.11.4Wishart矩阵模型9192第3章音部分练习题提示与解答100附录A一些可以忽略的定理证明
USTC 概率论习题课讲义 目录 iv 2.11 随机矩阵初步 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85 2.11.1 起源 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 85 2.11.2 高斯正交系综 (Gaussian Orthogonal Ensemble,GOE) . . . . . . . . . . . . . . . . . 86 2.11.3 半圆律 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 87 2.11.4 Wishart 矩阵模型 . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . . 91 第 3 章 部分练习题提示与解答 92 附录 A 一些可以忽略的定理证明 100
第1章基本内容1.1组合恒等式引理1.1我们有(0(5)=k=m(**)-(***)Z(6)k=0提示(1)(2)对(1+x)"运用二项式定理，分别取x=1,-1即可.(3)注意到(1+x)m+n=(1+x)(1+x)
第 1 章 基本内容 1.1 组合恒等式 引理 1.1 ♥ 我们有 (1) 𝑛 𝑘 = 𝑛 𝑛 − 𝑘 (0 ⩽ 𝑘 ⩽ 𝑛). (2) 𝑘 𝑛 𝑘 = 𝑛 𝑛 − 1 𝑘 − 1 . (3) 𝑛 𝑚 + 𝑛 𝑚 + 1 = 𝑛 + 1 𝑚 + 1 提示 (3) 即为 𝑛 + 1 个盒子选出 𝑚 + 1 个的组合总数, 考虑最后一个是否被选出, 两种情况的组合总数相 加即可. 定理 1.1 (二项式定理) ♥ 对 ∀𝑥 ∈ R 及 𝑛 ∈ N ∗ , 有 (1 + 𝑥) 𝑛 = ∑𝑛 𝑖=0 𝑛 𝑖 𝑥 𝑖 . 提示 归纳. 利用引理 1.1 (3) , 我们有 (1 + 𝑥) 𝑛 = (1 + 𝑥) · (1 + 𝑥) 𝑛−1 = (1 + 𝑥) ∑𝑛−1 𝑖=0 𝑛 − 1 𝑖 𝑥 𝑖 = ∑𝑛−1 𝑖=1 𝑛 − 1 𝑖 + 𝑛 − 1 𝑖 − 1 𝑥 𝑖 + 1 + 𝑥 𝑛 = ∑𝑛 𝑖=0 𝑛 𝑖 𝑥 𝑖 . 引理 1.2 ♥ 利用上述引理和定理, 我们得到 (1) ∑𝑛 𝑘=0 𝑛 𝑘 = 2 𝑛 . (2) ∑ 0⩽𝑘⩽𝑛 𝑘为偶数 𝑛 𝑘 = ∑ 0⩽𝑘⩽𝑛 𝑘为奇数 𝑛 𝑘 = 2 𝑛−1 . (3) 𝑚 + 𝑛 𝑘 = ∑ 𝑘 𝑖=0 𝑚 𝑖 𝑛 𝑘 − 𝑖 . 特别地, 2𝑛 𝑛 = ∑𝑛 𝑖=0 𝑛 𝑖 𝑛 𝑛 − 𝑖 = ∑𝑛 𝑖=0 𝑛 𝑖 2 . (4) ∑𝑛 𝑘=0 𝑘 𝑛 𝑘 = 𝑛2 𝑛−1 . (5) ∑𝑛 𝑘=𝑚 𝑘 𝑚 = 𝑛 + 1 𝑚 + 1 . (6) ∑𝑛 𝑘=0 𝑚 + 𝑘 𝑘 = 𝑚 + 𝑛 + 1 𝑛 . 提示 (1) (2) 对 (1 + 𝑥) 𝑛 运用二项式定理, 分别取 𝑥 = 1, −1 即可. (3) 注意到 (1 + 𝑥) 𝑚+𝑛 = (1 + 𝑥) 𝑚(1 + 𝑥) 𝑛
USTC概率论习题课讲义第1章基本内容2分别运用二项式定理，考察等式两边xk项的系数.(4)(1+x)"=1两侧对x求导，并取x=1即-i-0可.(5)(6)利用引理1.1(3)归纳即可例题1.1设n≥m.证明：2()(**)-2()(2)2.证明) =["(1 +x)"()()a+)*=["(1+)(2+)"k-0a(m)2kxm-k= [xm](1 +x)">k=0>k-(其中“[xlf(x)”表示f(x)中项xm的系数.注也可以用组合方法（实质是通过带有二项式定理的代数方法来编故事（bushi）：已知m个男孩和n个女孩，并满足条件：(1）给一些（数量未知）男孩吃苹果：(2)从所有人中选出m个人吃梨：(3）吃了梨的男孩必须也吃了苹果假设每个苹果（梨）不作区分，每个人至多拿1个苹果及1个梨.问一共有多少种符合条件的分法？一方面，设(1)中给k个男孩苹果，其分法有）种，由(3)知，另外没吃苹果的m-k个男孩不可能种.对k累加得吃梨,结合(2),剩下梨的分法有/min+Z((k)(m另一方面，设(2)中给k个女孩梨，则给m-k个男孩梨。分法分别为种由和(m-kl1:-(3)知吃了梨的男孩一定吃了苹果.剩下k个男孩可以吃苹果也可以不吃苹果，分法共2k种.对k累加得Z(k)-(1.2随机事件（集合）的运算方法论：事件运算一集合运算对于事件A,B,有事件交，并，余，差一→AnB,AUB,A对立事件）,A|BWEAnBWEA且WEBA,B同时发生
USTC 概率论习题课讲义 第 1 章 基本内容 2 分别运用二项式定理, 考察等式两边 𝑥 𝑘 项的系数. (4)(1 + 𝑥) 𝑛 = ∑𝑛 𝑖=0 𝑛 𝑖 𝑥 𝑖 两侧对 𝑥 求导, 并取 𝑥 = 1 即 可. (5) (6) 利用引理 1.1 (3) 归纳即可. 例题 1.1 设 𝑛 ≥ 𝑚. 证明: ∑𝑚 𝑘=0 𝑚 𝑘 𝑛 + 𝑘 𝑚 = ∑𝑚 𝑘=0 𝑚 𝑘 𝑛 𝑘 2 𝑘 . 证明 ∑𝑚 𝑘=0 𝑚 𝑘 𝑛 + 𝑘 𝑚 = [𝑥 𝑚] (1 + 𝑥) 𝑛∑𝑚 𝑘=0 𝑚 𝑘 (1 + 𝑥) 𝑘 = [𝑥 𝑚] (1 + 𝑥) 𝑛 (2 + 𝑥) 𝑚 = [𝑥 𝑚] (1 + 𝑥) 𝑛∑𝑚 𝑘=0 𝑚 𝑘 2 𝑘 𝑥 𝑚−𝑘 = ∑𝑚 𝑘=0 𝑚 𝑘 𝑛 𝑘 2 𝑘 . 其中 “[𝑥 𝑚] 𝑓 (𝑥)” 表示 𝑓 (𝑥) 中项 𝑥 𝑚 的系数. 注 也可以用组合方法 (实质是通过带有二项式定理的代数方法来编故事 (bushi ): 已知 𝑚 个男孩和 𝑛 个女孩, 并满足条件: (1) 给一些 (数量未知) 男孩吃苹果; (2) 从所有人中选出 𝑚 个人吃梨; (3) 吃了梨的男孩必须也吃了苹果. 假设每个苹果 (梨) 不作区分, 每个人至多拿 1 个苹果及 1 个梨. 问一共有多少种符合条件的分法? 一方面, 设 (1) 中给 𝑘 个男孩苹果, 其分法有 𝑚 𝑘 种, 由 (3) 知, 另外没吃苹果的 𝑚 − 𝑘 个男孩不可能 吃梨, 结合 (2), 剩下梨的分法有 𝑛 + 𝑘 𝑚 种. 对 𝑘 累加得 ∑𝑚 𝑘=0 𝑚 𝑘 𝑛 + 𝑘 𝑚 . 另一方面, 设 (2) 中给 𝑘 个女孩梨, 则给 𝑚 − 𝑘 个男孩梨. 分法分别为 𝑛 𝑘 和 𝑚 𝑚 − 𝑘 = 𝑚 𝑘 种. 由 (3) 知吃了梨的男孩一定吃了苹果. 剩下 𝑘 个男孩可以吃苹果也可以不吃苹果, 分法共 2 𝑘 种. 对 𝑘 累加 得 ∑𝑚 𝑘=0 𝑚 𝑘 𝑛 𝑘 2 𝑘 . 1.2 随机事件 (集合) 的运算 方法论: 事件运算 ←→ 集合运算 对于事件 𝐴, 𝐵, 有 事件交, 并, 余, 差 ←→ 𝐴 ∩ 𝐵, 𝐴 ∪ 𝐵, 𝐴𝑐 (对立事件), 𝐴\𝐵 𝜔 ∈ 𝐴 ∩ 𝐵 ⇐⇒ 𝜔 ∈ 𝐴且𝜔 ∈ 𝐵 ⇐⇒ 𝐴, 𝐵同时发生
USTC概率论习题课讲义第1章基本内容3WEAUBWEA或WEBA发生或B发生WEAWA一A发生A不发生WEABWEA且W?BA发生但同时B不发生设（Ai，iEI为一列事件族，类比数列上下确界的定义，我们定义记号sup A; := [JA,=(x:3iEl,xEA,inf A; :=A,=(x: ViEI,xEA)ielieiiel集合运算的三个基本性质：交换律，结合律，分配律.分配律可表示为：=(J(BnA),(BUA)BOBU[Ai|=AielTEl定理1.2(De.Morgan法则）一列事件族，则有设AieIAS(1)(2)Aie我们可以将【A，转化成事件的无交并（互不相容），以利用概率测度的可列可加性进行计算iel命题1.1设(Ai,i=1,2,...,n) 为一列事件族(n≤+αo),则有UA,=L(A.UAk其中表示无交并下面我们考虑事件序列（An）的极限：(1)上限事件：limsupAn=Am=[w：有无穷多个Ak包含wl,即（An)发生无穷多次；n→+o=1m(2)下限事件:lim inf An :=1Am={w：有限个Ak不包含w),即(An)不发生有限次1注利用的递减性和的递增性,我们亦有：m=nm=nn=1limsupAnliminfAn=limlim1+00n-n→+00m=月m=定义1.1我们称事件序列(An）收敛，若limsupAn=liminfAn.记收敛的极限为A=limAn.n-→+o
USTC 概率论习题课讲义 第 1 章 基本内容 3 𝜔 ∈ 𝐴 ∪ 𝐵 ⇐⇒ 𝜔 ∈ 𝐴或𝜔 ∈ 𝐵 ⇐⇒ 𝐴发生或𝐵发生 𝜔 ∈ 𝐴 𝑐 ⇐⇒ 𝜔 ∉ 𝐴 ⇐⇒ 𝐴 𝑐发生 ⇐⇒ 𝐴不发生 𝜔 ∈ 𝐴\𝐵 ⇐⇒ 𝜔 ∈ 𝐴且𝜔 ∉ 𝐵 ⇐⇒ 𝐴发生但同时𝐵不发生 设 {𝐴𝑖 , 𝑖 ∈ 𝐼} 为一列事件族, 类比数列上下确界的定义, 我们定义记号 sup 𝑖∈𝐼 𝐴𝑖 := Ø 𝑖∈𝐼 𝐴𝑖 = {𝑥 : ∃𝑖 ∈ 𝐼, 𝑥 ∈ 𝐴𝑖} , inf 𝑖∈𝐼 𝐴𝑖 := Ù 𝑖∈𝐼 𝐴𝑖 = {𝑥 : ∀𝑖 ∈ 𝐼, 𝑥 ∈ 𝐴𝑖} . 集合运算的三个基本性质: 交换律, 结合律, 分配律. 分配律可表示为: 𝐵 ∩ Ø 𝑖∈𝐼 𝐴𝑖 ! = Ø 𝑖∈𝐼 (𝐵 ∩ 𝐴𝑖), 𝐵 ∪ Ù 𝑖∈𝐼 𝐴𝑖 ! = Ù 𝑖∈𝐼 (𝐵 ∪ 𝐴𝑖) 定理 1.2 (De.Morgan 法则) ♥ 设 {𝐴𝑖 , 𝑖 ∈ 𝐼} 为一列事件族, 则有 (1) Ø 𝑖∈𝐼 𝐴𝑖 ! 𝑐 = Ù 𝑖∈𝐼 𝐴 𝑐 𝑖 ; (2) Ù 𝑖∈𝐼 𝐴𝑖 ! 𝑐 = Ø 𝑖∈𝐼 𝐴 𝑐 𝑖 . 我们可以将 Ø 𝑖∈𝐼 𝐴𝑖 转化成事件的无交并 (互不相容), 以利用概率测度的可列可加性进行计算: 命题 1.1 ♠ 设 {𝐴𝑖 , 𝑖 = 1, 2, · · · , 𝑛} 为一列事件族 (𝑛 ⩽ +∞), 则有 Ø𝑛 𝑖=1 𝐴𝑖 = Ä𝑛 𝑖=1 𝐴𝑖\ Ø 𝑖−1 𝑘=1 𝐴𝑘 ! , 其中 Ä 表示无交并. 下面我们考虑事件序列 {𝐴𝑛} 的极限: (1) 上限事件 : lim sup 𝑛→+∞ 𝐴𝑛 := Ù∞ 𝑛=1 Ø∞ 𝑚=𝑛 𝐴𝑚 = 𝜔 : 有无穷多个𝐴𝑘包含𝜔 , 即 {𝐴𝑛} 发生无穷多次; (2) 下限事件 : lim inf 𝑛→+∞ 𝐴𝑛 := Ø∞ 𝑛=1 Ù∞ 𝑚=𝑛 𝐴𝑚 = 𝜔 : 有限个𝐴𝑘不包含𝜔 , 即 {𝐴𝑛} 不发生有限次. 注 利用 (Ø∞ 𝑚=𝑛 𝐴𝑚 )∞ 𝑛=1 的递减性和 (Ù∞ 𝑚=𝑛 𝐴𝑚 )∞ 𝑛=1 的递增性, 我们亦有: lim sup 𝑛→+∞ 𝐴𝑛 = lim 𝑛→∞ Ø∞ 𝑚=𝑛 𝐴𝑚, lim inf 𝑛→+∞ 𝐴𝑛 = lim 𝑛→∞ Ù∞ 𝑚=𝑛 𝐴𝑚. 定义 1.1 ♣ 我们称事件序列 {𝐴𝑛} 收敛, 若 lim sup 𝑛→+∞ 𝐴𝑛 = lim inf 𝑛→+∞ 𝐴𝑛. 记收敛的极限为 𝐴 := lim 𝑛→+∞ 𝐴𝑛
USTC概率论习题课讲义第1章 基本内容4接上，注意到Am C AncLTAmm=n不难验证AEF，且满足概率连续性：P(A)=limP(An).例题1.2设(fn(x))及f(x)是定义在R上的实值函数，则使fn(x)不收敛于f(x)的一切点x所形成的集合D可表示为D=UnQ(:()-()>)k=IN=In=N引理13概率测度的一些性质：(1) P(AC) = 1 - P(A):(2) 若 A C B. 则 P(B) =P(A) +P(B)A) ≥ P(A):(3) P(A, UA2 U.. UAn) =-P AACJAk,n≤+00;-(4) P(A UB) = P(A) + P(B) - P(AnB):(5)次(α)可加性：P(AT UA2 U.*. U An) i=1(6)Jordan 公式:C(-1)k-1 Z P(Ai..Ai).JA,k=1i<..ik其中(3)由命题1.1得到，(5)可由(2)(3)得到，(6)为作业例题1.3设事件A1,A2,.·，A相互独立,P(Ai)=pi,i=1,2,..·，n.求：(1)这n个事件中至少发生一个的概率Pi;(2)这n个事件中恰好发生一个的概率P2:解注意到【这n个事件中至少发生一个|=AiUA2U..UAn，故有PI = P(A1 U A2 .. U A) =1 - (AAS .A) 些三1-IIP(A) = -I(1 - ).i=1i=1注意到{这n个事件中恰好发生一个)=(ASA.·An)U(AAS.·An-IA)U·AIAS···AR)，故有P2 = P(AAS.-AAA+.AR)P(ASAS...A-,A,A+I"".A)i=l独立Zpk II (1- pi).k=1i=1,i+k例题1.4（赌徒破产问题）Player财富为k，Dealer财富为N-k，掷一枚均匀硬币，出现正面H时Player赢1Dealer输1,否则Dealer赢1Player输1.双方赌到一方输光时游戏结束.问存在某个状态游戏结束的概率？
USTC 概率论习题课讲义 第 1 章 基本内容 4 接上, 注意到 Ù∞ 𝑚=𝑛 𝐴𝑚 ⊆ 𝐴𝑛 ⊆ Ø∞ 𝑚=𝑛 𝐴𝑚, 不难验证 𝐴 ∈ F, 且满足概率连续性: P(𝐴) = lim 𝑛→+∞ P(𝐴𝑛). 例题 1.2 设 { 𝑓𝑛(𝑥)} 及 𝑓 (𝑥) 是定义在 R 上的实值函数, 则使 𝑓𝑛(𝑥) 不收敛于 𝑓 (𝑥) 的一切点 𝑥 所形成的 集合 𝐷 可表示为 𝐷 = Ø∞ 𝑘=1 Ù∞ 𝑁 =1 Ø∞ 𝑛=𝑁 𝑥 : | 𝑓𝑛(𝑥) − 𝑓 (𝑥)| ⩾ 1 𝑘 . 引理 1.3 ♥ 概率测度的一些性质: (1) P(𝐴 𝑐 ) = 1 − P(𝐴); (2) 若 𝐴 ⊂ 𝐵, 则 P(𝐵) = P(𝐴) + P(𝐵\𝐴) ≥ P(𝐴); (3) P(𝐴1 ∪ 𝐴2 ∪ · · · ∪ 𝐴𝑛) = ∑𝑛 𝑖=1 P 𝐴𝑖\ Ø 𝑖−1 𝑘=1 𝐴𝑘 ! , 𝑛 ⩽ +∞; (4) P(𝐴 ∪ 𝐵) = P(𝐴) + P(𝐵) − P(𝐴 ∩ 𝐵); (5) 次 (𝜎) 可加性: P(𝐴1 ∪ 𝐴2 ∪ · · · ∪ 𝐴𝑛) ⩽ ∑𝑛 𝑖=1 P(𝐴𝑖), 𝑛 ⩽ +∞; (6) Jordan 公式: P Ø𝑛 𝑖=1 𝐴𝑖 ! = ∑𝑛 𝑘=1 (−1) 𝑘−1 ∑ 𝑖1<···<𝑖𝑘 P(𝐴𝑖1 · · · 𝐴𝑖𝑘 ). 其中 (3) 由命题 1.1得到, (5) 可由 (2), (3) 得到, (6) 为作业. 例题 1.3 设事件 𝐴1, 𝐴2, · · · , 𝐴𝑛 相互独立, P(𝐴𝑖) = 𝑝𝑖 , 𝑖 = 1, 2, · · · , 𝑛. 求: (1) 这 𝑛 个事件中至少发生一个的概率 𝑃1; (2) 这 𝑛 个事件中恰好发生一个的概率 𝑃2. 解 注意到 这 𝑛 个事件中至少发生一个 = 𝐴1 ∪ 𝐴2 ∪ · · · ∪ 𝐴𝑛, 故有 𝑃1 = P(𝐴1 ∪ 𝐴2 ∪ · · · ∪ 𝐴𝑛) = 1 − P(𝐴 𝑐 1 𝐴 𝑐 2 · · · 𝐴 𝑐 𝑛 ) 独立 ====== 1 − ∏𝑛 𝑖=1 P(𝐴 𝑐 𝑖 ) = 1 − ∏𝑛 𝑖=1 (1 − 𝑝𝑖). 注意到 这 𝑛 个事件中恰好发生一个 = (𝐴 𝑐 1 𝐴 𝑐 2 · · · 𝐴𝑛) t (𝐴 𝑐 1 𝐴 𝑐 2 · · · 𝐴𝑛−1𝐴 𝑐 𝑛 ) t · · · t (𝐴1𝐴 𝑐 2 · · · 𝐴 𝑐 𝑛 ), 故有 𝑃2 = P Ä𝑛 𝑖=1 (𝐴 𝑐 1 𝐴 𝑐 2 · · · 𝐴 𝑐 𝑖−1 𝐴𝑖𝐴 𝑐 𝑖+1 · · · 𝐴 𝑐 𝑛 ) ! = ∑𝑛 𝑖=1 P(𝐴 𝑐 1 𝐴 𝑐 2 · · · 𝐴 𝑐 𝑖−1 𝐴𝑖𝐴 𝑐 𝑖+1 · · · 𝐴 𝑐 𝑛 ) 独立 ====== ∑𝑛 𝑘=1 𝑝𝑘 ∏𝑛 𝑖=1,𝑖≠𝑘 (1 − 𝑝𝑖). 例题 1.4 (赌徒破产问题) Player 财富为 𝑘, Dealer 财富为 𝑁 − 𝑘, 掷一枚均匀硬币, 出现正面 𝐻 时 Player 赢 1 Dealer 输 1, 否则 Dealer 赢 1 Player 输 1. 双方赌到一方输光时游戏结束. 问存在某个状态游戏结束 的概率？
USTC概率论习题课讲义第1章基本内容5解假设游戏结束后继续投硬币并保持两人财富保持不变.记A=【第(i-1)N+1次至第iN次投掷硬币均出现正面H),B={存在某个状态游戏结束l.则BC=[游戏无限进行下去l,且A相互独立，注意到对ViEN*，有A;CB,故对VnEN*，有BCA-所以禁产 IIP(A9) =(1-2-N)nP(BC)≤Pi=1由n的任意性，令n一+o,得P(BS)=0,即P(B)=1.故存在某个状态游戏结束的概率为1.我们已经知道，重复独立试验中，小概率事件必然发生.上例是其中的一个应用，例题1.5(Warmingstheorem）已知事件A1.A2，An.记事件Nk表示这n个事件中恰好有k个发生证明：k+P(AnAn*.-Ai,)P(Nk) = > (-1)Sk+i. Si=i=0<i<i2<.解记As=Ai，则2P(Nk)= /P/Assc(1,...n)iesIS/=k结合Jordan公式，有J(AsnAj=P(As) -PP(As)-PPIAsASAsriesid= P(As) -P(Asu(U) + P(Asu(U.k) -jasJiKes再代入上述P（Nk）的表达式即得注Jordan公式和Warmingstheorem在一些排列组合下的概率问题中给出了精确的计算公式，如下例：例题1.6(配对问题）n对夫妇面对面随机占座，求恰好有k对夫妇面对面坐的概率p(m).(0≤k≤n)。解把n位男士和n位女士按序标号，且同对夫妇标号相同.记A；表示标号i的夫妇面对面坐.先看k=0时的情形对Vi<iz<..<ik，有P(AiAi ...Ait) - (n-k)!n!利用Jordan公式，有P("=P) =-1-(-1)k-1 Z P(Ai ..Ait)Akk=1ii<...<ik(n-k)!-n!k-1 (-1)k-k!k=0再看1≤k≤n时的情形.可利用Warming'stheorem直接得到，或考虑仅标号为第ii,i2，.ik的夫妇面
USTC 概率论习题课讲义 第 1 章 基本内容 5 解 假设游戏结束后继续投掷硬币并保持两人财富保持不变. 记 𝐴𝑖 = 第(𝑖 − 1)𝑁 + 1次至第𝑖𝑁次投掷硬币均出现正面 H , 𝐵 = 存在某个状态游戏结束 . 则 𝐵 𝑐 = 游戏无限进行下去 , 且 𝐴𝑖 相互独立. 注意到对 ∀𝑖 ∈ N ∗ , 有 𝐴𝑖 ⊆ 𝐵, 故对 ∀𝑛 ∈ 𝑁 ∗ , 有 𝐵 𝑐 ⊆ Ù𝑛 𝑖=1 𝐴 𝑐 𝑖 . 所以 P(𝐵 𝑐 ) ⩽ P Ù𝑛 𝑖=1 𝐴 𝑐 𝑖 ! 独立 ====== ∏𝑛 𝑖=1 P(𝐴 𝑐 𝑖 ) = (1 − 2 −𝑁 ) 𝑛 . 由 𝑛 的任意性, 令 𝑛 → +∞, 得 P(𝐵 𝑐 ) = 0, 即 P(𝐵) = 1. 故存在某个状态游戏结束的概率为 1. 我们已经知道, 重复独立试验中, 小概率事件必然发生. 上例是其中的一个应用. 例题 1.5(Warming’s theorem) 已知事件 𝐴1, 𝐴2, · · · , 𝐴𝑛, 记事件 𝑁𝑘 表示这 𝑛 个事件中恰好有 𝑘 个发生, 证明: P(𝑁𝑘 ) = ∑𝑛−𝑘 𝑖=0 (−1) 𝑖 𝑘 + 𝑖 𝑘 𝑆𝑘+𝑖 , 𝑆 𝑗 = ∑ 𝑖1<𝑖2<···<𝑖𝑗 P(𝐴𝑖1 𝐴𝑖2 · · · 𝐴𝑖𝑗 ) 解 记 𝐴𝑆 = Ù 𝑖∈𝑆 𝐴𝑖 , 则 P(𝑁𝑘 ) = ∑ 𝑆⊆{1,···𝑛} |𝑆 |=𝑘 P © « 𝐴𝑆 Ù 𝑗∉𝑆 𝐴 𝑐 𝑗 ª ® ¬ 结合 Jordan 公式, 有 P © « 𝐴𝑆 Ù 𝑗∉𝑆 𝐴 𝑐 𝑗 ª ® ¬ = P(𝐴𝑆) − P © « 𝐴𝑆 ∩ © « Ø 𝑗∉𝑆 𝐴𝑗 ª ® ¬ ª ® ¬ = P(𝐴𝑆) − P © « Ø 𝑗∉𝑆 (𝐴𝑆 ∩ 𝐴𝑗) ª ® ¬ = P(𝐴𝑆) −∑ 𝑗∉𝑆 P(𝐴𝑆∪{ 𝑗 }) + ∑ 𝑗<𝑘 𝑗,𝑘∉𝑆 P(𝐴𝑆∪{ 𝑗,𝑘 }) − · · · 再代入上述 P(𝑁𝑘 ) 的表达式即得. 注 Jordan 公式和 Warming’s theorem 在一些排列组合下的概率问题中给出了精确的计算公式, 如下例: 例题 1.6(配对问题) 𝑛 对夫妇面对面随机占座, 求恰好有 𝑘 对夫妇面对面坐的概率 𝑃 (𝑛) 𝑘 .(0 ⩽ 𝑘 ⩽ 𝑛). 解 把 𝑛 位男士和 𝑛 位女士按序标号, 且同对夫妇标号相同. 记 𝐴𝑖 表示标号 𝑖 的夫妇面对面坐. 先看 𝑘 = 0 时的情形. 对 ∀𝑖1 < 𝑖2 < · · · < 𝑖𝑘 , 有 P(𝐴𝑖1 𝐴𝑖2 · · · 𝐴𝑖𝑘 ) = (𝑛 − 𝑘)! 𝑛! 利用 Jordan 公式, 有 𝑃 (𝑛) 0 = P Ù𝑛 𝑘=1 𝐴 𝑐 𝑘 ! = 1 − Ø𝑛 𝑘=1 𝐴𝑘 ! = 1 − ∑𝑛 𝑘=1 (−1) 𝑘−1 ∑ 𝑖1<···<𝑖𝑘 P(𝐴𝑖1 · · · 𝐴𝑖𝑘 ) = 1 − ∑𝑛 𝑘=1 (−1) 𝑘−1 𝑛 𝑘 (𝑛 − 𝑘)! 𝑛! = ∑𝑛 𝑘=0 (−1) 𝑘 𝑘! . 再看 1 ⩽ 𝑘 ⩽ 𝑛 时的情形. 可利用 Warming’s theorem 直接得到, 或考虑仅标号为第 𝑖1, 𝑖2, · · · 𝑖𝑘 的夫妇面