附录B概率论、随机变量和随机过程 本附录简要介绍书中所用到的概率论、随机变量、随机过程方面的主要概念。有关这 宽深主题的详细处理，以及本附录所给出的性质的证明，请参考1~8]。 B.1概率论 概率论是随机事件的数学描述。随机事件由概率空间(2,6，P()定义。概率空间由样 本空间2、随机事件的集合6和概率测度p()组成。其中2是随机事件可能结果的集合。6 是集合的集合，任意随机事件A∈￡是2的子集。对每一个集合A∈￡定义了概率测度 p(A)。概率空间要求集合6是一个σ域。直观地说，如果一个集合的集合6包含了所有它 的元素的交集、并集和补集'，6就是一个。域。更准确地说，6是一个。域，如果：所有 可能结果构成的集合2是&中的一个集合；若集合AeE,则A∈E;对于任意集合 A,A,其中A,∈6，有UA∈6。为了能定义随机事件的交、并的概率，6必须是o 域。我们还要求概率空间中的概率测度满足下列三个基本性质： 1.p2)=1. 2.对于任意事件A∈8，有0≤p(A)≤1。 3.如果A和B是互斥的（即其交集为零），则P(AB)=p(4)+pB) 本节只考虑ε中的集合，因为概率测度只定义在这些集合上。 从概率测度p的基本性质可以推出一些重要特性，如p(4)=1-p(A)。再如，若 集合4，A两两不相交(A∩A,=0,i≠j),则当4U4U.UA,=2时，有 立4)=1，秀达样的集合4.为n的一个刻合（侧m.对于再个相交的安 合A和A,有p(AUA,)=p(4)+p(A)-p(4∩4)，这一点导出了联合界(mion bomd),其表述为：对于任意集合A,.,An,有 '我们用A门B表示A和的交集，它是所有A和的共同元。A和B的并集记为AUB,是所有或出现在 A中、或出现在肿的元素的集合。AC2的补集记为，是所有在2中，但不在中的元秦， 1/13 附录 B 概率论、随机变量和随机过程 本附录简要介绍书中所用到的概率论、随机变量、随机过程方面的主要概念。有关这一 宽深主题的详细处理，以及本附录所给出的性质的证明，请参考[1~8]。 B.1 概率论 概率论是随机事件的数学描述。随机事件由概率空间(Ω, , ε p(⋅)) 定义。概率空间由样 本空间 、随机事件的集合 Ω ε 和概率测度 p( )⋅ 组成。其中Ω 是随机事件可能结果的集合。ε 是集合的集合，任意随机事件 A∈ε 是 Ω 的子集。对每一个集合 A∈ε 定义了概率测度 p( ) A 。概率空间要求集合ε 是一个σ 域。直观地说，如果一个集合的集合ε 包含了所有它 的元素的交集、并集和补集1 ，ε 就是一个σ 域。更准确地说，ε 是一个σ 域，如果：所有 可能结果构成的集合 Ω 是 ε 中的一个集合；若集合 A∈ε ，则 c A ∈ε ；对于任意集合 A A 1 2 , ,"，其中 Ai ∈ε ，有 1 i i A ε ∞ = ∪ ∈ 。为了能定义随机事件的交、并的概率，ε 必须是σ 域。我们还要求概率空间中的概率测度满足下列三个基本性质： 1． 。 p()1 Ω = 2．对于任意事件 A∈ε ，有0 () ≤ ≤ p A 1。 3．如果 和 是互斥的（即其交集为零），则 A B p( ) () () A B pA pB ∪ = + 本节只考虑ε 中的集合，因为概率测度只定义在这些集合上。 从概率测度 p( )⋅ 的基本性质可以推出一些重要特性，如 。再如，若 集合 ( ) 1 () c pA pA = − 1, , A " An 两两不相交（ 0 A A i j ∩ = / ， i ≠ j ），则当 时，有 ，称这样的集合 AA A 1 2 ∪ ∪"∪ n = Ω 1 ()1 n i i p A = ∑ = 1 { ,., } A An 为 Ω 的一个划分（partition）。对于两个相交的集 合 Ai 和 Aj ，有 ( ) () ( ) ( ij i j ij p A A pA pA pA A ∪ =+− ∩ ) ，这一点导出了联合界（union bound），其表述为：对于任意集合 1, , A " An ，有 1 我们用 表示A和B的交集，它是所有A和B的共同元素。A和B的并集记为 ，是所有或出现在 A中、或出现在B中的元素的集合。 的补集记为 ，是所有在 A B ∩ A B ∪ A ⊂ Ω c A Ω 中，但不在A中的元素。 1/13