§1.4余件概率、全概率公式 和贝叶斯公式 件率 集因E >E。公率因式 >回、斯公式
生s14条件概率、全概率公式和贝叶 斯公式 条件概率 庄简单地说,条件概率就是在一定附加 条件之下的事件概率 午从广义上看,任何概率都是条件概率, 斗因为任何事件都产生于一定条件下的试验 或观察,但我们这里所说的“附加条件 王是指除试验条件之外的附加信息,这种附 牛加信息通常表现为“已知某某事件发生了” 上页
§1.4 条件概率、全概率公式和贝叶 斯公式 一、条件概率 简单地说,条件概率就是在一定附加 条件之下的事件概率. 从广义上看,任何概率都是条件概率, 因为任何事件都产生于一定条件下的试验 或观察,但我们这里所说的“附加条件” 是指除试验条件之外的附加信息,这种附 加信息通常表现为“已知某某事件发生了
王定义12设A和B为两个事件,P(B)>0,那 么,在“B已发生”的条件下,A发生的条 王件概率AB) 定义为 P(A B) P(AB) P(B).(1-10) 在具体计算P(A|B)时,可以用公式(1- 10)的右端来求,也可以像刚才的例子那 样,直接从缩小了的样本空间来求,后 种求法有时更方便、实用 上页
定义1.2 设A和B为两个事件, ,那 么,在“B已发生”的条件下,A发生的条 件概率 定义为 . (1-10) 在具体计算 时,可以用公式(1- 10)的右端来求,也可以像刚才的例子那 样,直接从缩小了的样本空间来求,后一 种求法有时更方便、实用. P(B) 0 P(A | B) ( ) ( ) ( | ) P B P AB P A B = P(A | B)
从条件概率的定义,不难验证条件概率具 有以下性质(习题一的第23题) (1)P[(A+B)C]=P(AC)+P(B|C) (2)P(A|C)=1-P(A|C) 但是,需要注意,一般地P(A|B)+P(A|B)≠1 PLA(B+C)*P(A B)+P( C) 王条件概率的一个重要应用便是下面的乘法 公式 上页
从条件概率的定义,不难验证条件概率具 有以下性质(习题一的第23题): (1) (2) 但是,需要注意,一般地 , . 条件概率的一个重要应用便是下面的乘法 公式. P[(A + B) | C] = P(A | C) + P(B | C) P(A | C) = 1− P(A | C) P[A | (B + C)] P(A | B) + P(A | C) P (A| B) + P(A| B) 1
二、乘法公式 根据(1-10),当P(A)>0或P(B)>0 王时,立即有PAB)=P()P(B|D或 P(AB)=P(B). P(A B) (1-l1) 中这就是概率的乘法公式,它在计算复杂事 件的概率时十分有用 牛乘法公式(1)还可推广到多个事件的 情形,如442…4n1)>0时,有 上页
二、乘法公式 根据(1-10),当 或 时,立即有 或 . (1-11) 这就是概率的乘法公式,它在计算复杂事 件的概率时十分有用. 乘法公式(1-11)还可推广到多个事件的 情形,如 时,有 P(A) 0 P(B) 0 P(AB) = P(A) P(B | A) P(AB) = P(B) P(A | B) P(A1 A2 Am−1 ) 0
cP(44…,4)=P(44…Am)4l=P44…Am)P(4144…4m) =…=P4)P(A2|4)…P(A|A4…41P∠An1AA2…dn) 我们看到,运用乘法公式求复杂事件 的概率时,关键在于如何将事件依次划分 成‘适当’事件之积,使得前面事件都发 生的条件下后一事件发生的条件概率便于 上计算 王关于复杂事件概率的计算方法,除乘法公 式外,下面还有一个更重要的公式
我们看到,运用乘法公式求复杂事件 的概率时,关键在于如何将事件依次划分 成‘适当’事件之积,使得前面事件都发 生的条件下后一事件发生的条件概率便于 计算. 关于复杂事件概率的计算方法,除乘法公 式外,下面还有一个更重要的公式 ( ) [( ) ] ( ) ( | ) 1 2 1 2 −1 1 2 −1 1 2 −1 = = P A A Am P A A Am Am P A A Am P Am A A Am ( ) ( | ) ( | ) ( | ) 1 2 1 1 2 −1 1 2 −1 = = P A P A A P Ai A A Ai P Am A A Am
王三、全概率公式 王设事件组A,4,…4互斥4+4+…+41=9 王且P(4)>0,=12…n则对任一事件B, P(B)=P(AD).(B| A)+P(A2) P(B A2)+.+P(A, ) P(B A) 中=P(x)P(B|A),(12) 上称此式为全概率公式 由全概率公式可知,在计算复杂事件B 午的概率时,只要能找到一组适当的、互斥 简单事件A,A2…,A使它们的和事件是必 然事件 上页
三、全概率公式 设事件组 互斥 且 , 则对任一事件B, , (1-12) 称此式为全概率公式. 由全概率公式可知,在计算复杂事件B 的概率时,只要能找到一组适当的、互斥 简单事件 使它们的和事件是必 然事件 A A An , , , 1 2 A1 + A2 ++ An = P(Ai ) 0 i = 1, 2, ,n, ( ) ( ) ( | ) ( ) ( | ) ( ) ( | ) P B P A1 P B A1 P A2 P B A2 P An P B An = + ++ = = n i P Ai P B Ai 1 ( ) ( | ) , , , A1 A2 An
王并且4)和PB1A)(1=12-)易于 计算,那么,P(B)的计算就可简化 王四、贝叶斯公式 在公式(1-10)、(1-11)和(1-12) 中的条件下,若,则立即有 4/分)P(4B)P(4)P(B14),i=12…,n,(1-13) P P(B) ∑P(A)·P(B|4) k=1 上式称为贝叶斯公式以纪念英国统计学家 贝叶斯( T Bayes)对概率论的贡献 上页
并且 和 ( )易于 计算,那么, 的计算就可简化. 在公式(1-10)、(1-11)和(1-12) 的条件下,若,则立即有 , (1-13) 上式称为贝叶斯公式以纪念英国统计学家 贝叶斯 (T. Bayes)对概率论的贡献. ( ) P Ai ( | ) P B Ai i = 1, 2, ,n, P(B) 四、贝叶斯公式 = = = n k k k i i i i P A P B A P A P B A P B P A B P A B 1 ( ) ( | ) ( ) ( | ) ( ) ( ) ( | ) i = 1, 2, ,n
这一公式最早发表于1763年,当时贝叶斯 已经去世,其结果没有受到应有的重视后 来,人们才还渐认识到了这个著名概率公 式的重要性现在,贝叶斯公式以及根据它 发展起来的贝叶斯统计已成为机器学习、 人工智能、知识发现等领域的重要工具 贝叶斯公式给出了结果事件B已发 生的条件下,“原因事件的条件概率 生从这个意义上讲,它是二个“执果索因 的条件概率计算公式相对于事件B而言 9 概 上页
这一公式最早发表于1763年,当时贝叶斯 已经去世,其结果没有受到应有的重视. 后 来,人们才逐渐认识到了这个著名概率公 式的重要性. 现在,贝叶斯公式以及根据它 发展起来的贝叶斯统计已成为机器学习、 人工智能、知识发现等领域的重要工具. 贝叶斯公式给出了‘结果’事件B已发 生的条件下,‘原因’事件 的条件概率 从这个意义上讲,它是一个“执果索因” 的条件概率计算公式.相对于事件B而言, 概 Ai i = 1, 2, ,n
率论中把称为先验概率( PriorProbability) 二,而把称为后验概率 er( Posterior Probability 王信息(即事件B已发生)之后对事件发生的 可能性做出的重新认识,体现了已有信息 午带来的知识更新 工工工 上页
率论中把称为先验概率(PriorProbability) ,而把称为后验概率 (Posterior Probability),这是在已有附加 信息(即事件B已发生)之后对事件发生的 可能性做出的重新认识,体现了已有信息 带来的知识更新