通信原理讲义 前言 ■概率论与随机过程的重要性 口信源信息的不确定性 第二章概率论与 口噪声的不确定性,不可控性 口多用户通信中的随机性 随机过程 zhuyu@fudan.edu.cn 孩k季 通信原理 21概率论回顾 样本空间 CP2.1.1 21.1概率( Concept of probability) 个随机试验E的所有可能结果所组成的 ■随机试验〔 random experiment) 集合称为随机试验E的样本空间,记为S E1抛出一个骰子,观察出现的点子数 E2记录某蜂窝小区一分钟内通话的用户数 样本点5 口试验可以在相同的条件下重复进行; 口每次试验的可能结果不止一个,并且能事先明 例:若试验是将一枚硬币抛掷两次,观察正 确试验的所有可能的结果; 面出现的次数:则样本空间 口进行一次试验之前不能确定哪一个结果会出现 S={0,1,2} 通信原理 後大手 通信原理 4後k手隐
通信原理讲义 zhuyu@fudan.edu.cn 第二章 概率论与 随机过程 通信原理 2 前言 ◼ 概率论与随机过程的重要性 信源信息的不确定性 噪声的不确定性，不可控性 多用户通信中的随机性 试验可以在相同的条件下重复进行; 每次试验的可能结果不止一个,并且能事先明 确试验的所有可能的结果; 进行一次试验之前不能确定哪一个结果会出现 2.1 概率论回顾 2.1.1概率(Concept of probability) ◼ 随机试验 (random experiment) E1: 抛出一个骰子，观察出现的点子数 E2: 记录某蜂窝小区一分钟内通话的用户数 样本空间 ◼ 一个随机试验E的所有可能结果所组成的 集合称为随机试验E的样本空间, 记为 S. S 例: 若试验是将一枚硬币抛掷两次, 观察正 面出现的次数: 则样本空间 S = {0, 1, 2} CP 2.1.1 样本点 通信原理 3 通信原理 4
随机事件( Random Event) CP2.1.1 事件间的关系与事件的运算 CP2.1 ■试验E的样本空间S的子集称为E的随机事 件,随机事件简称事件,常用A,B,C等表示 儿B A B 如在掷骰子试验中,观察掷出的点数 A∩B.AB AOB) AB=o 互斥 事件A={掷出3点}={3} a-B 事件B={掷出偶数点}={2,4,6} A 对立事件 事件C={出现的点数小于4}={1,2,3} 通信原理 通信原理 概率与频率 概率的公理化定义 CP2.1.1 ■频率:设在N次重复试验中(独立且客观条件相 同),事件A出现了N(4)次,则称下列比值为事件 ■设E是随机试验S是其样本空间,对于E A在N次试验中出现的频率 的每一个事件A赋予一个实数P(4),称之为 (4)=N 事件A的概率,如果它满足下列三个条件 N 口非负性:P(4)≥0 ■在不变的一组条件下进行大量的重复试验随机事 口规范性:P(S)=1 件出现的频率会稳定地在某个固定的数值附近摆 动,我们称这个稳定值为随机事件A的概率 口可加性:对于两两互斥事件A,A2,有 N P(41+A+…)=P(A4)+P(4)+ A N 通信原理 後sk季 通信原理
通信原理 5 随机事件 (RandomEvent) ◼ 试验 E 的样本空间 S的子集称为 E的随机事 件, 随机事件简称事件,常用 A, B, C 等表示. 如在掷骰子试验中，观察掷出的点数. 事件A = {掷出3点} = {3} 事件B = {掷出偶数点} = {2, 4, 6} 事件C = {出现的点数小于4} = {1, 2, 3} CP 2.1.1 通信原理 6 事件间的关系与事件的运算 A B A B A B A B A− B = AB A B A B, AB A B A B AB = 互斥 A A A 对立事件 CP 2.1.1 概率与频率 ◼ 频率：设在 N 次重复试验中（独立且客观条件相 同）, 事件 A 出现了 N(A) 次, 则称下列比值为事件 A 在 N 次试验中出现的频率 ◼ 在不变的一组条件下进行大量的重复试验, 随机事 件出现的频率会稳定地在某个固定的数值附近摆 动, 我们称这个稳定值为随机事件A 的概率 N f N (A) = N (A) N (A) N→ N P(A) = lim CP 2.1.1 概率的公理化定义 CP 2.1.1 ◼ 设 E 是随机试验, S 是其样本空间,对于 E 的每一个事件 A赋予一个实数 P(A),称之为 事件 A 的概率, 如果它满足下列三个条件: 非负性: P(A) 0 规范性: P(S )= 1 可加性:对于两两互斥事件A1, A2 , … ,有 P(A1+ A2+) = P(A1 )+ P(A2 )+ 通信原理 7 通信原理 8
条件概率 CP2.1.1 条件概率 CP2.1 考虑从一副牌中连续抽两张牌,定义事件A为第 ■在事件M发生条件下A发生的概率 一张牌为‘K,事件B为第二张牌为‘K.显然 B发生的概率要受到第一张牌结果的影响 P()=2C AM P(M) 在事件A发生条件下B发生的概率P(B|A ■P(4)称为先验概率( a priori probabilit!y) P(AB)=P(AP(B1A P(4|M)称为后验概率( a posteriori probability) ■若一个试验重复N次,其中A发生了n次, 在这n次试验里,事件B发生了n2次 A n1 通信原理 通信原理 後且k手 全概率公式一由原因推结果 贝叶斯( Bayes)定理一由结果找原因 CP2.1.1 定义:设试验的样本空间为S,设A1,A2,,An是对 ■若事件A1,,A2组成对S的划分,B是任意 S的一个样本划分,满足 事件 口A两两互斥 P(4|B) P(A)P(B/A ∑P(A)P(B/A) ■定理:若A1,A2,…,An是对样本空间S的一个划分 是任意一个事件,那么有 ■该公式于1763年由贝叶斯( Bayes)给出 它是在观察到事件B已发生的条件下,寻找 P(B)=∑P(4)P(B14) 导致B发生的每个原因的概率 每一原因都可能导致B发生,故B发生的概率是 各原因引起B发生概率的总和即全概率公式 後大手 通信原理 12孩人手
通信原理 9 条件概率 考虑从一副牌中连续抽两张牌, 定义事件 A 为第 一张牌为‘K’, 事件 B 为第二张牌为‘K’. 显然 B 发生的概率要受到第一张牌结果的影响. ◼ 在事件 A 发生条件下 B发生的概率 P(B | A) P(AB) = P (A)P(B | A) ◼ 若一个试验重复 N次, 其中 A 发生了 n1 次, 在这 n1 次试验里, 事件 B 发生了 n2 次 N→ N N→ N n P ( AB) = lim n2 = lim n1 n2 1 CP 2.1.1 通信原理 10 条件概率 ◼ 在事件 M 发生条件下 A发生的概率 P(A M )= P(AM ) CP 2.1.1 P (M) ◼P(A) 称为先验概率(a priori probability) P(A M )称为后验概率(a posteriori probability) M A M S S A 全概率公式—由原因推结果 ◼ 定义: 设试验的样本空间为 S, 设A1, A2 , …, An 是对 S 的一个样本划分, 满足 Ai两两互斥 n i =1 A i =S n ◼ 定理: 若A1, A2 , …, An是对样本空间 S 的一个划分, B是任意一个事件, 那么有 P(B) = P (Ai)P (B | Ai) i=1 每一原因都可能导致 B 发生, 故 B 发生的概率是 各原因引起 B 发生概率的总和, 即全概率公式. CP 2.1.1 贝叶斯(Bayes)定理—由结果找原因 ◼ 若事件 A1,…, An 组成对 S 的划分, B 是任意 一事件 ◼ 该公式于1763年由贝叶斯(Bayes) 给出. 它是在观察到事件B已发生的条件下,寻找 导致 B 发生的每个原因的概率 i P( Ai )P(B Ai) P( Aj )P(B Aj) j=1 P( A | B) = n CP 2.1.1 通信原理 11 通信原理 12
独立性 CP2.1.1 CP2.1 ■定义:事件A,B称为独立,如果有 ■随机试验、样本空间、随机事件 P(AB)=P(AP(B 事件间的关系与事件的运算 ■即便我们知道B发生了,但对判断A发生与 频率 否没有帮助 概率的公理化定义 P(4|B)=P(AB)/P(B)=P(4) 条件概率 例:从一副不含大小王的扑克牌中任取一张, 全概率公式 记A={抽到K} 贝叶斯公式 B={抽到的牌是黑色的} ■独立性 通信原理 sk手 通信原理 後三k季 212随机变量( Random variable,R 引入随机变量的意义 CP2.12 ■将随机试验的结果用数量来表示,一个随机变量就是将 ■有了随机变量,随机试验中的各种事件, 个试验的每一个结果用一个数来表征 口“其值随机会而定”的变量,是试验结果的函数 就可以通过随机变量的关系式表达出来 (1)有些试验结果本身与数值有关(本身就是一个数) (2)在有些试验中,试验结果看来与数值无关,但我们可以 ■如:每次上课的学生数用X表示,它是一个 引进一个变量来表示它的各种结果.也就是说,把试验 结果数值化 随机变量 口事件{来了不少于30名学生} R 口事件{没有学生来听课} X() x X=0 後大手 通信原理 6後人手
通信原理 13 独立性 ◼ 定义: 事件 A, B 称为独立, 如果有 P(AB) = P(A) P(B) ◼ 即便我们知道 B发生了,但对判断 A 发生与 否没有帮助 P(A | B) = P(AB) P(B) = P(A) 例: 从一副不含大小王的扑克牌中任取一张， 记 A = {抽到 K}, B = {抽到的牌是黑色的} CP 2.1.1 通信原理 14 小结 ◼ 随机试验、样本空间、随机事件 ◼ 事件间的关系与事件的运算 ◼ 频率 ◼ 概率的公理化定义 ◼ 条件概率 ◼ 全概率公式 ◼ 贝叶斯公式 ◼ 独立性 CP 2.1.1 R s 2.1.2 随机变量(Random Variable, RV) ◼ 将随机试验的结果用数量来表示, 一个随机变量就是将一 个试验的每一个结果用一个数来表征. “其值随机会而定”的变量, 是试验结果的函数 (1)有些试验结果本身与数值有关 (本身就是一个数) (2)在有些试验中, 试验结果看来与数值无关, 但我们可以 引进一个变量来表示它的各种结果. 也就是说, 把试验 结果数值化. x X ( ) X 引入随机变量的意义 ◼ 有了随机变量, 随机试验中的各种事件, 就可以通过随机变量的关系式表达出来. ◼ 如: 每次上课的学生数用 X 表示,它是一个 随机变量 事件{来了不少于30名学生} X 30 事件{没有学生来听课} X=0 CP 2.1.2 通信原理 15 通信原理 16
离散型随机变量 Discrete rv) CP2.12 概率分布函数 Cumulative distribution function)c212 ■取值是有限多个,或虽则在理论上讲能取无限个值, ■若X是一个随机变量,那么称 但这些值可以毫无遗漏地一个接一个排列出来,即 F(x)=P(X≤x) 可数( countable) 为X的CDF ■定义:设xk(k=12…)是离散型随机变量X所取 的一切可能值,称 ■如果将X看作数轴上随机点的坐标,那么分布函 P=P(X=x)k=1,2 数Fx(x)的值就表示x落在区间(-∞x]内的 概率 为x的概率质量函数( probability mass function) 通信原理 孩照大手 通信原理 後大季 概率分布函数的性质 P2.12 连续型随机变量 CP2.12 ■全部可能取值不仅是无穷多,而且还不能无 Fx(∞)= I and Fx(-∞)=0 遗漏地逐一排列,且充满一个区间 2.Ifx1≤x2, then F(x)≤Fx(x2) ■不能象离散型随机变量那样,以指定它取每 个值概率的方式,去给出其概率分布,而是 通过给出所谓“概率密度函数”的方式 Note: 1 and 2 imply that Os F(x)s1 ■取某一个值的概率为0.对于连续型随机变 3. Fr(r)is continuous from the right, 量而言,有意义的不是X=x,的概率,而是 .,F(r)=F(r) where F(r)=limF,(+lD) 个区间x<X≤x+Ax上的概率 4. P(,<Xs x2)=F(x2)-F(.) P(x<X sx+Ax)=Fx(r+Ax)-Fx() 通信原理 後sk季 通信原理 0後人手
通信原理 17 离散型随机变量(Discrete RV) ◼ 取值是有限多个, 或虽则在理论上讲能取无限个值, 但这些值可以毫无遗漏地一个接一个排列出来, 即 可数(countable). ◼ 定义: 设 xk (k = 1,2,) 是离散型随机变量X 所取 的一切可能值, 称 为 X 的概率质量函数 (probability mass function) pk = P (X = xk ) k =1, 2, X 1 2 k x x x pk p1 p2 pk CP 2.1.2 通信原理 18 数 概率 概率分布函数(Cumulative distribution function) ◼ 若 X 是一个随机变量, 那么称 FX (x) = P (X x) 为 X 的CDF. ◼ 如果将 X 看作数轴上随机点的坐标, 那么分布函 FX (x) CP 2.1.2 x 的值就表示 X 落在区间 (− x 内的 FX (x) 1 概率分布函数的性质 4. 2. If x1 x2 , then FX (x1 ) FX (x2 ) 1. FX () =1 and FX (−) =0 Note: 1 and 2 imply that 0≤F(x)≤1 3. FX ( x)is continuous from the right, X ( ) + →0 X ( ) ( ) ( ) x + X X + i.e., F x = F x where F x = limF P(x1 X x2 )= FX (x2 )− FX (x1 ) CP 2.1.2 连续型随机变量 ◼ 全部可能取值不仅是无穷多, 而且还不能无 遗漏地逐一排列,且充满一个区间. ◼ 不能象离散型随机变量那样, 以指定它取每 个值概率的方式, 去给出其概率分布, 而是 通过给出所谓“概率密度函数”的方式. ◼ 取某一个值的概率为 0. 对于连续型随机变 量而言,有意义的不是 X =x i 的概率,而是 一个区间 x X x + x 上的概率. P(x X x + x) = FX (x + x) − FX (x) CP 2.1.2 通信原理 19 通信原理 20
概率密度函数( probability density function)c21 对fx(x)的进一步理解 CP2.1.2 ■利用概率密度可确定随机点落在某个范围 若x是f(x)的连续点,则 内的概率P(x<X≤x+Ax) Fx(x+△x)=Fx(x)+P(x<X≤x+△) f()“F() ④=lmF(x+△x)=F(x) △x→ 若Ax→0,可以将F(x+2泰勒展开 linP(x<X≤x+△x F:(x+A)=F()+()x ■把概率理解为质量,f(x)相当于线密度. lim dE c) =P(x<X≤x+Ax) 设想一根极细的无穷长的金属杆,总质量为 fr() dFx() 1,概率密度相当于杆上各点的质量密度 通信原理 孩照大手 通信原理 概率密度函数性质 P2.12 两种随机变量的对比 CP2.12 1. Since F(x)is non-decreasing. /(x)20 2. F(x)- E)d,(the density and distribution are equivalent 3 Since F(o)=1,「=1 4P{x1<Xsx2)=F(2)-(x1)=R 5. If,=x1+h and h is small, then 通信原理 後sk季 通信原理 4後人手
通信原理 21 概率密度函数 (probability density function) lim dF X( x) x→ dx 0 + x = P ( x X x +x) X f dx ( x) dFX ( x) dF X(x) dx FX (x + x) FX (x) + x 若 x → 0 , 可以将 FX (x + x) 泰勒展开 ◼ 利用概率密度可确定随机点落在某个范围 内的概率 P (x X x + x) FX (x + x) = FX (x) + P(x X x + x) CP 2.1.2 通信原理 22 ◼ 把概率理解为质量, 设想一根极细的无穷长的金属杆, 总质量为 1, 概率密度相当于杆上各点的质量密度. X f x→ 0 + x→ 0 + dx x = lim P ( x X x + x) (x) dFX (x) = lim F (x + x) − F (x) 对 f X (x) 的进一步理解 ◼ 若 x 是 f X (x) 的连续点, 则 X f x (x) 相当于线密度. CP 2.1.2 概率密度函数性质 CP 2.1.2 两种随机变量的对比 CP 2.1.2 通信原理 23 通信原理 24
随机变量的函数 CP2.12 连续型随机变量函数的分布 CP2.1.2 ■考虑线性变换Y=g(x)=ax+b,ab∈R,a≠0 例已知F时刻噪声电压的分布 求功率W=R(R为电阻)的分布 a>0F1()=P(Y≤y)=P(ax+b≤y) bEly-b ■设随机变量X的分布已知,F=g(X,如何由X 的分布求出Y的分布 f dFr( ■离散型随机变量函数的分布 f() P({Y=y)=∑P({X=x}=∑p Fr) k(x) ∫(y) 通信原理 孩照大手 通信原理 孩sk季 小结 cP2.12 21.3多维随机变量 ■随机变量一试验结果的函数 到现在为止,我们只讨论了一维RV及其分布 离散型随机变量 但有些随机现象用一个随机变量来描述还不够 PMF CDF 而需要用几个随机变量来描述 ■连续型随机变量 口CDF,PDF 在打靶时,命中点的位置是由 寸R∨(两个坐标)来确定的. 随机变量的函数 飞机的重心在空中的位置是由三 个R∨(三个坐标)来确定的等等 後大手 通信原理 後人手
通信原理 25 随机变量的函数 CP 2.1.2 ◼ 设随机变量 X的分布已知,Y=g (X),如何由 X 的分布求出 Y 的分布? ◼ 离散型随机变量函数的分布 pk k g( xk )= yi k g(xk )= yi P (Y = yi)= P (X = xk )= 例: 已知 t=t0时刻噪声电压 V 的分布, 求功率 W=V2 /R (R 为电阻) 的分布. 通信原理 26 连续型随机变量函数的分布 CP 2.1.2 ◼考虑线性变换 Y = g (X ) = aX + b, a, b R, a 0 Y a a = P X y − b = F y − b X Y a F ( y )= 1− F y − b X a 0 F ( y )= P (Y y)= P (aX + b y) Y f a y − b ( y ) = dFY ( y ) = 1 f dy a X Y a a y − b f ( y )= 1 f X a 0 Y a y − b f (y )= 1 f X −a 小结 ◼ 随机变量—试验结果的函数 ◼ 离散型随机变量 PMF, CDF ◼ 连续型随机变量 CDF, PDF ◼ 随机变量的函数 CP 2.1.2 2.1.3多维随机变量 在打靶时,命中点的位置是由一 对 RV (两个坐标)来确定的. 飞机的重心在空中的位置是由三 个 RV (三个坐标)来确定的等等. 到现在为止, 我们只讨论了一维 RV 及其分布. 但有些随机现象用一个随机变量来描述还不够, 而需要用几个随机变量来描述. 通信原理 27 通信原理 28
二维随机变量 CP2.13 二维随机变量的联合分布函数 Joint CDF)c213 ■二维随机变量(X,Y)可以看成是从样本空 间S到R2的映射 维随机变量的 概率分布函数 x)=P(X≤x) 对应于试验的结果ξ,(X,Y)值同时被确定 ■设(x,)是二维随机变量,如果对于任意实 数x,y,二元函数 (x,y)=P(x≤x)(sy) 会P(X≤x,F≤y) 称为二维随机变量(X,Y)的分布函数,或者 称为随机变量X和Y的联合分布函数. 通信原理 孩照大手 通信原理 二维随机变量的概率分布函数图例 P2.1.3 Joint probability density function CP2.13 ■二维连续性型随机变量的联合概率密度函数 (Joint probability density function F(x)=P(X≤x) P(x<X≤x+Ax,y<y≤y+y) (x+△x,y+4y) Fx(x+△r,y+△y) Fx. r(x+Ax,y) (r,y) 维随机变量的 概率分布函数 Fxr(x,y+Ay) F 二维随机变量的概率分布函数 通信原理 後大手 通信原理 32後人手
通信原理 29 二维随机变量 CP 2.1.3 S y x X ◼ 二维随机变量 (X ,Y ) 可以看成是从样本空 间 S 到 R 2 的映射 ◼ 对应于试验的结果 , (X ,Y )值同时被确定 Y (x, y ) 通信原理 30 二维随机变量的联合分布函数(Joint CDF) ◼ 设 (X ,Y )是二维随机变量, 如果对于任意实 数 x, y , 二元函数 FX ,Y (x, y )= P(X x) (Y y ) P ( X x ,Y y) 称为二维随机变量 (X ,Y )的分布函数, 或者 称为随机变量 X 和 Y 的联合分布函数. 一维随机变量的 F X(x) = P (X x) 概率分布函数 CP 2.1.3 二维随机变量的概率分布函数图例 FX (x) = P (X x) x 一维随机变量的 概率分布函数 (x, y ) FX ,Y (x, y)= P(X x ,Y y) 二维随机变量的概率分布函数 CP 2.1.3 Joint probability density function ◼ 二维连续性型随机变量的联合概率密度函数 (Joint probability density function) P(x X x + x, y Y y + y ) (x, y ) (x + x, y + y) CP 2.1.3 X ,Y X ,Y X ,Y = F (x + x, y + y) − F − F (x + x, y ) (x, y + y ) +FX ,Y (x, y ) 通信原理 31 通信原理 32
联合概率密度函数的理解 CP2.13 边缘分布函数( marginal CDF) cP2.13 二维连续性型随机变量的联合概率密度函数 (Joint probability density function 二维随机变量(XY)作为一个整体,具有分 布函数Fx(x,y) lim x,(x, y)AxAy=P(x<xsx+Ax,y<Ysy+Ay) ■而X和Y都是随机变量,其各自的分布函 数分别记为FA(x),F(y)依次称为二维随 基于二元函数泰勒展开,可以得到 = Pefr, y) dney 机变量(X,Y)关于X和Y的边缘分布函数 fxr(x, y) fFr (x,y) Fx(x)=P{X≤x=P{Xsx,Y≤+∞}=Fx,(x,+) axon F(y)=P(≤y=P(X≤+,Y≤y=Fx(+∞,y) Fx:(xy)=”[f(u)hah 通信原理 通信原理 边缭概率峦度函数 (marginal PDF)213 条件概率分布函数 (conditiona|cDF CP2.13 ■连续性二维随机变量(X,)分布函数Fx/(xy) ■条件概率分布函数定义 则(X,y)关于X的边缘概率密度为 F(|x)=lmP({Yy{x<X≤x+△x}) fx(x)=」fxy(x,y)d m Plrsxpd<xs x+ar D-I fx(u,v)duds imfx(x)Ax=P(x<X≤x+Ax,-<Y≤ P(x<Xsx+△x qudu fx.r(u,)dudu Ar[/x,(r, d /,(x,n)dv (x) ∫(x) limfx,,(x, y)d die lim Ax[x(r,)d hm(13)=2n山2x( 通信原理 後sk季 通信原理 x6後k手隐
通信原理 33 联合概率密度函数的理解 ◼ 二维连续性型随机变量的联合概率密度函数 (Joint probability density function) x →y 0 → 0 lim f X ,Y (x, y)xy = P (x X x + x, y Y y + y) X ,Y 2F ( x, y) f (x, y) = X,Y xy ( ) y x X ,Y f X ,Y (u, v) dudv − − F x, y = 基于二元函数泰勒展开, 可以得到 CP 2.1.3 通信原理 34 边缘分布函数 (marginal CDF) ◼ 而 和 都是随机变量,其各自的分布函 的边缘分布函数. ◼ 二维随机变量 (X ,Y )作为一个整体, 具有分 布函数 FX ,Y (x, y ). X Y 数分别记为 FX (x), FY( y ),依次称为二维随 机变量 (X ,Y )关于X 和 Y FX ( x) = PX x = PX x,Y + = FX ,Y (x, +) FY ( y )= PY y = PX +,Y y = FX ,Y (+, y) CP 2.1.3 边缘概率密度函数(marginalPDF) 的边缘概率密度为 ◼ 连续性二维随机变量(X,Y )分布函数FX ,Y(x, y ), − f X (x) = f X ,Y (x, y)dy 则 (X ,Y )关于 X ( ) ( ) = lim = lim X ,Y X ,Y X ,Y x f (u, v) dudv f x, v dv x → 0 x+x x → 0 x x+x − − x → 0 x → 0 lim f X (x)x = P(x X x + x, − Y ) du= lim x f x, v dv − CP 2.1.3 条件概率分布函数(conditional CDF) ◼ 条件概率分布函数定义 ( ) ( ) ( ) X ,Y X y y X ,Y X ,Y X X P Y (u,v) dudv (u)du f x, v dv f (x) x → 0 y x+x f − x x+x f x x → 0 x → 0 − − x → 0 FY |X (y | x) = lim P (Y y | x X x + x) = lim = lim P (x X x + x) x f x, v dv = f ( x) x y x X x +x lim Y|X X ,Y Y|X X f (x, y ) f (x) F (y | x) f (y | x)= = y CP 2.1.3 通信原理 35 通信原理 36
条件概率密度函数的几何解释 CP2.13 随机变量相互独立的定义 cP2.13 fx,(r,y) 两事件A,B独立的定义:若P(AB=P(AP(B) fx,(, y)dxdy 则称事件A,B独立 y+dy f()dx ■设(X,H)是两个RV,若对任意的x,y,有 [/xr( P(X≤x,Y≤y)=P(Xsx)P(Y≤y) 则称X和Y相互独立 ∫Gx(xy))h=f()d ■若X和y相互独立,有 f(x)=11m(1)h=f:(,y)dd T, y)dxdy Fx,r(x,y)=FxGF() fr gr)dx fxr(x,y)=f()f( 通信原理 孩照大手 通信原理 孩手 离散型随机变量的联合概率质量函数23 离散型随机变量的边缘概率质量函数 CP2.1.3 二维离散型随机变量的联合概率质量函数 ■二维离散型随机变量的边缘概率质量函数 (Joint probability mass function) (marginal probability mass function P(X=X, Y=y)=P i,j=1, 2, P≥0,j=12, P{X=x}=∑P{x=x1,=y}∑p Pi Pn Pa nPn日Pa J2 P12 P2 P Pu\ Pij 後大手 通信原理
通信原理 37 条件概率密度函数的几何解释 X ,Y (x, y )dy f X ,Y (x, y)dxdy f X (x)dx = dx f − (f X ,Y (x, y )dx )dy = f X (x) dx CP 2.1.3 x x +dx y +dy y y fX ,Y (x, y) x ( | ) X Y, ( ( ) f y x dy = f x, y dxdy Y X| f x)dx X Y |X f f (x)dx (y | x)dy = f X ,Y (x, y )dxdy X ,Y f (x, y )dxdy f X (x) dx =1 通信原理 38 随机变量相互独立的定义 两事件 A, B 独立的定义: 若P(AB)=P(A)P(B), 则称事件 A, B 独立. X ,Y f (x, y)= f X (x) fY (y) P ( X x,Y y) = P( X x)P(Y y) 则称 X 和 Y 相互独立. ◼ 若X 和 Y 相互独立, 有 FX ,Y (x, y ) = FX (x) FY( y) ◼ 设 (X ,Y )是两个RV, 若对任意的 x, y , 有 CP 2.1.3 离散型随机变量的联合概率质量函数 ◼ 二维离散型随机变量的联合概率质量函数 (Joint probability mass function) j y1 y2 y X Y x1 x2 xi i1 p11 p21 p 2 j ij p12 p p22 p pi2 p 1j j i pij =1 P ( X = xi ,Y = y j ) = pij i, j =1, 2, pij 0 i, j = 1,2, CP 2.1.3 离散型随机变量的边缘概率质量函数 ◼ 二维离散型随机变量的边缘概率质量函数 (marginal probability mass function) i j j=1 j=1 P X = xi = P X = x ,Y = y = p ij y1 y2 y j X Y x1 x2 xi 11 21 i1 p p p 22 i2 p p p p1j 12 p2j pij j P ij CP 2.1.3 通信原理 39 通信原理 40