1吉祥爆1第5章有噪信道编码差错控制编码1111111a1
1 第5章 有噪信道编码 ——差错控制编码
吉祥问题的提出■每一个通信系统都会有两方面技术要求：有效性和可靠性人（1）有效性：信息率，信息速率，含量效率（2）可靠性：差错率P。。P。与信道的统计特性有关。降低P的方法：先对消息进行编码再送入信道传送，这种为降低平均差错率而进行的编码称为信道编码；在信道输出端加信道译码器进行信息还原。！香农第二编码定理告诉我们：只要信道编码和译码的方法得当，就可使平均差错率趋于零。稻信道信道UUXY译码器信道编码器F森f1N编码信道福2
2 问题的提出 每一个通信系统都会有两方面技术要求：有效性和可靠性 （1）有效性：信息率，信息速率，含量效率 （2）可靠性：差错率Pe 。Pe与信道的统计特性有关。 降低Pe的方法：先对消息进行编码再送入信道传送，这种为降 低平均差错率而进行的编码称为信道编码；在信道输出端加 信道译码器进行信息还原。 香农第二编码定理告诉我们：只要信道编码和译码的方法得 当，就可使平均差错率趋于零。 编码信道 X N 信道 编码器 f U U ˆ 信道 Y 信道 译码器 F
1各节内容15. 1译码规则与错误概率1115. 2两种典型的译码规则5.3平均差错率与信道编码5.4汉明距离15.5有噪信道编码定理与逆定理5.6线性分组码11E1111111111111111意31111
3 各节内容 5.1 译码规则与错误概率 5.2 两种典型的译码规则 5.3 平均差错率与信道编码 5.4 汉明距离 5.5 有噪信道编码定理与逆定理 5.6 线性分组码
5.1译码规则与错误概率信道信道UXY译码器信道编码器Ff编码信道N拉信道编码是一个一一对应的变换或函数，称为编码函数；信道译码也是一个函数，称为译码函数F。由于编码f（UX）是一一对应变换，其反变换fl唯一确定。因此，讨论译码函数F时，只考虑从Y中还原出X就可以了，无需还原出U。智景A1
4 5.1 译码规则与错误概率 信道编码是一个一一对应的变换或函数，称为编码 函数f ； 信道译码也是一个函数，称为译码函数F。 编码信道 X N 信道 编码器 f U U ˆ 信道 Y 信道 译码器 F 由于编码f （U X）是一一对应变换，其反变换 f -1 唯一确定。因此，讨论译码函数F时，只考虑从Y中 还原出X就可以了，无需还原出U
1、译码规则YxX信道DMC译码FA=(a,a,",a,)A={a,a,.,a)B={b,b2...,b,)N1信道译码函数F，又称译码规则，是从信道输出符号集合B到信道输入符号集合A的映射：1招镜F:B→A1中F(b,)=a, E A,j=1,2,....,s京111译码规则是由人为制订的；对于同一个信道可制订出多种译码规则；“好”的译码规则：平均差错率小。5
5 1、译码规则 译码规则是由人为制订的； 对于同一个信道可制订出多种译码规则； “好”的译码规则：平均差错率小。 X Y DMC 1 2 { , , , } A a a a r 1 2 { , , , } B b b b s 信道 译码F X ˆ 1 2 { , , , } A a a a r N 信道译码函数F，又称译码规则，是从信道输出符 号集合B到信道输入符号集合A的映射： 1 2 * : ( ) , , ,., j j F B A F b a A j s
2、错误概率XxY信道译码DMCFA=(a,a,",a,)A=(a,a2,,a,)B={bi,b,,..,b.)NF(b)=a, eA , j=l,2,..,s译码规则Lb,的译码正确概率是后验概率：P(X=a,IY=b,)=P[F(b,)Ib,]b.的译码错误概率：P(e|b)= PX + F(b,)/Y =b, =1- P F(b,)|b, 平均差错率P : P=P(b,)P(elb,)-P(b,)(1-P[F(b,)b,J)=平均差错率P。与译码规则F有关。6
6 2、错误概率 平均差错率Pe与译码规则F有关。 X Y DMC 1 2 { , , , } A a a a r 1 2 { , , , } B b b b s 信道译码 F X ˆ 1 2 { , , , } A a a a r N * ( ) , 1, 2,., 译码规则： F b a A j s j j bj的译码正确概率是后验概率： P X a Y b P F b b j j j j * ( | ) ( ) | bj的译码错误概率： 1 P j P X F b Y b P F b j j j j ( | e b ) ( ) | ( ) | b 平均差错率Pe : s s e j j j j j j j P P b P b P F b P e b b 1 1 ( ) ( ) 1 ( ( | ) ) |
平均差错率P的计算公式文XY信道译码DMCFA=(a,a,",a,)A=(a,a2,.,a,)IB=(b,b,,...,b.N译码规则：F(b,)=a, eA , j=1,2,...s平均差错率P。: P =P(b,)P(elb,)=P(b,)(1-P[F(b,)1b,])换种表达式:P。=1-p[F(b,),b,=1-P[F(b,)]p[b,IF(b,)=或者 P= Z, P(a,b,)= Z, P(a,)P(b,la,)-当输入等概时:P=1-p[b,IF(b,)]=,P(b,la,)智
7 平均差错率Pe的计算公式 X Y DMC 1 2 { , , , } A a a ar 1 2 { , , , } B b b bs 信道译码 F X ˆ 1 2 { , , , } A a a ar N F b a A j s j j * 译码规则： ( ) , 1, 2,., 平均差错率Pe : s s e j j j j j j j P P b P b P F b P e b b 1 1 ( ) ( ) 1 ( ( | ) ) | s s e j j j j j j j P P F b b P F b P b F b 1 1 1 ( ), 1 ( ) | ( ) e i j i j i Y X a Y X a P P a b P a P b a * * , , ( , ) ( ) ( | ) 当输入等概时： s e j j j i j Y X a P P b F b P b a r r * 1 , 1 1 1 | ( ) ( | ) 换一种表达式： 或者
0.8例：译码规则与平均差错率ba,0.2P(a) = 0.4(1)找出所有可能的译码规则;0.1b,a20.9(2)求出各个译码规则对应的平均差错率4种译码规则：F(b)= α2F,(b)=a[F(b,) =ai[F(b)=a2F4F,F2F[F(b,) =ajFs(b,) = α2[F(b,) =a,F(b,)=a2b,b,bibz0.32[0.80.080.2Ta[P,] =[0.4 0.6]1[PxY0.90.060.10.54|a21音P,(F)=1-2P[F(b,),b,]=1-[P(a,b)+P(a,b,)=1-(0.32+0.08)=0.6F,最好P(F)=1-ZP[F;(b,),b,]=1-[P(a2,b)+ P(a2,b,)]=1-(0.06 +0.54)=0.4招F,最差P(F)-1-ZP[F(b,),b,]=1-[P(a,b)+ P(a2,b,)]=1-(0.32 +0.54)= 0.14P(F)=1-ZP[F(b,),b,]=1-[P(a,b)+ P(a,b)]=1-(0.08+0.06)= 0.868
8 例：译码规则与平均差错率 0.8 0.9 0.2 0.1 b2 a1 b1 a2 3 1 1 3 3 2 2 ( ) : ( ) F b a F F b a 1 P a( ) 0.4 (1)找出所有可能的译码规则； (2)求出各个译码规则对应的平均差错率。 1 1 1 1 1 2 1 ( ) : ( ) F b a F F b a 4 1 2 4 4 2 1 ( ) : ( ) F b a F F b a 2 1 2 2 2 2 2 ( ) : ( ) F b a F F b a 4种译码规则： [ ] 0.4 0.6 PX Y X b b a a P 2 | 1 1 2 0.8 0.2 [ ] 0.1 0.9 PXY a a b b2 1 1 2 0.32 0.08 [ ] 0.06 0.54 1 1 1 1 1 2 1 ( ) 1 ( ), 1 ( , ) ( , ) 1 (0.32 0.08) 0.6 s e j j j P F P F b b P a b P a b 2 2 2 1 2 2 1 ( ) 1 ( ), 1 ( , ) ( , ) 1 (0.06 0.54) 0.4 s e j j j P F P F b b P a b P a b 3 3 1 1 2 2 1 ( ) 1 ( ), 1 ( , ) ( , ) 1 (0.32 0.54) 0.14 s e j j j P F P F b b P a b P a b 4 4 2 1 1 2 1 ( ) 1 ( ), 1 ( , ) ( , ) 1 (0.08 0.06) 0.86 s e j j j P F P F b b P a b P a b F3最好 F4最差