1、有失真编码的目的 2、采用限失真编码的原因 3、失真测度 4、信息率失真函数及其性质 5、限失真信源编码定理

定理 3-1：对于固定信道，平均互信息 I(X;Y) 是信源概率分布 p(x)的∩型凸函 数。 定理 3-2：对于固定信源分布，平均互信息 I(X;Y)是信道传递概率 p(y|x)的∪型凸函 数。 定理 3-3：设离散信道的输入序列 X＝ (X1X2…XN)通过信道传输，接收到的随机序 列为 Y=( Y1Y2…YN)，而信道的转移概率为 p(y∣x)

高效编码的主要方法是尽可能去除信源中的冗余成份 ,从而以最少的数码率传递最大的信息量。冗余度存在于像素间的相关性及像素值出现概率的不均等性之中,对于有记忆性信源来说首先要去除像素间的相关性,从而达到压缩数码率的目的。对于无记忆性信源来说,像素间没有相关性,可以利用像素灰度值出现概率的不均等性,采用 某种编码方法,也可以达到压缩数码率的目的。这种根据像素灰度值出现概率的分布特性而进行的压缩编码叫统计编码

6.1概述 1.(自适应)差分编码调制:一种信源压缩编码方式; 2.语音信号压缩编码的作用:降低传输速率,提高效率; 3.差分编码调制的基本原理:利用语音信号时间上的相关性,除去信号中的冗余量

第五章有噪信道编码 第一节错误概率与译码规则 第二节错误概率与编码方法 第三节有噪信道编码定理 第四节联合信源信道编码定理 第六节纠错编码的基本思想 第七节常用编码方法

第一节错误概率与译码规则 第二节错误概率与编码方法 第三节有噪信道编码定理 第四节联合信源信道编码定理 第六节纠错编码的基本思想 第七节常用编码方法

变换编码基本思想： 先对信源输出进行某种变换，将 其从一种信号表示空间变换为另一 种信号表示空间，使新的信号空间中 各信号分量相关性很小或互不相关， 然后再对变换后的分量进行编码，以 达到压缩数据的目的

一、两类信源：模拟信号、数字信号 二、 模/数变换的三步骤：抽样、量化和编码 三、最常用的模/数变换方法：脉冲编码调制 (PCM)

讨论题 设有12枚同值硬币，其中有一枚为假币，且只 知道假币的重量与真币的重量不同，但不知究 竟是重还是轻。现采用天平比较左右两边轻重 的方法来测量（因无砝码）。为了在天平上称 出哪一枚是假币，试问至少必须称多少次？

 6.1 平均错误概率和译码规则  6.2 平均错误概率与编码方法  6.3 联合𝜀典型序列  6.4 有噪信道编码定理  6.5 联合信源信道编码定理