信息论与编码 注:课件中标题前标有“*”的内 容为补充内容,只要求了解
信息论与编码 注：课件中标题前标有“*”的内 容为补充内容，只要求了解
第一章、绪论 1.信息论的形成和发展 2通信系统的模型
第一章、绪论 1.信息论的形成和发展 2.通信系统的模型
1、什么是信息? Information 某人被通知或告知的内容、情报、消息 其消息是指包含有信息的语言、文字和图 像等。 其信号是信息的载体,是消息的物理体现。 其信息是指各个事物运动的状态及状态的 变化方式,是抽象的意识或知识
1、什么是信息？ Information “某人被通知或告知的内容、情报、消息” 消息是指包含有信息的语言、文字和图 像等。 信号是信息 的载体，是消息的物理体现。 信息是指各个事物运动的状态及状态的 变化方式，是抽象的意识或知识
其1948年,香农在《通信的数学理论》的论文中, 用概率测度和数理统计的方法系统地讨论了通 信的基本问题,得出了几个重要而带有普遍意 义的结论。香农理论的核心是:在通信系统中 采用适当的编码后能够实现高效率和高可靠性 的信息传输,并得出了信源编码定理和信道编 码定理
1948年，香农在《通信的数学理论》的论文中， 用概率测度和数理统计的方法系统地讨论了通 信的基本问题，得出了几个重要而带有普遍意 义的结论。香农理论的核心是：在通信系统中 采用适当的编码后能够实现高效率和高可靠性 的信息传输，并得出了信源编码定理和信道编 码定理
其狭义信息论(香农信息论) 信息的测度、信道容量、信源和信道编 码理论 其一般信息论 噪声、滤波与预测、估计、保密等 其广义信息论 所有与信息相关的邻域
狭义信息论（香农信息论） 信息的测度、信道容量、信源和信道编 码理论 一般信息论 噪声、滤波与预测、估计、保密等 广义信息论 所有与信息相关的邻域
Claude.E. Shannon的两篇论文一 Shannon信息论 其1948年—信息时代的里程碑! “ A Mathematical Theory in Communication” - Shannon第一、二定理 其1959年“ Coding theorems for a discrete source with a fidelity criterion - Shannon第三定理
Claude. E. Shannon的两篇论文– Shannon 信息论 1948年----信息时代的里程碑! “A Mathematical Theory in Communication” –Shannon第一、二定理 1959年“Coding theorems for a discrete source with a fidelity criterion”. – Shannon第三定理
其1948年以后,调制解调 Digital Modulation BPSK绝对相移键控,QPSK正交相移键控,QAM正交 幅度调制,FH跳频扩频,DS直接序列扩频, ■FDMA.TDMA.CDMA 空间时间自适应处理、智能天线技术 多用户检测、干扰抑制技术 多载波和OFDM正交频分复用
1948年以后，调制解调 ◼ Digital Modulation: ◼ BPSK绝对相移键控, QPSK正交相移键控, QAM正交 幅度调制 ,FH跳频扩频 , DS直接序列扩频, ◼ FDMA, TDMA, CDMA ◼ 空间时间自适应处理、智能天线技术 ◼ 多用户检测、干扰抑制技术 ◼ 多载波和OFDM 正交频分复用
其1948年以后,信源编码 Huffman, Fano Code(1950) ■波形编码:PCM脉冲振幅调制,DM增量调制 DPCM增量脉冲调制; 语音参量编码; ■图象编码:DCT,帧间预测插值,运动补偿 ■数据压缩编码 ■语音编码标准 ■图象编码标准
1948年以后，信源编码 ◼ Huffman, Fano Code (1950); ◼ 波形编码：PCM脉冲振幅调制, DM增量调制, DPCM增量脉冲调制; ◼ 语音参量编码; ◼ 图象编码：DCT, 帧间预测插值, 运动补偿 ◼ 数据压缩编码 ◼ 语音编码标准 ◼ 图象编码标准
其1948年以后、信道编码 ■ Hamming Code汉明码, Cyclic Code循环码(1950); ■ Convolution code卷积码(Fano,Ⅴ Viterbi,l950) BCH Code, Reed Solumn Code(1959) ■级连码(内码:RS码+外码:卷级码) ■ Trellis coded modulation网格编码调制(1976,1982) Turbo Code涡轮码(1993)(10-5,0.5dB) ■LDPC低密度奇偶校验编码( Gallager,1963)(10-6, 0.04dB)
1948年以后、信道编码 ◼ Hamming Code汉明码, Cyclic Code 循环码(1950); ◼ Convolution Code卷积码 (Fano, Viterbi, 1950’); ◼ BCH Code, Reed Solumn Code (1959) ◼ 级连码（内码：RS码+外码：卷级码） ◼ Trellis coded Modulation网格编码调制 (1976, 1982) ◼ Turbo Code涡轮码 (1993) (10-5，0.5dB) ◼ LDPC低密度奇偶校验编码 (Gallager,1963) (10-6, 0.04dB)
2、通信系统的模型 信源—→编码器—→信道—译码器信宿 噪声源 通信系统模型
2、通信系统的模型 信源 编码器 信道 译码器 噪声源 通信系统模型 信宿