《信息论与编码》课程教学课件（作业习题）第二章 信源及信源熵（所有习题）参考答案

1.1 信息与信息论 1.2 系统 1.3 管理信息系统 1.4 管理信息系统的应用现状 1.5 管理信息系统的发展趋势

1.离散信道编码问题 2.信道译码 3.Fano不等式和信道编码逆定理

3.1信源及其分类 3.2离散无记忆信源的等长编码 3.3离散无记忆信源的不等长编码 3.4最佳不等长编码

习题一 1.【答】密码体制、单向函数与伪随机序列生成器、数字签名与杂凑函数、消息认证和身份识别、抗欺骗协议和零知识证明。 2.【答】安全性定义有两种:基于信息论的方法和基于计算复杂性理论的方法

一、信息论相关知识和概念 二、编码理论

3.1保密系统的数学模型

信源编码技术 信源编码:将模拟信源信号转换为二 进制数字信号,在接收端再将收到的 数字信号还原为模拟信号的方法 这是由模拟网→、数字网至关重要的一步类别

不等长编码的优越性总体上减少码字的长度 不等长编码的特殊问题 ①唯一可译性,或者叫做可识别性。对于一个码,如果 存在一种译码方法,使任意若干个码字所组成的字母串 只能唯一地被翻译成这几个码字所对应的事件序列。这 个码就被称为是唯一可译的 解决方案:适当地编码,使得每个码字都具有识别标记。 (注解:一个唯一可译的、码字长度不超过N的D元码,其 码字个数小于D(D~-1)(D-1)个。这是因为两个码字c)和 c(2)连接成的字母串cc(2)不能是码字)

一、编码的意义 1、信源编码的目的 2、编码的实质 3、信源编码的基本思想