西安电子科技大学：《信息论基础》课程教学资源（学习资料）随机编码错误指数（Gallager bound）

1 、信源的数学模型及分类 2、信息量及其性质 3、离散信源的熵及性质 4、联合熵和条件熵 5、平均互信息量及其性质 6、扩展信源 7、离散有记忆信源的熵 8、马尔可夫信源的信息熵 9、离散信源的信息（速）率和信息含量效率 10、连续随机变量下的熵和平均互信息量

4.1信道分类 4.2离散无记忆信道 4.3信道的组合 4.4时间离散的无记忆信道 4.5波形信道

不等长编码的优越性总体上减少码字的长度 不等长编码的特殊问题 ①唯一可译性,或者叫做可识别性。对于一个码,如果 存在一种译码方法,使任意若干个码字所组成的字母串 只能唯一地被翻译成这几个码字所对应的事件序列。这 个码就被称为是唯一可译的 解决方案:适当地编码,使得每个码字都具有识别标记。 (注解:一个唯一可译的、码字长度不超过N的D元码,其 码字个数小于D(D~-1)(D-1)个。这是因为两个码字c)和 c(2)连接成的字母串cc(2)不能是码字)

• 信息论中的有关概念：信息，信息量，信息熵，冗余度 • 统计编码 • 预测编码 • 变换编码 • 混合编码 • 静态图像压缩标准：

电子信息工程专业 《电子信息工程导论》 《数据结构与算法》 《微处理器与接口技术》 《信号与系统》 《嵌入式信息系统》 《Linux 操作系统》 《虚拟仪器》 《FPGA 设计与应用》 《专业英语》 《电磁场与电磁波》 《高频电子线路》 《信息论与编码》 《数字信号处理》 《Linux 操作系统课程设计》 《电子电路系统综合实践》 《智能硬件系统开发综合实践》 《信号处理综合实践》 《计算机通信网络》 《计算机通信网络实训》 《通信原理》 《数字图像处理》 《专业实习》 《数字图像处理综合实践》 《片上电子信息系统》 《智能语音识别与处理》 《移动互联网开发与应用》 《短距无线通信与异构组网》 《云计算与虚拟化技术》 《数据挖掘与分析》 《智能语音识别与处理实践》 《WEB 应用开发》 《片上电子信息系统课程设计》 《专业自主实践课-开放实验类》 《专业自主实践课-创新创业类》 《专业自主实践课-科研项目类》 《光纤通信实训》 《专业自主实践课-学科竞赛类》 《毕业设计》 通信工程专业(卓越计划） 《通信工程专业导论》 《MATLAB 及其应用》 《软件设计基础》 《通信工程专业认识实习》 《软件设计基础课程设计》 《云数据管理技术》 《单片机应用技术》 《网络编程技术》 《嵌入式系统及应用》 《微波技术》 《云平台搭建与设计》 《移动通信系统原理与网络优化》 《移动互联网游戏创意设计》 《移动应用开发实践》 《通信行业规范与职业规划》 《现代传输系统调测实践》 《移动互联网产品测试实践》 《集成电路基础》 《搜索引擎技术》 《软件定义网络》 《移动互联网应用开发实训》 《融合通信应用实训》 《企业工程实习》 《天线与电波传播》 《光纤通信》 《智能工业及其应用技术》 物联网工程专业 《物联网工程导论》 《计算机硬件基础》 《传感器原理及应用》 《物联网工程专业认识与实践》 《操作系统》 《RFID 原理及应用》 《物联网感知综合实践》 《信号与系统课程设计》 《JAVA 程序设计》 《数据库系统基础》 《自动控制基础》 《传感网原理及应用》 《嵌入式系统开发实训》 《网络系统集成》 《数据处理与智能决策》 《物联网数据处理综合实践》 《大数据与云计算》 《M2M 技术》 《位置信息处理技术》 《虚拟仪器测控应用技术》 《物联网工程设计与实施》 《物联网安全技术》

信息送与編码 通信的目的是要把对方不知道的消息及时可靠地(有时是 秘密地)传送给对方

信源及其分类 信源就是信息的来源 在一个固定的时刻,信源发出的是一个随机变量。 随着时间的延续,信源发出的是一个随机过程

近世代数基本知识复习 子环与理想 循环群 有限域的乘法结构 有限域的加法结构 有限域的代数结构 多项式的因式分解 正规基和对偶基

线性分组码的基本定义： 1、如果一个（n，k）分组码的编码规则可用线性方程组表示，则称该码为（n，k）线性分组码。 2、GF(2)域上的n维线性空间的一个k维子空间 Vn,k构成一个二进制（n，k）线性分组码