英文名称： Information Theory and Coding

学时与学分：学时：48 学分：3

 

课程的性质、目的、及任务：

《信息论与编码》是电子与信息工程、通信工程专业的一门重要的专业课。本课程研究的对象是通信系统，通过信息的传输和处理过程来研究信息传输和处理过程中的共同规律。主要介绍信息的测度、信道容量以及信源和信道编码理论。通过本课程的学习，要求学生对信息论有所了解，尤其应对香农第一、第二定理有深刻的认识，为后续课程的学习奠定基础。

 

课程内容、教学要求及学时分配：

一、理论教学（40 学时）

（一）绪论（2学时）

掌握信息的概念，了解信息论研究的对象、目的和内容以及信息论发展简史和现状。

（二）离散信源（６学时）

1 了解信息传输系统的各个部分。

2 要求重点掌握信息的统计特性和数学模型，以及各类离散信源的信息，测度—熵及其性质。

3 理解离散无记忆信源以及离散无记忆扩展信源的概念，掌握求一个已知离散无记忆信源的二次扩展信源的方法。

4 理解离散平稳信源的概念；掌握求解信源的相关性和剩余度的方法。

（三）离散信道（6学时）

1 理解离散信道的统计特性和数学模型，掌握信道传输的平均互信息及其性质，并导出信道容量及其计算方法。

2 要求掌握信道的数学模型和分类，信道疑度及平均互信息的概念及特性。

3 了解信道容量的概念及离散无记忆扩展信息的概念及信源与信道匹配的概念。

（四）无失真信源编码（６学时）

1 掌握等长码和等长信源编码管理。

2 掌握变长码，变长信源编码定理，以及变长码的编码方法。

3 理解编码器。

（五）有噪信道编码（６学时）

理解错误概率，有噪信道编码定理掌握译码规则和编码方法。

（六）循环码（６学时）

掌握循环码的定义、性质和编解码方法。

（七）卷积码（８学时）

 掌握卷积码的定义、性质和编解码方法。

二、实践教学 （８学时）

1、 算术编码（２学时，一般性）

掌握算术编码（Arithmetic Coding）的概念和算法，进行编码和解码。

2、 LZW码（２学时，一般性）

掌握基于字典的压缩方法的原理，对给定文本编码和解码。

3、 Hamming码（４学时，设计性）

掌握线形分组码的原理，纠错方法，编码和解码给定的输入串。

4、 纠错码（选做，4学时，综合性）

掌握循环码和卷积码的原理、优点以及使用范围，编码和解码算法。

 

课程成绩评分方法

本课程分为理论教学和实验教学两部分。实验当堂考核，不另设实验考试；习题要完成规定习题量的3/4才能参加期终闭卷笔试。

总成绩的计算方法：总成绩=平时（10%）+实验（20%）+考试（70%）

 

教材：

《Applied coding and information theory for engineers》，Richard，机械工业出版社

《信息论基础》，傅祖芸编，电子工业出版社

 

参考书：

《实用信息论基础》，朱雪龙编，清华大学出版社

 

先修课程：

《概率论与数理统计》、《现代通信原理》

 

修课对象：电子信息工程、通信工程等专业本科生及相关专业研究生。

 

考核方式：考试

 

撰稿人：严军

审定人：王晓莉