前言
第1章 概论
1.1 信息论的基本内容--信息理论所关注的信息特征
1.2 信息论简史
1.3 关于控制论、信息论与系统论
1.4 信息论的应用
1.5 有关的常用不等式
习题1
第2章 信息的度量与熵
2.1 自信息
2.2 熵、条件熵、联合熵及其性质
2.3 互信息与相对熵
2.4 凸函数与熵的凸性
2.5 微分熵
2. 5.1 连续信源的微分熵.
2.5.2 联合微分熵、条件微分熵
2.5.3 连续信源的相对熵与互信息
2.5.4 具有最大微分熵的连续信源一一最大熵原理
2.5.5 信息功率
习题2
第3章 随机过程的信息量与熵率、渐近等分性质
3.1 随机过程的基本概念
3.2 熵率
3.3 冗余度与相对冗余度
3.4 数据处理不等式
3.5 平稳Gauss随机过程的熵率
3.6 渐近等分性质
3.7 渐近等分性质在数据压缩中的应用--信源编码定理
3.7.1 无记忆信源的等长编码定理
3.7.2 一般离散信源的等长编码定理
习题3
第4章 信源编码
4.1 等长编码
4.2 变长编码
4.2.1 Kraft不等式
4.2.2 离散信源的变长编码定理
4.3 Huffman编码
4.4 算术码
4.4.1 Shannon码
4.4.2 Shannon-Fano-Elias码
4.4.3 算术码
4.5 通用信源编码-LZ码
习题4
第5章 通信信道与信道容量
5.1 离散无记忆信道与信道容量
5.2 信道容量的计算
5. 2.1 按定义计算的方法
5.2.2 拉格朗日乘子法
5.2.3 特征方程法
……
第6章 信息几何学
展开