信息理论基础

第1章 绪论
1．1 信息
1．2 通信系统模型
1．3 信息论的形成和发展
习题1

第2章 信息的统计度量
2．1 自信息量和条件自信息量
2．1．1 自信息量
2．1．2 条件自信息量
2．2 互信息量和条件互信息量
2．2．1 互信息量
2．2．2 互信息量的性质
2．2．3 条件互信息量
2．3 离散集的平均自信息量
2．3．1 平均自信息量（熵）
2．3．2 熵函数的数学特性
2．3．3 条件熵
2．3．4 联合熵
2．3．5 各种熵的性质
2．3．6 加权熵
2．4 离散集的平均互信息量
2．4．1 平均条件互信息量
2．4．2 平均互信息量
2．4．3 平均互信息量的性质
2．5 连续随机变量的互信息和相对熵
2．5．1 连续随机变量的互信息
2．5．2 连续随机变量的熵
习题2

第3章 离散信源
3．1 信源的数学模型及其分类
3．1．1 信源的数学模型
3．1．2 信源的分类
3．2 离散无记忆信源
3．3 离散无记忆信源的扩展信源
3．3．1 *简单的离散信源
3．3．2 N次扩展信源
3．3．3 N次扩展信源的熵
3．4 离散平稳信源
3．4．1 平稳信源
3．4．2 平稳信源的熵
3．4．3 极限熵
3．5 马尔可夫信源
3．5．1 有限状态马尔可夫链
3．5．2 马尔可夫信源
3．6 信源的相关性和剩余度
习题3

第4章 离散信道及其容量
4．1 信道的数学模型及其分类
4．2 离散无记忆信道
4．2．1 离散信道的数学模型
4．2．2 单符号离散信道
4．2．3 信道疑义度
4．2．4 平均互信息
4．2．5 各种熵、信道疑义度及平均互信息量之间的相互关系
4．3 离散无记忆扩展信道
4．3．1 N次扩展信道
4．3．2 定理
4．4 信道的组合
4．5 信道容量
4．5．1 信道容量的定义
4．5．2 离散无噪信道
4．5．3 离散对称信道
4．5．4 一般离散信道
4．5．5 离散无记忆N次扩展信道
4．5．6 独立并联信道
4．5．7 信源和信道匹配
习题4

第5章 无失真信源编码
第6章 有噪信道编码
第7章 限失真信源编码
第8章 连续信源和波形信道
第9章 纠错编码
第10章 网络信息论基础
第11章 信息论方法在信号处理中的应用
参考书目和文献