信息论与编码技术

展爱云

目录

  • 1 绪论
    • 1.1 解析通信系统
    • 1.2 消息、信息、信号
    • 1.3 信息的定义
    • 1.4 信息论的起源和发展
    • 1.5 信息论的研究内容
    • 1.6 本章设计方案及PPT
  • 2 离散信源及信源熵
    • 2.1 信源的分类及建模
    • 2.2 自信息量
      • 2.2.1 自信息量计算公式的由来
      • 2.2.2 自信息量的计算及性质
      • 2.2.3 联合自信息量的计算及性质
      • 2.2.4 条件自信息量的计算及性质
    • 2.3 信源熵
      • 2.3.1 信源熵的定义与计算
      • 2.3.2 联合熵和条件熵的计算
      • 2.3.3 信源熵的性质
        • 2.3.3.1 最大离散熵定理
        • 2.3.3.2 信源熵的基本性质
    • 2.4 序列熵
      • 2.4.1 序列熵-无记忆信源
      • 2.4.2 序列熵-有记忆信源
    • 2.5 冗余度
    • 2.6 本章设计方案及PPT
  • 3 离散信道容量
    • 3.1 信道的建模
    • 3.2 互信息量
    • 3.3 交互熵
      • 3.3.1 交互熵(1)
      • 3.3.2 交互熵（2）
    • 3.4 信道容量
      • 3.4.1 信道容量的定义
      • 3.4.2 无噪信道的信道容量求解
      • 3.4.3 对称信道的信道容量求解
      • 3.4.4 一般信道信道容量求解
    • 3.5 信道编码定理
    • 3.6 本章设计方案及PPT
  • 4 限失真信源编码
    • 4.1 失真函数和平均失真度
    • 4.2 信息率失真函数
    • 4.3 限失真信源编码定理
    • 4.4 本章设计方案及PPT
  • 5 无失真离散信源编码
    • 5.1 信源编码的本质
    • 5.2 无失真信源编码定理
    • 5.3 香农编码
    • 5.4 费诺编码
    • 5.5 哈夫曼编码
      • 5.5.1 哈夫曼编码-基本原理
      • 5.5.2 哈夫曼编码-应用
    • 5.6 游程长度编码
      • 5.6.1 游程长度编码-基本原理
      • 5.6.2 游程长度编码-应用
    • 5.7 算术编码
    • 5.8 词典编码
      • 5.8.1 词典编码-LZ77
      • 5.8.2 词典编码-LZ78
      • 5.8.3 词典编码-LZW
    • 5.9 本章设计方案及PPT
  • 6 信道编码
    • 6.1 差错控制形式
    • 6.2 信道编码的本质
      • 6.2.1 信道编码的本质(1)
      • 6.2.2 信道编码的本质(2)
    • 6.3 信道编码的发展和分类
      • 6.3.1 信道编码的发展
      • 6.3.2 信道编码的分类
    • 6.4 信源编码和信道编码的辩证统一
    • 6.5 简单的信道编码方法
      • 6.5.1 奇偶校验码
      • 6.5.2 群计数码
      • 6.5.3 定比码和正反码
      • 6.5.4 模p法
    • 6.6 线性分组码
      • 6.6.1 线性分组码-基本概念
        • 6.6.1.1 有限域
        • 6.6.1.2 最小码距
        • 6.6.1.3 两种译码算法
        • 6.6.1.4 多项式
      • 6.6.2 线性分组码-监督矩阵
        • 6.6.2.1 线性分组码-监督矩阵（1）
        • 6.6.2.2 线性分组码-监督矩阵（2）
      • 6.6.3 线性分组码-生成矩阵
      • 6.6.4 线性分组码-伴随式
      • 6.6.5 线性分组码-标准阵列
    • 6.7 完备码-汉明码
    • 6.8 循环码
      • 6.8.1 循环码-基本概念
      • 6.8.2 循环码-生成多项式
      • 6.8.3 系统循环码
      • 6.8.4 RS编码
    • 6.9 卷积码
      • 6.9.1 卷积码-基本概念
      • 6.9.2 卷积码-监督矩阵
      • 6.9.3 卷积码-生成矩阵
      • 6.9.4 本章设计方案及PPT
交互熵