跳转至

第三讲:平稳离散信源的熵

约 336 个字 预计阅读时间 2 分钟

  • 了解平稳离散信源的概念
  • 掌握平稳离散信源熵的定义
  • 了解马尔可夫信源的概念
  • 掌握马尔可夫信源熵的计算方法

重点

信源熵 \(H(X)\) 表示信源发出任何一个消息状态所携带的平均信息量

平稳随机过程

alt text

平稳信源

alt text

\(m\) 阶马尔科夫信源是一种有限记忆的信源,其记忆能力为\(m\)

平稳信源的熵

alt text

平稳信源的熵的性质

alt text

证明

alt text alt text alt text alt text

熵速率

对无记忆离散源,若 \(X\) 在取值范围 \(\mathcal{X}=\set{x_1,x_2,\cdots,x_K}\) 上等概分布,则 \(H(X)=\log K\triangleq H_0\)

alt text

alt text

马尔可夫信源

对于 \(m\) 阶马尔科夫信源,\(x_{i_{n}}\)\(n\)时刻信源输出符号,\(s_{i_{n}}\)\(n\)时刻信源状态。每一个状态\(s_{i}\)对应一个长度为 \(m\) 的符号序列。

alt text

alt text

\(p_{ij}(n)\)\(n\) 时刻状态 \(s_{i}\) 转移到 \(s_{j}\) 的概率。

alt text

对于既约的马尔可夫信源,存在一个唯一的平稳分布 \(Q\),使得 $Q=P^{T}Q $。

马尔可夫信源的熵率

alt text

马尔可夫信源的熵率等于信源在各状态下的条件熵对状态概率求平均。