信息容量指信道能传输信息的最大能力,在电气工程学、计算机科学、信息论中,信道容量(Channel capacity,又译通道容量)是指在一个信道中能够可靠地传送信息时可达速率的最小上界。所谓可靠传输指的是可以以任意小的错误率传递信息。根据有噪信道编码定理,信道容量是可以误差概率任意小地达到的给定信道的极限信息率。信道容量的单位为比特每秒、奈特每秒等等。
简介在电气工程学、计算机科学、信息论中,信道容量(Channel capacity,又译通道容量)是指在一个信道中能够可靠地传送信息时可达速率的最小上界。所谓可靠传输指的是可以以任意小的错误率传递信息。根据有噪信道编码定理,信道容量是可以误差概率任意小地达到的给定信道的极限信息率。信道容量的单位为比特每秒、奈特每秒等等。
香农在第二次世界大战期间发展出信息论,为信道容量提了定义,并且提供了计算信道容量的数学模型。香农指出,信道容量是信道的输入与输出的互信息量的最大值,而相应的输入分布称为最佳输入分布。1
定义X代表已传送信号的随机变量,Y代表已收到信号的随机变量。代表已知X的情况下Y的条件分布,为信道的内在固定属性。于是依据如下性质
边缘分布的选取完全决定了联合分布,这就能导出互信息。信道容量定义为
其中上确界针对对所有可能的值。2
有噪信道编码定理有噪信道编码定理表明,对任意的ε > 0以及传输速率R小于信道容量C,在块长度足够大的情况下,总有一种在速率为R下传输的编码和解码方案,它的误差概率小于ε。另外,对于任何大于信道容量的速率,随着块长度趋近于无穷,接受者的误差概率也趋于1。2
参见信息论
信息熵
信道
有噪信道编码定理
本词条内容贡献者为:
张磊 - 副教授 - 西南大学