关于网工教程中奈奎斯特定理的一点疑问

发布时间:2024-05-17 06:00 发布:上海旅游网

问题描述:

在<网络工程师教程>第二版中,关于奈奎斯特定理有这样一段话:
码元携带的信息量由码元取的离散值个数决定,基码元取两个离散值,则一个码元携带1比特信息,若码元可取4种离散值,则一个码元携带2比特信息.总之一个码元携带的信息量n(比特)与码元的种类数N有如下关系:
n=1bN,我想问的就是这个1b是个什么概念.代表什么意思?望指教.
是1b还是lb,它的意思是否是log2呢?

问题解答:

1b其实就是log2的符号表示,这应该从源头说起:
哈莱特首先提出采用消息出现概率的对数作为离散消息的信息度量单位。某离散消息xi所携带的信息量为I(xi)=log{1/p(xi)},p(xi)为该消息发生的概率。当对数以2为底时,信息量单位称为比特。
而码元作为N个离散消息xi的携带者,其信息量用N个符号的离散消息源的平均信息量表示:H(x)=P(x1)log{1/p(x1)}+...+P(xN)log{1/p(xN)},可以证明,当离散信源中每个符号等概出现,而且各符号的出现为统计独立时,该信源的平均信息量最大,为Hmax=i从1到N求和{1/NlogN}=logN,以2为底时,为log2(N) 比特。

热点新闻