通信的数学理论-香农

通信的数学理论-香农--本页仅作为文档封面，使用时请直接删除即可-- --内页可以根据需求调整合适字体及大小--

总68页)(

通信的数学理论

.香农

引言

各种调制方法的最新发展方向，都将其重点都放在一般的通信理论方面上，例如PCM和PPM都是以带宽来换取信噪比的改善。在Nyquist 和 Hartley的重要论文中对此学科的基本理论有所介绍。在现在的论文中，我们拓展了该理论，提出了影响通信的一些新因素，尤其是噪声对信道的影响，根据初始消息的统计特性和信息终端的特性来尽可能恢复出信息。

通信的基本问题就是在一个点上能精确地或近似地再现出另外一个特定点上的消息。消息常常是有含义的。根据系统的物理特征或概念本质，它们都是有所指或者互相相关的。通信的语义学方面与工程问题是不相干的。最要意义是，实际消息是从一组可能的消息中选取的。由于设计之时并不知道选择是哪个消息，因此设计系统必须要能针对每一个可能的选择来操作，而不是仅仅只针对一个实际选择的消息。

如果在这个集合中的消息的数字是有限的，那么这个数字或者这个数字的单调函数可以视为是一个信息的度量，这个是信息是等概率地从集合中选取一个信息时而产生的。Hartley指出了最自然地选择是对数函数。虽然这个定义是非常概括的，当我们考虑消息的统计特性影响和一个连续范围的消息时，在所有的情况下，我都将基本上使用这个对数测量方法。

采用对数测量方法更加便利，这是因为：

1.非常实用。一些重要的工程参数，例如时间，带宽，中继次数等等。总趋势与可能的数字对数值是线性的。例如，增加一次中继到一组使得中继的可能状态的数量翻倍。增加1到这个数的底数为2对数。双倍时间大概使可能的消息数量平方，或对数的两倍等

2.我们凭直觉认为这是比较合理的测方法。由于我们凭直觉测量方法与通用标准进行线性比较，这是与第（1）密切相关的。例如，我们觉得两个凿孔卡;应该是一个卡信息存储容量的两倍, 两个相同信道是一个信道发射信息容量的两倍。

3.数学上来讲比较合适。使用对数进行很多极限运算比较简单，但是使用可能的数字的话，可能会要求繁琐地重述。

2

对数基数的选择必须要与测量信息的单位选择匹配。如果基数2用于结果单位，那么被称为二进制数, 或者简称bits, 这个词是 J. W. Tukey建议的。具有两个稳定状态的设备（如中继器或触发电路）可以存储一个bit的信息。N 状态的设备可以存储N个bits，那是因为可能状态全部数量为 2N 和 log2 2N = N。如果单位使用底数10应当被称为十进制。因为：

log 2 M = log 10 M/ log 10 2

= M

图1 通用通信系统原理框图

1一个十进制数大于等于3个比特。桌面计算机的数字轮有十个固定状态，

3因此一个数字轮有一个十进制数的存储容量。在积分和微分的分析工作中牵涉到基数e有时是非常有用的。信息的结果单位将被称之自然单位。从底数a变化到底数仅仅要求成为logba。

按照图1所指的那种类型系统，我们可以了解一个通信系统。它的基本组成有五个部分：

1）信号源 产生一个消息或一系列消息来与接收端进行通信。消息可能是不同类型：（a）作为电报机系统所发一封电报中的一系列字母；（b）无线电或电话中的一个f(t)简单的时间函数；（c）黑白电视中的时间函数或其他变量函数，这里的信息被认为是两个空间坐标和时间的函数f(x,y,t),这代表的是在显像管平面上t时刻的点（x,y）的光强度；（d）两个及以上的时间函数，如f(t)，g(t)，h(t)，这种情况存在于“三维”声音传输中，或者系统打算要服务于多路复用的多个通道；（e）多个变量的多个函数，在彩色电视系统中，消息由三种函数所组成如f(x,y,t),g(x,y,t),h(x,y,t)，这些函数定义域是三维连续体。我们可以认为这三个函数在其定义域上组成了一个向量场。类似的，黑白电视的信号源产生的消息由这些三个变量函数所组成。（f）不同的组合形式也出现，例如电视伴随声道。

3