跳到正文

机器翻译,审校中

理论导读

马祖尔的信息观:从消息到保真信息传递

本文把《Jakościowa teoria informacji》(《定性信息论》,1970)看作一个统一的构造:它由什么材料建成,马里安·马祖尔(Marian Mazur)用怎样的区分把码与信息分开,以及为什么传递的整个分类都由一条定理导出。按定义的顺序逐个概念引导读者走过这一领域的,是定性信息论导读;用十二步走完它的,是阅读路线“信息:从消息到保真信息传递”。这里只讨论构造本身。马祖尔的概念与香农(Shannon)、维纳(Wiener)和艾什比(Ashby)的概念并列对照,见单独的马祖尔与西方控制论页面;下文只在差别直接源于定义的地方才提到香农。

全书开篇提出的问题

马祖尔在序言中区分了三种可能的信息论。定量信息论发展得最充分,它计算信息。价值信息论当时刚刚兴起,它评估信息对决策的效用。定性信息论则要回答:信息是什么,有哪些种类,信息传递又在于什么;这个名称是马祖尔自己提出的(第 11 页)。他在 1965 年的文章《Matematyczna definicja informacji》(《信息的数学定义》)中发表了最初的概要,在 1966 年的著作中用单独一章加以发展,又在 1968 年的一次报告中提出了信息传递的概念(第 11–12 页)。

马祖尔面对的是一种善于测量、却不说明自己测量的是什么的理论。香农用公式,也就是用明确的约定,规定了信息量,马祖尔认为这种做法堪称科学严密性的典范(第 16 页)。麻烦出在名称上:既然知道了信息量是什么,人们就容易相信,自己也知道了信息本身是什么。然而,对于信息本身,谁也没有提出过这样的约定(第 19 页)。

马祖尔指出,在有些情形下需要的是定量处理,而基于概率的度量却毫无用处。历史教学大纲包含的史实可多可少,而其中每一件都已经发生。地图把斯德哥尔摩标在布达佩斯以北,但无论城市还是地图上的点,都不是以某种概率出现的。几何学断定一个角是另一个角的一半,而角根本谈不上“发生”(第 17 页)。与内容的割裂也只是部分的:电信局可以把用小写字母书写的电报发出,再以大写字母投递,因为它假定收报人会把 “a” 和 “A” 归入同一类符号(第 22 页)。

材料与两个方向

研究对象是控制,材料则是消息:控制通道中的任何物理状态,只要它能与另一种状态区别开来。通道同一位置上的消息构成横向消息集,沿通道相继产生、一个出自另一个的消息构成纵向消息集。在作用源输出端的是原像,在接收体输入端的是映像。

关于信息传递的那一章以一个为全书带来秩序的观察开头:作为一些消息向另一些消息的转化,码与信息毫无区别。在同一个消息集中,可以在两种排列中都看到一条链过渡为另一条链;只有当考虑到消息位于确定的通道中时,这种二重性才会消失(第 81 页)。从此,码是沿通道的变换,信息则是横贯通道的变换。马祖尔在序言中就已预告,这一区分是整个理论的轴心(第 12 页)。

因此,沿通道流动的并不是某种叫作信息的实体。流动的是一种联系:同一个变换先出现在原像之间,然后出现在相继的中间消息之间,最后出现在映像之间。马祖尔把这比作水面上的波:水的质点上下运动,而在水平方向上移动的是水面的形状(第 85–86 页)。

所以,同一个测量仪表可以用两种方式描述。着眼于力,看到的是使指针偏转的功;着眼于比例关系,看到的是信息传递,因为在原像一侧,信息是被测量值变化的比例,在映像一侧则是指针移动的比例;任何单个的数值都不是信息。对理论而言,只有第二种描述才重要:在加热装置中,关键是所做的功;在控制通道中,关键是信息的命运,而消耗的能量是一种代价,最好能降为零(第 85 页)。

一种分类,两种应用

既然码和信息都是变换,第四章关于变换所确立的一切就都可以移用到这两个概念上。全书中段的结构由此而来:关于变换的一章有 23 条定义,关于码和关于信息的两章各有 14 条,平行排列。定理也是平行的。把链中相继各变换复合起来,得到合成变换;把一个变换与其逆变换复合,得到平凡变换;关于码和关于信息的定理恰好重复了同样的内容(4.2 与 4.3,5.1 与 5.2,6.1 与 6.2)。马祖尔指出,不懂数理逻辑也能读懂这些证明:变换是一种特殊的关系,而使用它的规则他已汇集在单独一章中(第 12 页)。编号定义的完整清单见按顺序阅读定义视图。

一条定理,所有传递类型

信息传递至少需要四个消息:两个原像和两个映像(第 82 页)。定理 7.1 说明映像之间的信息由什么构成:一个逆码,它从第一个映像回溯到第一个原像;原像之间的信息;以及一个码,它从第二个原像通向第二个映像(第 82–84 页)。

由此得出两点。施控系统对映像之间的信息作出反应,因为原像之间的信息它根本看不到;二者可能一致,也可能不一致,而是否一致取决于码的选择(第 84 页)。保真信息传递是这样的情形:公式归结为两个信息相等(第 87 页),第八章则用七条定理研究哪些码能保证这种相等。

同时,这一公式还假定码链是分立且完整的。随后各章逐一放弃这些假定(第 84 页)。不分立的链产生伪信息传递,不完整的链产生误信息传递;阅读路线“伪信息与误信息”依次介绍了它们的各种类型。属于横向消息集却不属于任何码链的消息产生旁信息传递,而把来自不同通道的信息加以对照,则产生元信息传递。因此,书末各表中的分类(第 208 页)是推理的结果,而不是一份目录。马祖尔在序言中直接说明了这一点:研究信息传递的一般公式,就会揭示出它每一种可能的类型(第 12 页)。由此产生的术语排列成一张前缀与词根的表格,见术语家族视图。

数量在何处回归

定义中不出现概率。对马祖尔而言,消息只出现一次;信息论中所说的重复事件,是一类在某个方面被当作相同的消息:掷硬币 n 次是 n 个不同的结果,而“正面”和“反面”只是两个类别的名称(第 204 页)。

可以计数的则是变换。要描述由 n 个不同消息构成的链中的每一个消息,需要 n 个描述信息(定理 13.1,第 190 页)。要指出一个特定的消息,所需的识别信息较少:等于以 2 为底的 n 的对数(定理 13.5,第 198 页)。如果把各类所含消息的数目除以消息总数,识别信息平均数目的公式便具有香农公式的形式(第 203 页)。马祖尔这样解释两种数目之间的差别:描述集合中的一个消息,同时也就描述了全部消息;而识别它,只是断定其他消息都不是要找的那一个,并不说明其余消息是什么(第 202 页)。在这一理论中,信息量成为一个特例:它回答的是识别的问题,也只在那里才有意义。

马祖尔用一些与识别无关的例子来说明这一点。独立方程的数目应当等于未知数的数目:方程太少,链便无法确定;多余的方程要么可由其余方程推出,如同冗余信息,要么与之相矛盾,如同寄生信息(第 205–206 页)。教科书适合用描述信息的数目来衡量,因为教学并不在于指出某一个特定的消息。考试则不同:向同学打听会出哪些题目的学生,是在估计概率,也就是在设法获取识别信息(第 206 页)。

定义中未包含什么

仅从定义的构造本身也能看出理论并未预设哪些内容。没有一条定义谈到意义或内容、发送者的意图或概率;决定传递类型的只有消息之间的联系:有哪些码,以及它们的链是如何构成的。正因为如此,同样的概念可以描述测量仪表的指针、地形图、双语词典和人与人之间的交流,而其中每一个都可以在词条卡片上核对,卡片上列有带编号的定义及原书页码。

全部导读