信息革命中的计算机：自主决定、创造思考

本文整理自《智人之上》 尤瓦尔·赫拉利著 中信出版集团 2024.9

几乎所有人都已经发现，我们正生活在一场前所未有的信息革命之中。但这到底是一场怎样的革命？最近这几年，太多突破性的发明如洪水般滚滚而来，以至于我们很难判断到底是什么推动了这场革命。是互联网？智能手机？社交媒体？区块链？算法？还是人工智能？

所以，在讨论目前这场信息革命的长期影响之前，让我们先回顾一下它的基础。

我们真的了解计算机吗？

这场革命的种子是计算机，至于其他一切，从互联网到人工智能，都只是计算机的副产品。

计算机诞生于20世纪40年代，一开始就只是个能够进行数学运算的笨重的电子机器，但计算机后续的发展速度惊人，形式不断创新，也发展出各种了不起的全新功能。计算机的迅速发展，让人很难定义计算机的本质与功能。人类一再声称，有些事情是计算机永远做不到的，无论是下棋、开车还是写诗，但事实证明，原来“永远”也不过就是几年。

就目前而言，我们可以简单说计算机本质上就是一台机器，但有可能做到两件了不起的事情：一是它自己可以做决定，二是它可以创造新的想法。

计算机刚被发明出来的时候，当然离这种能力还差得太远，但计算机科学家与科幻小说家已经清楚地看到了这样的潜力。

早在1948年，艾伦·图灵就已经在探索是否能打造他所谓的“智能机器”；到1950年，他推测计算机最终应该能像人类一样聪明，甚至能够伪装成人类。在1968年，当时的计算机连跳棋都赢不了人类，但在《2001太空漫游》中，亚瑟·克拉克与斯坦利·库布里克已经想象出“哈尔9000”这个角色，这是一个会反叛人类创造者的超智能AI。

如今智能机器崛起，能够自己做决定、自己创造新的想法。这也是史上第一次，权力从人类转移到其他物种手中。在过去，十字弓、火枪和原子弹虽然能够取代人类的肌肉来杀人，却无法取代人类的大脑来决定要杀谁。被投在广岛的原子弹“小男孩”，爆炸威力相当于12500吨的TNT 炸药，但脑力却是零，什么都无法决定。

计算机就不同了。就智能而言，计算机不但远远超越了原子弹，更超越了泥版、印刷机、收音机这些所有过去的信息技术。泥版能够储存关于税务的信息，但无法自行决定要收多少税，也无法发明某种全新的税目。印刷机能够复制《圣经》这样的信息，但无法决定《圣经》要收录哪些文本，也无法对这本宗教经典加上新的注释。收音机能够传播政治演讲与交响乐等信息，但无法决定播放哪些演讲或交响乐，也无法创作演讲稿或交响乐。但这一切对现在的计算机来说都已经能够做到。

过去的印刷机或收音机只是人类手中的被动工具，但计算机正在成为一种主动行为者，它能够摆脱人类的控制，超越人类的认知，主动塑造社会、历史与文化。

说到计算机所掌握的新力量，一个典型案例就是社交媒体算法在许多国家如何散播仇恨、破坏社会凝聚力。其中一个最早也是最著名的事件发生在2016—2017年：脸书算法助长了缅甸有关罗兴亚人的暴力冲突。联合国的事实调查团在2018年得出的调查结论也认为，通过散播充满仇恨的内容，脸书在这场冲突中扮演了“决定性的角色”。

把这么多责任都归咎于脸书算法，或者说归咎于新的社交媒体技术，真的合理吗？

脸书本身正是以这个理由来转移批评的。脸书只公开承认，在2016—2017年，“对于防止我们的平台被用以挑起分裂、煽动线下暴力，我们做得还不够”。虽然这个声明听起来像在认错，实际上却把散播仇恨言论的大部分责任转移到平台用户身上，并暗示脸书犯的错顶多就是一种无作为，即未能有效监管用户生产的内容。然而，这种说法等于完全无视脸书算法犯下的错误。

这里的关键点是，社交媒体算法与印刷机或广播无线电有着根本的差异。在2016—2017年，脸书算法是自己做出了主动且致命的决定。与其说它们像印刷机，不如说它们更像报纸主编。正是脸书的算法，一次又一次向数百万缅甸人推送充满仇恨的帖子。

在争夺民众注意力的网络大战中，算法成了决定胜负的因素。算法能够选择让哪些内容出现在用户动态消息的顶端、推广哪些内容，以及推荐用户加入哪些脸书社团。算法本来可以选择推荐慈悲的布道或者烹饪课程，但最后却决定散播充满仇恨的阴谋论。这些自上而下的推荐就可以大大左右民众的想法。

为什么算法决定助长的是愤怒而不是慈悲呢？就算是对脸书批评最严厉的人，也不会觉得脸书的人类管理者就是想煽动大屠杀。脸书位于加州的那些高管非但对罗兴亚人并无恶意，甚至几乎不知道罗兴亚人的存在。事情的真相更为复杂，但可能也更令人震惊。

在2016—2017年，脸书的商业模式依赖于提升用户参与度，也就是用户在脸书上所花的时间与所做的活动（例如点赞、分享帖子给朋友）。只要用户参与度增加，脸书就能收集更多数据，卖出更多广告，在信息市场占据更大份额。此外，提升用户参与度能给投资人留下好印象，从而有利于推高脸书股价。用户在脸书停留的时间越久，脸书就越有钱。

根据这种商业模式，人类管理者给脸书算法定了一个首要目标：提升用户参与度。随后，算法用几百万用户做实验，发现最能提升参与度的办法就是让人愤慨。比起慈悲的布道，充满仇恨的阴谋论更能提升人类的参与度。所以，为了追求用户参与度，算法就做出了一个致命决定：传播愤怒。

种族冲突从来都不是单方的错，是许多方面都出了问题，有许多责任方必须共同承担。有一点很清楚，对罗兴亚人的仇恨早在脸书出现在缅甸之前就已存在，而之所以会发生2016—2017年的暴行，最大的责任应落在相关的责任人身上。至于脸书的工程师与高管也该承担部分责任，他们写了算法的代码，赋予算法太多的权力，而没能对它们好好地管控。

很重要的一点是，算法本身也逃不了干系。通过反复实验，算法学到了愤怒会提升参与度，而且在没有上级明确指示的情况下，算法自己决定要助长愤怒。这正是人工智能的典型特征──虽然它们是机器，但它们拥有自己学习与行动的能力。即使我们说这里算法只需要承担1%的责任，这也会是历史上第一个“部分归咎于非人类智能决策”的种族冲突事件。而且这不会是最后一次。

现在，算法已经不局限于在有血有肉的极端分子创造出假新闻与阴谋论之后，再加以推送传播，在21世纪20年代初，算法已经能够自行制造假新闻与阴谋论。

21 世纪10年代末发生在缅甸的种种事件显示，非人类智能做出的决策已经能够塑造重大的历史事件。人类正面临着对人类未来失去控制的危险。目前正在出现一种全新的信息网络，其背后由一套高深莫测的智能决策和目标控制。人类目前在这个信息网络里仍然扮演着核心角色，但很有可能正在被边缘化，到最后整套网络甚至可能不需要人类就能正常运作。

计算机正在塑造一个全新的信息网络

随着计算机逐渐积累了更多力量，一个全新的信息网络很可能会出现。当然，这并不是说网络里的一切都是新的。至少在一段时间内，大多数旧的信息链还会被保留下来。而且，这个新的信息网络仍然会保留人与人的连接（比如家庭）以及人与文件的连接（比如教会）。然而，这个信息网络还会有越来越多的另外两种新型链条。

第一种是计算机与人类的连接，计算机在人类之间充当中介，有时候甚至会控制人类。

脸书和TikTok就是两个我们耳熟能详的例子。这些计算机与人的连接不同于传统的人与文件的连接，因为计算机现在能够自行做出决策、创造想法，并深度伪造亲密关系，对人类发挥过去文件做不到的影响力。

第二种是目前已经开始出现的计算机与计算机的连接，计算机能够彼此自行互动，人类被排除在这些连接之外，就连理解其中发生了什么都很困难。

例如，谷歌大脑就尝试过用计算机来研发新的加密方法。当时的实验是要求两台计算机（代号为艾丽斯和鲍伯）必须交换加密信息，而第三台计算机伊夫则要试着去破解加密代码。如果伊夫能在一定时间内破解加密代码，就能得到分数；要是失败，则由艾丽斯和鲍伯得分。在经过大约15000次交流后，艾丽斯和鲍伯终于想出了一套伊夫无法破解的加密代码。这里的关键之处在于，进行这项实验的谷歌工程师并没有教给艾丽斯和鲍伯任何关于加密的知识，是那两台计算机完全自行创造出了专属于它们的私密语言。

像这样的事情也已经发生在实验室外的现实世界中了。以外汇市场为例，这是全球外汇交易的场域，也决定了各种货币（例如欧元与美元）之间的汇率。2022年4月，外汇市场的每日交易量平均为7.5万亿美元，其中有超过90%已经直接由计算机之间的对话完成。但究竟有多少人懂得外汇市场的运作方式呢？更不用说要了解一群计算机怎样在价值数万亿美元的交易上达成共识，又如何决定欧元与美元的价值了。

在可预见的未来，在这个全新的、以计算机为基础的网络里，虽然还是会包括我们这几十亿人类，但人类有可能在其中只是少数。因为除了人类，这个网络的成员还包括数十亿甚至数千亿个具备超智能且高深莫测的行为者。这样的网络将与人类历史甚至地球生命史上曾经存在的一切都截然不同。

自大约40亿年前地球首次出现生命以来，所有信息网络都是生物（有机）网络。至于像教会与帝国这样的人类网络，也都是生物网络，与先前的其他生物网络（比如狼群）有许多相似之处，它们都围绕着掠食、繁殖、手足相争、浪漫三角恋这些传统生物戏剧展开。如果信息网络变成由非生物的计算机来主导，整个运作方式会相当不同，甚至超乎我们的想象。毕竟作为人类，我们就连想象力也是有机生化的产物，无法跳出原本设计的生物戏剧。

从第一台数字计算机问世至今已过去了80年，如今改变的步伐仍在不断加快，而且我们距离发挥计算机的全部潜力还相差很远。计算机还可能继续演化数百万年，而过去80年发生的事情与即将发生的事情相比简直微不足道。

如果做一个粗略的比较，可以想象我们来到古代美索不达米亚的某个时间点，在这个时间点的80年前，才有人第一个想到用棍子在一块湿湿的黏土泥版上画上一些符号。在这一刻，我们难道能够想象未来会发展出亚历山大图书馆、《圣经》的力量或者苏联内务人民委员部的档案库？甚至这样的比较也大大低估了未来计算机发展的潜力。

让我们再想象一下自己回到了早期地球（大约40亿年前）的某个时间点，在这个时间点的80年前，地球还是一片“有机汤”，并终于从中凝结出了第一个能够自我复制的遗传密码。在这个阶段，即使是单细胞的阿米巴原虫，其细胞组织、成千上万的内部细胞器以及控制运动及营养的能力，都还只是一种带着未来风格的幻想。在这个时间点，我们能够想象出未来会有霸王龙、亚马孙雨林，或是人类登上月球吗？

目前提到“计算机”，我们想到的仍然是个有屏幕、有键盘的金属盒子，因为这是我们的生物想象赋予20世纪最早那批计算机的形状。随着计算机不断成长与发展，它们正在摆脱旧的形态，采取全新的配置，打破人类的想象限制。

不同于有机生物，计算机在一个时间点不一定只能出现在一个地方，而能够散布于整个空间，不同的组件位于不同的城市甚至大陆。就计算机的演化而言，从阿米巴原虫到霸王龙这样的改变，可能只需要10年。如果GPT-4还只是阿米巴原虫，未来的霸王龙会是什么样？生物演化花了40亿年，才从有机汤演化成能够登上月球的人类；计算机可能只需要几个世纪就能发展出超智能，超智能能够放大到整个行星大小，也能收缩到亚原子级别，抑或延伸跨越整个星系的时空。

从计算机术语的混乱程度也能看出计算机发展的速度有多快。几十年前，只要“计算机”一个词就能涵括所有概念，但现在的用词还包括了算法、机器人、自动化程序、人工智能、网络或云。光是“难以判断该用哪个词”这一点就已经很有意义了。生物包含了许多不同的个别实体，也能集合成“种”和“属”这样的分类。但如果讲到计算机，要判断某个实体到哪里结束，另一个实体又从哪里开始，以及如何准确地对它们进行分类，已经变得越来越困难。

信息交换与数据价值

对于这个以计算机为基础的网络，我们虽然无法预测在几百或几千年之后它会有怎样的长期演变，但还是能谈谈目前的演变情况，而且这种对当下的讨论可能更为迫切，毕竟无论在政治还是个人层面，这个新计算机网络的兴起都会对所有人造成影响。

接下来，我们会谈谈这个以计算机为基础的网络有何新颖之处，对人类生活又有何意义。

我们开宗明义就该讲清楚的是，这个网络将会创造出全新的政治与个人现实。信息并不等于真理与真相，而信息革命也并不会揭露事实真相。信息革命能做的是创造出新的政治结构、经济模式与文化规范。由于当前的信息革命的重要性远胜过往，所以它很可能会以前所未有的规模创造出前所未有的现实。

之所以有必要了解这一点，是因为目前的情况还在人类的掌控之中。虽然不知道还能持续多久，但目前人类仍有能力左右这些新的现实。为了能做出明智的决定，我们需要了解目前正在发生的事情。我们在编写计算机代码的时候，绝不只是在设计一个产品，而是在重新设计人类的政治、社会与文化，所以我们最好对政治、社会与文化都有一定的了解。而且我们做的决定，最后也必须由我们来负责。

但让人担心的是，就像脸书参与罗兴亚人的冲突一样，那些带领计算机革命的企业往往会把责任推给用户和选民，或者把责任推给政治人物或监管机构。当被指责制造社会与政治动乱时，它们会立刻丢出一堆借口，说：“我们只是一个平台。我们只是在提供用户想要的，而且选民也允许。我们没有逼迫任何人来用我们的服务，也没有违背任何现行的法律。要是用户不喜欢，怎么会继续用个不停？要是选民不喜欢，怎么没有通过法律来阻止我们？既然用户不断想要更多，也没有法律禁止我们的所作所为，那么一切都没问题。”

这样的论点不是太天真，就是太虚伪。脸书、亚马逊这些科技巨头，绝不只是像忠仆一样满足着用户的奇思妙想，遵循着政府的法规，而是正在越来越多地塑造着这些奇思妙想与法规。这些企业不但能直接联络到全球最强大的政府，还能投下巨额资金进行游说，以阻挠那些可能破坏其商业模式的法规。

我们过去认为“顾客永远是对的”“选民能做出最好的选择”，但这些原则的前提是假设顾客、选民与政治人物都很清楚自己身边发生了什么。他们假设，选择使用TikTok与Instagram的用户都完全了解这个选择的全部后果，也认为负责监管苹果等公司的选民及政治人物完全了解这些公司的商业模式与活动。他们假设大家都真正了解这个新信息网络的详情与细节，并真心送上自己的祝福。

但事实上，我们根本没那么了解。这不是因为我们太愚蠢，而是因为科技太复杂，而且发展的速度太过惊人。我们得耗费大量心思才能搞懂类似“以区块链为基础的加密货币”这种东西，而且当你觉得自己懂了，事情已经又有了变化。

在这里，金融是个格外重要的例子，原因有二。第一，现代金融工具完全由信息组成，所以比起创造实物对象，计算机创造或改变金融工具实在太容易了。过去讲到货币、股票和债券，它们都是由黄金或纸张制成的实物对象，但今天它们已经成为主要存在于数据库中的数字实体。第二，这些数字实体对社会与政治世界的影响重大。如果人类不再能够理解金融体系究竟如何运作，那么对民主制度（或独裁制度）又会有什么影响？

以信息换信息的交易已经无所不在。目前，每天都有数十亿人与科技巨头进行大量交易，但因为几乎没有任何金钱流动，也就无法从银行账户中看出端倪。我们从科技巨头那里得到信息，而我们付出的代价也是信息。随着越来越多的交易采用以信息换信息的模式，信息经济的成长其实是以牺牲货币经济为代价的，最后可能连货币的概念都会动摇。

货币应该是一种被普遍采用的价值标准，而不是只适用于部分情境的价值象征。随着越来越多的东西的价值以信息来衡量，而从货币来看却都是“免费”的，在某种程度上，如果还是只看个人或企业拥有多少美元或比索来判断他们是否富有，是无法反映现实的。如果一个人或一家企业在银行里没什么钱，但拥有庞大的数据库，这个人或这家企业有可能才是该国最富有或最强大的实体。虽然理论上也可以用货币来量化这些信息的价值，但并不需要真的把这些信息换成美元或比索。既然只用信息就能换到他们想要的东西，为什么还需要美元呢？

这对税收有着深远的影响。国家征税的目的是进行财富再分配，从最富有的个人与企业那里取得部分财富，用来为所有人提供服务。然而，因为有许多交易很快就不会再涉及货币，如果税收制度仍然只对货币征税，那么很快就会跟不上时代。

在以数据为基础的经济中，价值的存储是通过数据的形式，而非货币的形式，所以如果只对货币征税，在经济上与政治上都会是种扭曲。一国实际上最富有的实体可能不用缴税，只因为它们的财富是由许多 PB级数据组成的，而不是数十亿的美元。

说到对货币征税，国家已经积累了几千年的经验。但说到对信息征税，至少到目前，各国仍然一筹莫展。如果人类真的从一个以货币交易为主的经济转向以信息交易为主的经济，各国该如何应对？社会信用体系或许是国家适应新局面的一种方式。

原标题：《信息革命中的计算机：自主决定、创造思考》

阅读原文