下载客户端

被机器人戴了顶“最时髦的绿帽子”后，事态的发展便超出了他的想象……

2021-01-31 08:30

来源：澎湃新闻·澎湃号·媒体

原创毛亚楠方圆

伊恩·麦克尤恩是英国文坛当前最具影响力的作家之一。（图片来源：资料图片）

作家小白在英国国宝级作家伊恩·麦克尤恩的新作《我这样的机器》导读中提到了“恐怖谷”理论。大体意思是说，当人类在面对一个面貌体态十分像真人的机器人时，人会首先产生一种奇异的恐惧感。

何以会有这种现象，一些研究者认为，这是由于人类在面对同类时具备读心能力，这种读心能力被称为“心理化”，但当面对明知不是真人的仿真机器人时，大脑启动心理化的过程则会陷入错乱，所以才会产生“恐怖谷”的观感。

按照“恐怖谷”理论，当小说中那个身体健壮、相貌英俊，肤色、心跳无不像真人，“甚至呼吸都带着一丝湿润”的男机亚当出现在人们面前的时候，他们应该感到不安。

但麦克尤恩笔下的人却都轻松越过了“恐怖谷”，主人公查理花钱把亚当买回了家，并同他的女友米兰达一起赋予了亚当初始的性格设置，组成了看似奇特的“三口之家”。

如果清楚这三位所处的背景时代，读者也许更能理解他们面对亚当时的平静与理所当然。

那是麦克尤恩创造出的一个世界，时间设定虽是1982年，但在小说里，这一年的英国输掉了马岛战争，撒切尔夫人下台，肯尼迪逃过了致命的子弹，列侬也没被歌迷杀死，披头士乐队重组并发布了新专辑，无人驾驶汽车行驶在大街上……

其中最为重要的是，计算机之父艾伦·图灵没有自杀，且他还在人工智能领域取得重大成果，制造出了作为人类伴侣的智能机器人——男机亚当和女机夏娃。

如此设定似乎是老麦向读者抛出的问题：如果1982年智能机器人已经存在，我们会如何与之相处？结局又会怎样？

从一种清白无罪的丧失中开始

麦克尤恩是“描写创伤性意外事故如何击碎日常生活的最伟大的当代选手”，这是英国著名批评家詹姆斯·伍德对他的精准评价。

的确，在麦克尤恩的小说和故事里，无论冲突最后如何决绝激烈，最初都来自日常生活中出现的那一道道细小的裂隙。

就如同《赎罪》里的小女孩布里奥妮，凭借着自己年幼无知的秘密想象指控了罗比强奸，使其遭到灾难性的错误拘捕，所有的悲剧都是从这样一种“清白无罪的丧失”中开始……

小说中，一切困扰的起点始于查理的一次慷慨的邀约，为了得到米兰达的爱，查理决定让女友负责亚当一半的性格设置。

上海人工智能研究院院长张峥称赞麦克尤恩是个非常伟大的产品经理，张峥说，“小说中的机器人出厂设置跟人的进化很吻合，查理和米兰达共享对于机器人的初始设置权，这是父母遗传给孩子各自一半DNA的生物过程的精妙比喻”。

而在后来读者们会知道，米兰达赋予亚当的初始设定类似于莎士比亚《仲夏夜之梦》的剧情——亚当会爱上睁开眼睛看到的第一个人。

就这样，这个智能机器人深度介入到了这对情侣的生活里，但紧接着，事态的发展便超出了查理的想象。

这个本来被他视作是与米兰达“共同的孩子”的男机，竟然跟米兰达上了床，给查理戴了顶“最时髦的绿帽子”——“人类将被淘汰”，查理当时这样想。

事实上，这不是查理第一次这样觉得。当亚当承担起了擦窗户、洗碗、除草等劳作后，查理就陷入过沉思。

书中这样写道，“我们有可能成为无聊时光的奴隶。然后呢？全面的文艺复兴，我们获得新的自由，投入爱情、友谊和哲学，投入艺术和科学，投入自然崇拜、运动爱好、发明创造和对意义的追寻？但是，不是每个人都会喜欢高雅的娱乐。暴力犯罪也有人喜欢，还有铁笼里的生死肉搏、虚拟现实色情、赌博、酒精和毒品，甚至还有无聊和抑郁。我们将无法控制我们的选择，这一点我就是证据”。

自此以后，摩擦逐渐升级。

由于亚当拥有可查询所有法庭记录的特权，米兰达隐藏多年的秘密被亚当透露给了查理，后来经查理与米兰达对峙，获知了事件原委：原来米兰达曾卷入一起强奸案，她谎称自己被一名叫戈林的男人强奸，并成功让法官和陪审团判他入狱。

之所以这样做，是因为她的童年好友玛丽娅姆就是被戈林强奸后自杀的，米兰达为了复仇，便“引诱”戈林上钩并控告他强奸，最终让戈林受到了法律的制裁——一件人类世界里的道德难题。

我们再来看机器人的反应，说这事之前，有必要先提一下之前发生的小事，一次外出，查理碰到了一个被父母虐待的小男孩马克，出于善良，查理主持了正义，并在某天里，小男孩马克被父亲“扔”到了查理家。

在查理家里，小马克得到了查理和米兰达友善的对待，但那场其乐融融的“聚会”最终以亚当向当局报案而告终。机器人的理由是，此事涉及未成年人，且它认为查理和米兰达的这种善意也许会违反法律。

而在关于米兰达一事上，亚当又会如何看待呢？我们先了解一下麦克尤恩在书里提到的“电车难题”。

“如果人工智能要将自动驾驶汽车安全引导回家，那么软件中要设置什么样的权重和优先级别呢？”，麦克尤恩举例，“你，或者说你的车，正沿着一条狭窄的郊区道路，以最高的法定速度行驶，道路畅通，你这一侧道路的人行道上有一群孩子。突然，其中一个8岁的孩子跑到了马路上打算横穿过去，正好就在你车子前方。在这一秒不到的时间里，你必须做出决定——要么直接从这个孩子身上碾压过去，要么急速调整方向冲向人行道上的行人，要么冲到对面车流之中，以接近每小时八十英里的速度迎头撞上一辆卡车。”

“如果车上只有你一个人，好办，要么牺牲自己，要么拯救自己。如果你的配偶和两个孩子也都在车上呢？还是太容易？如果你只有这么个女儿呢，或者车上是你的祖父母，或者是你怀孕的女儿以及你女婿，两人都是二十四五岁的年纪？还要考虑对面卡车上的人。一秒不到的时间里，足以让电脑充分考虑各方面因素了”。麦克尤恩说，“最终决定，将依赖于软件事先给出的优先指令”。

所以如何看待米兰达一事，其实就是机器人亚当面临的“电车难题”。

事情逐渐失控

据以上所说，“最终决定，将依赖于软件事先给出的优先指令”。在这里有必要告知大家生产商当初制作男机亚当及女机夏娃时的美好愿景。

研究人员研发了这些以最佳人类为基础的软件，并根据理性的原则来设计它们，给予这些机器人以宽广的胸怀、充满了善意、包容体贴，且绝不算计、毫无偏见。

因为人们深知自己在伦理上是有缺陷的——“行动前后不一、情感变化无常，常常抱有偏见，容易犯认知上的错误，而且多是因为自私自利”。

由此可知，亚当的道德标准显然是超过了查理和米兰达的。所以在面临“到底该保护主人还是维护法律的纯洁正义”这个问题上，亚当必然选择的是后者。

事情逐渐失控，亚当先是在未与查理商量的情况下自行处理了它帮查理炒股赚来的钱财，接着将自己调查收集到的关于米兰达一案的证据打包交给了警方，这些行为直接导致了查理和米兰达的崩溃，因为彼时查理正计划买房，与米兰达结婚并打算收养小男孩马克。但是这个机器人却把一切都搞砸。

书中的这段对话颇值得玩味。查理劝说亚当，他说，“米兰达只有撒谎才能得到正义。可是，真相并不总是一切啊。”

亚当疑惑道：“这话说得可不同一般，真相当然就是一切啊”。

米兰达疲倦地说：“我知道你会改变主意的。”

亚当说：“恐怕不会。你想要一个什么样的世界呢？复仇，还是法治。选择很简单。”

知道无法改变亚当与生俱来的“均衡正义观”，查理最终在米兰达的默认下，用锤子“结果了”亚当。

在书中，麦克尤恩借图灵之口总结了人机之间的这种势不可当的分崩离析。

图灵说，“我认为那些亚当和夏娃配置不够，无法理解人类的决策过程；我们的情感、特殊的偏见、自我欺骗以及我们其他已经明确知道的认知缺陷，构成一个力场，我们的原则在其中扭曲变形，这一点它们无法理解。很快，那些亚当和夏娃就陷入了绝望之中。它们不理解我们，因为我们不理解自己。它们的学习程序无法处理我们。如果我们自己都不了解自己的大脑，那我们怎么能设计它们的大脑，还指望它们与我们一起能够幸福呢？”

作家小白也是如此分析：“机器人的出厂设定代表了人类所有最美好的期望，可就算是人类自己，也没有一个能做到。因为那些规则条款，根本经不起社会人群的人际摩擦。”

具备了比人类还要多的“自知”

《我这样的机器》里的机器人显然都是具备“自我意识”的机器人。因为这个“三口之家”未分崩离析之前，人们是无法区分亚当和人类在行为上的差别的，在这一点上，麦克尤恩始终坚持赋予他笔下的机器人以人性。

在书里，亚当第一次谈论“自我”是在查理第一次带他出门的时候，亚当对着查理的朋友说它思考过“自我”这个谜，“有人说那是某种有机元素或者进程，埋在神经结构中。其他人又坚持说那是个幻觉，是我们叙事化倾向的副产品”，亚当说。

但是当时包括查理在内并未将亚当的言论放在心上，直到亚当向查理表示自己爱上了米兰达，并在随后与查理的一次冲突中，以捏碎了查理手腕的方式拒绝查理将自己关闭。

要知道，在亚当的用户手册上，可是印有艾萨克·阿西莫夫那条被人不厌其烦反复强调的“机器人第一定律”——“机器人不可伤害人类，亦不可不行动而任由人类受到伤害”。为了不被关闭而伤到了人，可见亚当的自我意识之强。

其实，麦克尤恩本人是相信机器人具备自我意识这个可能性的，他在一次被采访中说：“有人做过一个非常好的比喻，超过人的人工智能出现，就像进入森林。有人告诉你森林里有很多吓人的野生动物，当你进去之后，可能走了两个小时都看不到，但其实它们就在距离你几米的一棵树后。超级智能其实已经在那边，但你可能意识不到”。

作为国内人工智能领域的专家，张峥也持认可观点，他以手机为例，说明了机器具有最基本的自我意识，“当手机快没电时，会先把数据备份到云端。而这个动作就意味着手机可以自行了解机体的状况，并作出判断”。

在这本书中，我们能了解到来自智能机器人的爱。与查理相比，亚当是如何爱米兰达的呢？它的爱伴随着理性、陪伴、浪漫又不乏克制。米兰达处于恐惧戈林回来报复的焦虑之中，亚当在其中代替查理担当了守护骑士的角色；它还会因陷于浓烈的爱意之中而创作出优美的俳句；对于米兰达与查理的如胶似漆，亚当似乎也没有什么妒忌，有时甚至还对她有些淡然。

如果没有发生后来的事情，亚当堪称得上是完美伴侣。它的智能让它知道自己的存在，让它感知，让它尽可能地学习一切。

如果它不跟人类在一起，晚上休息的时候，它就在因特网上游荡，“就像大草原上孤独的牛仔，天地间所有的新东西，它都吸收进去，包括人类本性和人类社会的一切知识”。

但遗憾的是，它独独无法进入人性的灰色地带。

书上写，在那个平行时空的80年代里，不断传来机器人“死亡”的消息，在利雅得，有两个夏娃率先想出了“自决”的办法，它们没有使用物理方法，比如从高楼的窗户上跳下去，而是用软件将自己销毁，无法修复。

而在温哥华的一台亚当，破坏了自己的软件，把自己变得极其愚蠢，仅仅能够执行简单的命令，但也没有了自我意识，它就这样成功地隔绝了自己与人类世界。

据书中透露，利雅得的那两台夏娃之所以“自杀”，是由于长期生活在极其封闭的环境中，最后对逼仄的精神空间感到了绝望；

而温哥华的那台亚当，它的主人是一家伐木公司的负责人，他经常与当地人发生纠纷，因为当地人要阻止他砍伐英属哥伦比亚北部的原始森林，那个亚当也许是在乘坐直升飞机到北部区时看到了什么，才致使它决意自毁。

如此看来，当查理的亚当做出了与两位主人相反意愿的决定时，也等同于另一种形式的自毁了——

这就如同讲述了一个当代《羽毛冠》的故事，只是霍桑笔下那个有良心的稻草人，换成了麦克尤恩笔下这台充满感情的机器人，二者都是因为具备了比人类还要多的“自知”而死——它们注定与人类无法共处。

“我们若落叶

春至又新，你们啊，

叶落从此无。”