下载客户端

伊恩·麦克尤恩对人工智能提出了第一个难题，请回答1982

2020-08-20 09:03

来源：澎湃新闻·澎湃号·湃客

文学报 · 此刻夜读

2018年11月伊恩·麦克尤恩在上海

近年来，除了文学领域，作家麦克尤恩越发热衷于社会热点话题的关注和讨论，例如在英国“脱欧”、人工智能技术的发展等方面。麦克尤恩长期以来毫不吝啬对当下社会给出自己的尖锐批评——2019年9月他发表了一部寓言性质的小说《蟑螂》。在同一年，他经过长期对人工智能领域的探索和研究，推出了一部带有鲜明麦氏标签、兼具浓厚科幻色彩——“一部真正思考人类未来困境”的小说。在新作《我这样的机器》里，他尝试回答了本人对未来人工智能的看法和期待。

小说中，麦克尤恩塑造了一个1982年平行宇宙中的伦敦，那里拥有我们很熟悉的过往，也有高度发达的人工智能。为什么要塑造这样一个世界？在上海书展的中文版首发活动上，作家小白，人工智能专家张峥与作家、出版家黄昱宁对这个问题表达了自己的看法，小白认为这更像是麦克尤恩带有自传体性质的一个小说，“这部小说带有他对自己的反思，对人类社会的反思，通过一个机器人的故事影射他的这一段看法”。张峥进一步认为，在“机器化”的麦克尤恩身后，想要表达是一个群体的自传，作家将科技和人类之间的冲撞，对未来的交织、憧憬都含在里面。

许多人或许忘记了，1982年，也是AI人工智能这个词在全球搜索比较频繁的一个热词。带着这个线索，今天夜读进入作家小白对《我这样的机器》的导读以及篇章选读。

导读

文 / 小白

我们猜想起来，麦克尤恩让故事发生在1982年，更可能是出于——作为一个小说家，对有关机器人的大众叙事历史和观念变迁的关注。有一个历史统计数据，到1981年，日本汽车装配生产线上已使用了6000多个机器人，同一时间英国只有370台工程机器人。英国首相撒切尔夫人于是大力鼓吹广泛使用机器人作业，此举或许也是首相对各地不断出现罢工浪潮的冷酷回应。当时英国失业率常年徘徊在10%，撒切尔推广机器人的言论得罪了工人大众。本来憎恨机器的卢德派在英国就有久远历史渊源，政府和工人们两相激发，机器人成了那个年代英国人最热门的话题。

电影《我，机器人》剧照

事实上，如果你在Google Ngram Viewer上检索“Robot”（机器人）和“AI”（人工智能），就会看到这两个词在80年代初异军突起，在整个80年代形成一个高峰，到90年代反而渐渐下落。事实上，最令人难忘的机器人电影就是此刻拍摄的——1984年上映的《终结者》。显然，智能仿真机器人是那个时代极其广泛的大众话题。那时候，麦克尤恩刚搬家到伦敦没几年，出版了几本小说，开始创作剧本，与同道友好交往，参加午餐会讨论热门话题，也许这个有关“比人更聪明的人造人”的想法，在这个30岁出头年轻作家（正是小说中查理的年纪）的内心，一度掀起过极大波澜。

年轻时的麦克尤恩

Robot这个词，来自捷克作家卡雷尔·恰佩克（Karel Čapek）一部戏剧，《罗素姆的万能机器人》，作者在剧中借用了捷克语“Robota”（劳工），变造了机器人一词。这部戏于1922年在纽约上演时，适逢大萧条，戏剧故事迎合了自动机器会加剧工人失业的恐慌心理。机器人话题的每一次真正热门，都跟失业潮、跟担心机器人在所有工作岗位上取代人类有关。

但麦克尤恩并不为此担心。在这部小说中，每个人物都欣然接受亚当的代劳。从厨房清洗到检索政府档案卷宗——亚当的大脑可以直接接入网络，密码也挡不住它。亚当开始热衷于文学创作，虽然只是最简单的日本俳句。但文学，那不是人类智慧树最高处结出的果实么？没人当回事。对于亚当给生活带来的种种改善，男主角查理心安理得地享受着。亚当甚至帮他操盘做投资，它是真正的超级智能，不是如今投行们使用的那些高频交易算法。盈利是毫无疑问的，就像从自己口袋拿钱。

一旦机器产生自我意识，就会遭遇到奥莫亨德罗（Steve Omohundro）的难题：自我意识意味着自我保护，机器会认识到首先必须存在，才能达成围绕着自我意识的所有其它目标。超级智能机器会设法让开关失效。当查理再一次试图伸手关掉它的电源，亚当阻止了他，而且把他的腕骨捏碎了。亚当坚定地夺回/取消了开关控制权。不过当查理把这件严重事故告诉小说中的“图灵”，也就是亚当和夏娃们真正的设计者时，图灵并没有震惊，不过是一个“值得关注的”情况。图灵告诉查理，据他所知，那批测试版机器人中，已有十一位设法取消了开关。这不奇怪，历史上那位真正的图灵对此反复思考过了。早在1951年，他就在BBC三台谈话节目中提到此类事情。他在那做了一个演讲，题目叫《机器能思考么？》（Can Digital Computers Think？）。其中说到，就算人类把开关控制在手中，必要时关掉它，对人类来说，这也够耻辱的了（We should,as a species,feel great humbled）。图灵虽然有点忧虑，显然不赞成靠开关维持优势。

麦克尤恩设想了一种道德至上的智能机器。在它们复杂的计算决策“黑盒”底层，必定预置了一些最高级道德命令，以防发生难以控制的不测事件。因为按照牛津大学哲学家尼克（Nick Bostrom）的预想，即便是一个善意的机器人，按照人类命令行事，它也会把世界上的一切都变造成回形针，因为智能机器人在完成任务方面是一个彻底的完美主义者。但亚当却没有为查理赚回世界上所有的钱，显然它在决策中综合考虑了互不相容的几种人类偏好。比如说，也要兼顾安全感，过量财富显然会带来身心两方面的危险。尤其是道德损害。

道德规则本身就包含了无数种偏好。比如小说故事就涉及到：是“复仇正义”要紧呢？或者是“不能欺骗他人”更重要呢？这才是麦克尤恩真正感兴趣的问题。工程师给亚当们内置了所有人类道德规则，但那些远不是经由自我审视、选择而来的道德感。出厂设定代表了人类所有最美好的期望，可就算是人类自己，也没有一个能做到。因为那些规则条款，根本经不起社会人群的人际摩擦。就像麦克尤恩小说中几乎所有人物一样，天性良善，却让一些细微的摩擦冲突愈演愈烈，直至不可收拾。

章节

选读

我是乐观派阵营中的一员，运气不错，母亲去世、祖传房屋出售之后，我得到了意外的收入，那房屋恰好位于一个价值可观的开发地段。就在福克兰群岛特别行动队动身去执行那无望的任务之前一个星期，第一个真正可用的、由工厂生产出来的人类，在市场上发售，智力和长相都过得去，肢体动作和面部表情的变化也真实可信。亚当售价8.6万美元。我租了一辆小货车，将他运到我位于北克拉帕姆那套令人生厌的公寓里。我这个决定做得草率，但听说战争英雄、引领数字时代的天才艾伦·图灵爵士也买了同款，我便受到了鼓舞。他很可能打算让实验室把机器人拆开吧，好好研究一下其内部构造。

科幻剧《真实的人类》剧照

亚当的电池在充电，我给我们俩倒了咖啡，然后翻看长达470页的在线产品手册。语言总体上还是清晰准确的。但是，亚当的制造牵涉很多不同的地点和部门，所以手册读起来有废话诗那样的趣味。“遮住B347K护罩上部，可使主板输出获取快乐情绪图标，减弱情绪波动半暗带。”

最后，他坐在了我那小小的餐桌旁，脚边散落着纸板和聚苯乙烯包装材料，双眼闭着，一条黑线从他肚脐上的入口处拖下来，连到墙上一个十三安培的插孔上。让他启动还需要十六小时。然后就是下载更新和设定个人偏好的环节。我现在就要他，米兰达也是。我们俩像心情急切的年轻父母一样，迫不及待地等着他说出第一句话。不是配备个音箱，直接安装在他胸部。从热情洋溢的广告宣传中，我们得知，他可以用气息、舌头、牙齿和上颚发出声音。他的皮肤和真人相仿，摸上去已经有暖意了，而且和孩子的皮肤一样光滑。米兰达说，她看到他的睫毛抖了一下。我敢肯定，她看到的是地铁在我们脚下一百英尺处轰隆而过引起的震动，但我什么都没说。

广告上说，他可以陪伴，可以在智力活动上相互切磋，可以成为朋友，可以总揽家务，会洗碗、铺床，会“思考”。存在的每个时刻，听到、看到的每件事，他都记录下来，都能够从记忆中调取。目前他还不能开车，不许去游泳、洗澡或不打伞在雨天出门，也不能在没人监视的情况下操作电锯。至于活动范围呢，感谢蓄电技术的突破，他能在两小时内跑十七公里，中途无需充电，或者连续说话十二天，这两者消耗的能量是一样的。他有二十年的使用寿命。他身体健壮、肩膀宽厚，皮肤是深色的，浓密的黑头发向后梳着；脸部窄长，略微有点鹰钩鼻，给人思路敏捷、智力逼人的感觉，上眼皮厚重沉郁，嘴唇紧闭，我们在一旁观察的时候，他的嘴唇褪去了那死亡一般的黄白色，慢慢有了饱满的、人的颜色，也许唇角还略微松弛了一点儿。米兰达说他看起来像“博斯普鲁斯海峡的码头工人”。

科幻电影《机械姬》剧照

坐在我们面前的，就是那终极的玩物，多少世纪以来的梦想，是人本主义的胜利——或者宣告其死亡的天使。令人无比兴奋，但也无比难受。十六个小时就这样等着、看着，可不容易捱过去。我觉得，考虑到午饭后我交出去的那么多钱，亚当这时候就该充好电，随时可以起身走路了。这是个寒冷的黄昏。我烤了面包片，我们又添了咖啡。社会史专业博士生米兰达说，她希望十几岁的玛丽·雪莱此时和我们在一起，全神贯注，不是观察弗兰肯斯坦造出来的那种怪物，而是观察这位皮肤黝黑、长相英俊的年轻人如何慢慢活过来。我说，两个东西有个共同点，都渴望电给予他们生命的力量。

......

亚当以后会变成令人生厌的玩意儿吗？花钱买东西之后的那种懊悔感不时袭来，我一边要克服这种感觉，一边还要口授邮件，这可不太容易。毫无疑问，其他有生命、有头脑的，还会继续出现，继续令我们着迷。人造的人，会越来越接近我们，然后和我们一样，最后超过我们，我们自然不会觉得他们无聊乏味。他们一定会出乎我们的意料，还可能以我们完全无法想象的某些方式，打破我们的预期。悲剧不是没有可能，但无聊乏味是不可能的。

真正枯燥无味的，是还得去看用户手册。指南。我有个偏见：任何机器如果不能在运作中自行告诉你该怎么使用，那就不值得去买。我突然有了复古守旧的冲动，将整个手册打印出来，然后又去找文件夹。在此过程中，我仍然一直在口授电子邮件。

我没法把自己当成亚当的“使用者”。之前我以为，任何关于他的事情，他自己都能教我。但是，我双手捧着手册，刚好在第十四章打开。这部分的英语表达很清晰：偏好；性格参数。接下来是一系列标题——亲和性。外向性。经验开放性。尽责性。情绪稳定性。我熟悉这个清单。五大性格特质模型。我接受过人文学科的教育，但并不相信这种统括式的概念，不过一位学心理学的朋友告诉过我，每个条目下面都分为很多小类。我扫了一眼下面一页，发现我需要做出一系列选择，都是从1到10当中挑选一个。

此前我一直期待着一位朋友。我打算把亚当当作家里的客人，一开始不熟悉，但以后会慢慢了解。我以为他到我家的时候，就已经进行了最佳的配置。出厂设定——在当前社会中，这就是命运的同义词。我所有的家人朋友，出现在我生命中的时候，都已经设定好了，基因和环境在他们身上留下了不可更改的痕迹。我希望我这位昂贵的新朋友也是这样。这事干嘛丢给我来做呢？当然，答案我也知道。我们当中，拥有最佳配置的并不多。