下载客户端

ChatGPT会梦见电子朱元璋吗？

2023-02-26 18:53

来源：澎湃新闻·澎湃号·湃客

短短几周内，ChatGPT的用户增长速度已经超过了TikTok和Instagram，成为有史以来崛起最为迅速的网络应用。它可以像人类一样聊天，还可以写诗歌、论文和计算机程序，人们感到惊喜之余不免有些恐慌：“它会取代我们吗？”

铺天盖地的网络热潮之中，华裔科幻作家、《降临》的作者特德·姜在《纽约客》上发表的文章《ChatGPT是网上所有文本的模糊图像》（后文简称为《模糊图像》）为人们提供了一种对于ChatGPT这种大语言模型新的理解方式。

文章中，特德·姜把ChatGPT的工作方式比作对图片的有损压缩——这种对网络海量文本中信息和逻辑的归纳和重组虽然使其信息的准确度有所下降，但成功避免了搜索引擎带给人们的机械感，让人感觉屏幕后并不是一个冰冷的算法，而是一个具有思考能力和温度的个体。

这个比喻冷酷而巧妙，让我们得以窥见科技的本质和局限。而熟悉特德·姜的读者读到这篇评论时，往往能联想到他小说中对人工智能、语言、自由意志的浪漫想象和人文关怀。

特德·姜毕业于布朗大学的计算机科学系，当过自由程序师，为谷歌写代码，同时，他还是当代最优秀的科幻作家之一，获得过 4 届星云奖、4 届雨果奖以及约翰·W.坎贝尔最佳新作家奖。

语言与思想

写作不仅仅是记录某人话语的方法，还能帮助你在讲话之前确定自己要讲的内容。词语也不仅仅是言谈的组成，还是思想的组成。

——特德·姜《双面真相》

作为一名程序员，特德·姜深谙计算机语言；而作为一名小说家，他不仅善于运用作家的语言，而且热衷于探讨语言、写作和思想的关系。

如果说语言是研究人类思维最核心的突破口，那么对于人工智能而言，语言（自然语言处理）更是打开新世界最关键的一把钥匙。

《你一生的故事》（电影《降临》的原著小说）试图从某种角度验证语言学中一条重要的假说——萨丕尔-沃尔夫假说，即不同的语言可以塑造不同的感知世界的方式。通过研究外星生命七肢桶的语言系统，科学家发现了它们独特的思维方式，从而打开了非线性时间的大门。

那么，能写出人类语言的ChatGPT能够拥有人类作家的思维吗？

早在2020年OpenAI推出GPT3的时候，特德·姜就在采访中聊到了AI写作的前景，他认为GPT3很难维持长篇写作的逻辑性。《模糊图像》中，特德·姜提到，每一次写作，都是对自我思想的重新审视，即使是在非原创的写作中，你也能通过遣词造句体会、更新思想。而大语言模型的输出虽然看似人类作家的初稿，但实际上并不具备人类写作者在重写中能够意识到的“距离感”，即文本和真实思想的距离。

虽然尚且不能代替人类作家，ChatGPT在多个方面的能力仍然远远超过了自然语言处理研究者的预期，可以在生活、学习和工作中为我们提供很大的便利。

同时，人们也意识到，除了信息安全隐私上对技术手段提出了更高的要求外，ChatGPT试图打造一种语言共享社区的行为实质上也在一种语言霸权，潜移默化地削弱我们分析、思考、组织语言以及记忆的能力。

“在一种文明采纳文字书写之前，知识只能以口头形式传播，历史十分容易被篡改。虽然不是有意为之，但是不可避免。纵观全世界，吟游诗人和歌舞艺人把原始素材改编之后呈献给自己的受众，同时也是在改编历史以适应眼前的需要。历史记录不应改变的想法，是文字文明尊崇文字记录的产物。人类学家会告诉你，口头文明以不同的方式理解历史。对于口头文明，历史不需要多么准确，因为口头文明需要确认群体成员对于群体自身的共同理解。因此，认为口头文明的历史不可靠是不对的，它们的历史实现了群体的目的。”

特德·姜《双面真相》中的这段文字很好地诠释了语言是如何改变人们对历史的感知的。小说中，通过和欧洲人学习书写文字，蒂夫人吉金基学会了记录历史的方法，进而从口头文明进入了文字文明，其新习得的语义记忆也逐渐代替了情景记忆。

如今，在信息时代，每一秒都有新的表达被创造，但语言的多样性却被算法牺牲；每一秒都会有新的文字被记录，但是信息不再可靠。

纽约大学教授加里·马库斯表示，ChatGPT的语言生成机制就是“寻找下一个听起来合理的单词，而非考虑字句背后的意义”。

打开ChatGPT，官方页面上给出了它的限制，其中明确指出它有可能生产错误的信息。

为了测试它，我先是抛出了一个钓鱼的问题，想看看它是如何应对的。

刚开始我以为没有误导成功，但是读下去，发现ChatGPT把靖难之役搞错了。

我提示出存在的问题后，ChatGPT很快做出了回应，但是我惊讶地发现回应还是错误的。

靖难之役的时间是建文年间而非朱棣年间，抱着完善答案的心理，我希望他能进一步修正答案，此时的我还没有意识到问题的严重性，直到他给出了以下的答案。

在ChatGPT写完一整篇穿越小说之前，我果断地关闭了页面。

机器与人

事实上，空气恰恰就是我们思维的媒介。我们的思维就是一种气流的模式。我的记忆被记录下来，不是通过金箔上的刻痕或者开关的位置，而是依靠持续不断的氩气流。

——特德·姜《呼吸》

从《2001太空漫游》中的HAL9000，到《流浪地球》中的MOSS，科幻中的AI都给读者和观众留下了深刻的印象。这些未来世界的超级计算机拥有强大的能力，往往在关键的时候主宰人类的命运……

目前现实中的AI（包括ChatGPT）主要基于应用统计学，和科幻作品中具有独立意识的AI尚有差距。无论是战无不胜的AlphaGo，还是红遍网络的ChatGPT，都是通过以人脑神经元仿生出的深层神经网络进行深度学习，去完成一件或一类难以由人类程序员手写算法实现的任务。

ChatGPT距离有意识的AI还有多远？在经历了试图钓鱼、努力更正、放弃提问的三个阶段之后，我意识到自己之所以感到被耍，是因为ChatGPT的语言太接近人类了，以至于人们会感觉是在和一个有意识的同类交流问题。

我试图诱导ChatGPT表露自己的心思，但是无论我怎么尝试，每当涉及个人问题时，ChatGPT都会陈述他的“免责说明”。显然它要比我聪明，毕竟一个有能力通过图灵测试的机器完全有能力选择不通过。

马斯克称ChatGPT“好得吓人”，认为我们离危险的强人工智能又近了一步；360董事长周鸿祎几年内更是称其打开了“潘多拉魔盒”，因为基于人类反馈的强化学习（RLHF）很有可能在未来让这些机器获得意识。

对于这种恐惧感，特德·姜在《硅谷已经成为自己的梦魇》中提到“AI想要称霸宇宙”的设想恰恰是硅谷资本主义的一种投射：科技公司认为他们经济效益为上的策略是理性的，所以一个超智能的个体应该和他们一样。我们对所谓“潘多拉魔盒”的恐惧，其实源于我们对资本主义——这个终极冷酷的机器的害怕。

和大多数科幻作品中的强大的管家型AI相比，特德·姜的《软件体的生命周期》中弱小无助的数码体看起来就像是AI中的异类。它们像幼儿一般懵懂且脆弱，有嫉妒心，也能感受到孤独。这些基于基因组引擎的数码体只有在人类的呵护和教育下才能学习成长为成熟且具有智慧的数码体。它们是公司攫取利润的工具、顾客手中的玩物，可以被随意地挂起，随意地剥夺自由和生存空间，同时，它们也是一些人内心难以割舍的家人和朋友。

特德·姜笔下的AI对人产生了需求，人和机器的关系也从单一的索取变成了双向的共情。

在谈到AI发展的方向时，特德·姜表示：

“AI未来发展并不是要求某个方面的最优化。但是目前我们的社会达成了某种目标功能，即利润最大化。许多人已经将‘利润最大化’这一理念内化：如果某个东西产生了最大的利润，那就是最好的结果。我认为这就是为什么人工智能和资本主义能很好地结合在一起——他们有着共同的世界观。我认为，我们想要的大多数结果都不是目标函数最大化的结果。

“什么是好学校？什么是良好的医疗保健系统？什么是好的公共交通系统？什么是好社会？什么是美好的生活？通过最大化目标函数实现这些并不是健康的世界观。”

还记得《双面真相》中的“会忆”吗？它可以让人拥有完美的记忆。人们头戴摄像头，记录自己的全部生活，“会忆”可以让你快速定位到生命中的任何一场谈话、一个举动。这种技术对于寻找丢失的物品、发掘公共事件的真相大有裨益，但是对于个人记忆而言，准确不一定意味着正确，相反，它可能意味着认知的撕裂和情感的崩溃。

还有《达西的新型自动机器保姆》中那个无微不至的机器人，达西“把儿童的情感状态看作一个不稳定的平衡系统”，试图用极为科学的方式保证机器保姆对孩童最优化的关怀，然而这种机器养育出的孩子竟然失去了和人类共情的能力。

在资本的驱动下，我们需要时刻警惕被技术奴役的危险。科技服务的最终对象是人而不是资本，就如科幻反映的是最终主题是人而不是科技。正是这种去人类中心主义的谦逊，和人本主义的关怀，让特德·姜的科幻作品中的机器不再冰冷。

“人类的内心冲突问题是唯一值得写的东西。”特德·姜引用了威廉·福克纳的话。“我热爱科学，但是科幻写作中，科学只是一种工具，科幻归根结底是为了揭露人类的生存状态。”