当代美国评论︱人工智能来了，未来还需要我们吗？

21世纪刚刚来临时，当时著名的太阳微系统公司的创始人、首席科学家 比尔•乔伊（Bill Joy）发表了一篇《为什么未来不需要我们》 （Why the Future Doesn’t Need Us） 的文章。 他指出，在21世纪，人类拥有的最强大的三种技 术———机器人技术、基因工程技术和纳米技术———正在使人类自身成为濒危 物种。与此同时，雷•库兹韦尔（Ray Kurzweil）在《灵魂机器的时代》《奇点 临近》等书中则乐观地指出，人类将在机器的帮助下获得永生。

在当前的人工智能热潮中，机器人和人工智能会不会超过人类智能，是否会取代人的问题 再次备受关注。 乐观主义者认为，全面超越人类智能的超级人工智能一旦出现，将为人类带来新的文明跃迁。 悲观主义者则认为，人工智能对人类智能的超越将打破人类智能在地球的绝对优势，即便不会出现“机器觉醒”——机器人和人工智能统治人的情形，人工智能的发展也可能使人类自身变成多余的物种或无用的人。

不论这些观点所描述的未来是乌托邦还是反乌托邦，可以都以它们为参照，立足人工智能发展的现实，系统地展开人文或哲学社会科学的反思，以此深入思考人工智能等未来科技发展的上限和下限，找到人类可以普遍接受的深度科技化的前景。

人类未来究竟会是一幅怎样的图景？ 未来图景一是融合科技与后人类发展。 依照这一图景，除了人工智能可能发展出超级人工智能之外，纳米、生命、认知和信息等融合科技将使人类的认知与智能增强成为可能，甚至与人工智能和机器人融为一体，乃至可以通过意识上传和身体替代而获得永生。

例如，可以通过药物、基因技术等实现认知与智能增强，如服用聪明药可以使人的智能得到改善。 此外，可以通过读心术、读脑术、认知介入技术、人机融合的“赛博格”技术等，走向超人类或后人类。 例如，不仅人的而且动物的记忆都有可能被移植。 但这些技术若能得到开发并付诸应用，必将带来一些难以回避的问题。

人类不得不思考的是，人之所以为人，一个最重要的因素是具有自主性，认知介入技术的发展会不会使人的自主性受到冲击？ 人还有没有认知上的自由？ 把别人的记忆移植到某人的大脑以后，怎么知道认知是移植过来的还是自身的？

未来图景二是机器掌控世界。 机器智能超越人类智能，机器可以在无人监督的情况下自主学习、自行决策甚至自动升级，人类的命运因此可能在很大程度上为机器所掌握。 如果机器智能在功能上超越人类智能，甚至从其心智中涌现出意识和自我意识，人类是否会被机器消灭，取决于人类赋予机器智能的伦理架构是否能在终极意义上，使智能机器遵循机器人三定律等伦理义务或绝对的道德命令。

如果机器智能在功能上超越人类，但不可能生成意识和自我意识，人类很可能因为对机器的依赖越来越强，而将越来越多和越来越复杂的任务交给机器处理，最终越来越无力掌控维持人类社会运转的复杂决策和行动，不得不逐渐将命运在事实上完全托付给机器。 在此不可逆的未来情境中，即便人类认识到不应该由机器掌控世界，也会因为对机器的高度依赖而无法通过关闭机器重获主导权。

未来图景三是人类依然保持对机器的控制，但出现了难以消弭和日渐扩大的智能化鸿沟。 在此未来情境中，机器和社会为少数掌握权力、资本和创新的精英所控制，人口中的大多数越来越多地放弃工作而成为社会系统中不必要的“累赘”，即所谓“无用阶层”的出现。

而“无用阶层”无疑会对社会治理带来巨大的挑战。 如何对其进行心理疏导和社会管控？ 如何从心理和精神层面对其进行智能化的引导和校正？ 由此也可能会带来更为复杂的问题，特别是可能出现智能算法的非人格化权力在对不同群体的赋能和授权上的不平等，以及由此形成的渐行渐远的智能化鸿沟等根本性分歧。

透过这些可能的情景构想，人工智能和智能化的未来发展将呈现诸多不易解决的难题。 首先，人工智能与智能化发展可能会导致社会不平等的激化与极端化。 与以往的自动化及网络信息技术一样，人工智能和智能化的发展日益呈现出对就业的冲击，“机器换人”可谓愈演愈烈，而这一冲击很可能加剧甚至激化社会群体的不平等。

一般而言，自动化与信息化的发展替代了一些劳动力，其创新红利也带来了就业的增加。 从作为智能化先导的自动化与信息化的发展可以看到，的确出现了低报酬的简单技术职位与高报酬的高新科技职位同时增加的现象。

但问题是，一方面，资本对利润的追逐使得高收入与低收入之间的差距越来越大。 在巨大的资本投入的影响下，网络与金融结合下的科技金融进一步放大了这种不平等，使得互联网和金融等行业的分配体系十分扭曲。 在网红经济中，网红与明星不合理的高收入，也是拜当下网络媒体或智能化的发展背后的巨大资本投入所赐。 当前的大数据、人工智能热潮与互联网的发展一脉相承，在很多人工智能的应用领域，收入的差异与不平等也呈现出类似的两极化趋势。

另一方面，智能化的发展将使职业变更日益频繁，由于低报酬的简单技术职位的知识与科技含量不高，相关从业者的学习能力有限，转换新职业的能力较弱。 因此，人工智能等智能化技术的发展对就业适应能力差的低收入从业人员的冲击尤其值得关注。

其次，人工智能对就业的冲击难免进一步引发人们对智能化未来带有一种根本性的忧思：面对人工智能与智能化的发展，人类还剩下哪些不会被机器取代的优势？ 这也可以说是一种危机意识。 为此，不妨列一个所谓的“人类剩余优势清单”：智能化时代来临以后，到目前为止，人类至少在创造性与变通性、社会知觉、谈判艺术和论证能力等方面胜机器一筹。

最后，信息化与智能化的发展已经或可能会带来一系列困扰人类的疾患，如虚拟现实成瘾、辨别现实障碍、身份认同焦虑、机械移植排异、超智能精神失常、机器人恐惧症、自我刺激成瘾、寿命延长倦怠等。

在这些问题背后更为根本的一个问题是，近半个多世纪以来，多元主义与反基础主义等思想的滥觞固然有治疗激进主义与独断论之功效，人类文明似乎已经在思想层面放弃了对人的发展和演进具有一定之规的统一陈述。 毫不夸张地说，面对深度科技化的冲击与挑战，人类的各种利益纷争和价值纠结愈益盘根错节，人类在整体上其实已经迷失了发展的目标和方向，而只能一边在经验主义、功利主义和实用主义的裹挟下盲目前行，一边祈祷宙斯和雅典娜继续赋予人类得以幸存的好运气。

-----

本文节选自作者刊于《当代美国评论》2019年第1期的论文“面向人工智能时代的伦理策略”。作者段伟文系中国社科院哲学所研究员。“澎湃”经授权选编。