探索与争鸣 | 成素梅：人工智能威胁论为时过早

人工智能正在颠覆人与工具之间的控制与被控制、利用与被利用的关系，由此带来一系列问题：机器能否成为认知主体吗？机器思维与人的思维在本质上相同吗？机器能有意向性吗？如果承认机器能拥有智能，那么，这种智能会超过人类吗？人工智能有界限吗？或者，如霍金所言，智能机器人可能会成为人类历史上的最大灾难或人类文明的终结者吗？对这些问题的回答已经不是单纯的人工智能领域内的问题，而是需要哲学社会科学的介入，需要展开跨学科的对话，来共同探讨的深层次问题。下面，我主要立足于人工智能60年的发展史来探讨人工智能的范式转换及其前景问题。

一、人工智能的学科性质

从起源上来讲，图灵在1950年的文章中通过一个模仿实验，提出了“机器能够思维”的命题，确立了“不可分辨性”图灵测试。1956年夏天，麦卡锡在美国达特茅斯学院组织了一个学术研讨会，共同探讨有关机器模拟智能的一系列问题，并首次提出“人工智能”这一术语，标志着人工智能研究正式诞生。人工智能是作为计算机的一个分支学科出现的。

从学科性质上来讲，人工智能不是自然科学。因为自然科学是研究自然界的某一部分，成果形式是抽象的理论体系，而人工智能是研究的如何实现智能，成果形式是具体的人造物。自然科学的对象是明确的，而作为人工智能模拟对象的人类智能，却至今依然是个谜，而揭示人类智能的本质，却是脑科学、认知科学和神经科学等学科研究的内容。

人工智能也不是像逻辑学或数学那样的非经验科学，更不是一门社会科学，尽管人工智能研究者必须关注其成果对社会所产生的影响，但这并不是人工智能研究的主要内容。虽然算法和编程等研究本质上是数学的，但这也不是人工智能的全部，因为这些算法与程序的实现，还需要设计有效的信息存储硬件或中央处理器等。而这些设计多半是依据微观电子技术和其他制造工艺，并不需要纯数学。纽厄尔和西蒙把计算机科学称为是一门经验学科，也叫做实验科学。在他们看来，每制造出一台新的机器都是一次实验，每编制一个新的程序也都是一次实验。机器和程序都是人造物。

人工智能发展的这些交叉性与跨学科性表明，人工智能在现有的学科分类中难以找到其归属的门类。一方面，人工智能，如同量子信息技术、基因工程技术、纳米技术等一样，既不是纯粹的科学，也不纯粹的技术，而是两者相互促进的结果。它们都属于技性科学（technoscience）的范围。技性科学意指科学化的技术和技术化的科学的混合，是科学与技术相互交叉的一个领域，主要突出科学与技术之间的相互促进关系。它是把科学原理变成技术实现，而技术实现反过来又推动对科学原理的理解和发展。比如，量子通信就是利用量子纠缠替代过去数学加密的方式，使人类通信第一次达到了绝对保密的程度，而这又反过来促进了人们对量子纠缠理论的接受，从而间接地证明了量子力学的有效性。

但是，作为技性科学的人工智能，还不完全等同于量子信息技术，因为量子信息技术是在学科发展成熟的基础上和明确了科学原理的前提下，才进行的技术探索，尽管这些探索的结果，反过来也会深化和促进相关基础学科的发展。但相比之下，人工智能对人类智能的模拟，却既没有可参照的概念框架，也没有可遵循的方法论准则，而是一个需要探索的目标，或者说，是模拟一个其内在机制还没有被完全理解清楚的东西。那么，机器或计算机如何来模拟这个至今机制尚未明朗并专属于人类的智能呢？

二、强人工智能：质疑与辩护

当人工智能研究者在探索人工智能的实现问题或“如何做”的问题时，首先遇到的就是事关人工智能的框架问题。丹尼特认为，框架问题不能被简单地归属于一个令人烦恼的技术障碍，或者，看成是令人工智能研究者一筹莫展的一道奇特的难题，而应该看成是一个新的深层次的认识论问题。这个问题是由人工智能的一些新方法揭示出来的，但却还远远没有得到解决的问题，也是一代代哲学家原则上能够理解，但却未加注意的问题。回答机器如何能够思维的问题，取决于对人类智能的理解。理解不同，实现的范式就不同。这也决定了60年来，在人工智能的发展史上，出现了三大范式：符号主义范式、联结主义范式和行动主义（actionism）范式。20世纪80年代中期之前，符号主义范式独树一帜。

符号主义范式把物理符号系统看成是体现出智能的充分必要条件，认为“智能存在于物理符号之中”，也就是说，“形式化的界限，也是人工智能的界限”。这是一条通用人工智能的进路，通常被称之为强人工智能。

塞尔在“心灵、大脑与程序”一文中，把这种强人工智能归纳为两个论断：（1）编程的计算机确实具有认知状态；（2）这个程序在某种意义上是解释了人类的理解。然后，通过一个“中文屋”的思想实验，对这两个论断进行了反驳。塞尔认为，把“理解”和其他认知属性赋予汽车、计算机等人造物，与把我们自己的意向性推广到人造物的事实有关，这是用比喻的方式将人的意向性赋予人造物。计算机程序的形式符号处理没有任何意向性。形式化的符号只有句法，没有语义。意向性是一个生物学现象，具有内在表征能力，或者说，意向性是神经蛋白具有的能力，而金属或硅片没有这种能力。

丹尼特则认为，计算机是白板，程序为它装备了解决问题时知道如何“做”的内容。但装备涉及两个问题：（1）装备什么信息，这属于语义问题；（2）以何种系统、形式、结构或机制进行装备，这属于句法问题。因此，形式化的计算机程序也是一个意向性的系统，也能体现出智能。

博登在“逃出中文屋”一文中认为塞尔的论断是错误的。在他看来，屋子里的塞尔运用的规则和指令等价于“如果-那么”规则，塞尔在运用这些规则找出中文问题对应的答案时，是在理解了规则的前提下进行的。在机器编码的层次上，程序对计算机的作用是直接的，程序指令不只是形式化的，也是对当前执行步骤的说明。编程语言是一个媒介，计算机程序的运行，为程序提供了一个语义的立足点。这种语义不是指称性的，而是因果性的。

对强人工智能的反驳与辩护取决于如何看待“理解”的问题，塞尔讲的一阶理解或直接理解，而博登讲的二阶理解或间接理解。哲学家与心理学家围绕强人工智能的可行性展开的上述争论，只揭示了如何理解人工智能的一个侧面，关于对如何实现人工智能的更深入的理解，则与范式背后隐藏的哲学思想或哲学假设相关。

三、范式转换的哲学基础

在人工智能的早期发展中，符号主义范式之所以能够击败与其平行发展的其他两种范式，得到大家的公认，除了离不开资金来源、学位授予、杂志和专题讨论会等方面的大力支持之外，更深层次的原因是，它与西方哲学传统和近代自然科学的研究方法相一致。物理符号系统假设的来源追溯到弗雷格、罗素和怀特海。而弗雷格等人又继承了历史悠久的原子论的理性主义传统。近代自然科学的发展进一步证实了这种哲学的有效性。因此，符号主义范式既是整个西方传统哲学思想的延续，也是对以牛顿力学为核心的近代自然科学思维方式的继承。

然而，这种追求如何用谓词逻辑来进行知识表征、知识推理和知识运用为核心问题的符号主义范式，到20世纪80年代，遇到了在自身框架内无法克服的两困境：一是还原论的理性主义困境，二是把常识形式化的困境。在这种情况下，有着同样发展历史进程的其他两种范式开始成为进步的研究纲领，从幕后走向前台。联结主义范式是受神经科学的启示，试图进行神经网络建模来模拟大脑；行为主义范式是受生物进化论和群体遗传学原理的启示，把目标转向研发移动机器人，试图通过模拟生物进化机制来提升机器人的智能。这两种范式不再是努力建造通用的智能机器，而是立足于解决具体问题，从而形成了人工智能的弱版本。其共性是，从知识表征转向了技能提升，其发展思路恰好与来自胡塞尔、海德格尔、梅洛-庞蒂和德雷福斯的现象学一脉相承。这也是为什么威诺格拉德在20世纪80年代曾在斯坦福大学的计算机科学课程中讲授海德格尔哲学的原因所在。

事实上，早在20世纪60年代，德雷福斯就对符号主义范式提出了尖锐的批评，比喻为是“炼金术”。后来，他的主要观点反映在《计算机不能干什么》一书中。到80年代，德雷福斯的观点重新引起了麻省理工学院新一代人工智能研究者和斯坦福大学的人工智能研究者的关注。德雷福斯本人也在2005年荣获了美国哲学学会的哲学与计算机委员会颁发的巴威斯奖。

四、人工智能的未来前景

德雷福斯在探讨人工智能问题的过程中，抽象出一个“七阶段的技能获得模型”来把上述两类哲学基础统一在一起。他认为，笛卡尔式的主体与客体相分离的状态和遵守规则的状态，对应于技能获得模型的前三个阶段：初学者、高级初学者和胜任阶段；第四个精通阶段是一个过渡期，现象学强调的主体与客体相融合的状态和技能性地熟悉应对域境问题的状态，对应于后三个阶段：专长阶段、驾驭阶段和实践智慧阶段。在后三个阶段，能动体所进行的理解不是理论理解，而是实践理解。理论理解是慎于言的过程，实践理解是敏于事的过程，是对世界的非表征的直觉理解，因而是难以形式化的。这也是德雷福斯认为以追求形式化为目标的通用人工智能一定不会成功的原因所在。

目前，人工智能不仅在日常生活中大显神手，在工业领域和商业领域内捷报频传，而且2017年7月7出版的《科学》杂志刊登的一组文章表明，机器人或自动程序已经能够直接参与人类的认知过程。比如，宾夕法尼亚大学积极心理学中心的心理学家可以运用算法，根据推特、脸谱等社交媒体上的话语，来分析大众的情绪、预测人性、收入和意识形态，从而有可能在语言分析及其与心理学联系方面带来一场革命；普林斯顿大学的计算生物学家可以运用人工智能工具来梳理自闭症根源的基因组，等等。这些机器人或自动程度被尊称之为“网络科学家（cyberscientist）”。这些发展表明，人工智能研究者一旦扬弃追求通用人工智能的范式，转向追求在具体领域的拓展应用，人工智能就会走出瓶颈，迎来新的发展高峰。

人工智能在60多年的发展历程中，虽然经历了与不同哲学基础相关的范式转换，但事实上，三种范式各有优劣。就知识表征而言，日常世界是难以形式化的；就模拟神经网络而言，人类生命的整体性远远大于神经网络，而且人脑的神经网络也还没有搞清楚；就自适应机制而言，从低级的动物智能到人类智能的进化经历了极其慢长的过程。因此，不论是通过建模来模拟人的大脑，还是通过建模来进化出人的大脑，都还有很长的路要走。未来人工智能的发展，有可能是在思路上把试图再现大脑的符号主义、试图构造大脑的联结主义和试图进化出大脑的行动主义有机整合起来，才能构成一个立体的和完整的大脑，而人工智能研究者对这一天的到来至今还看不到任何曙光，更没有预期。

从这个意义上说，人工智能的威胁论虽然表达了人类的忧患意识，但确实为时过早。退一步讲，即使未来有这么一天到来，人类也已经在这个进程中，充分享用了人工智能为其带来的恩惠，并深刻反思了有关人性、社会、文明等问题。广而言之，对于技性科学的发展而言，量子信息技术和基因编辑技术带来的问题，并不比人工智能带来的问题更少或更不重要。因此，政府在助推技性科学的同时，更应该加强哲学社会科学的研究，切实把哲学社会科学的思考，特别是伦理考量，贯穿到技性科学发展的始终，让人文关怀成为人工智能研究者的自觉意识，使他们在研发人工智能的过程中，共同做出有利于发展人类文明的抉择。

(本文首发于《探索与争鸣》杂志微信公众号tansuoyuzhengming，成素梅在2017年8月28日由上海市社联《探索与争鸣》杂志社和华东政法大学政治学研究院共同主办的“人工智能与未来社会：趋势、风险与挑战”学术研讨会上的主题发言，发言题目为《人工智能的范式转换及其发展前景》，澎湃新闻得到授权使用)