探索与争鸣｜顾骏：走出人工智能前瞻研究的灯下黑

在讨论人工智能的时候，我们总是对人工智能与人类智能做简单比较。包括今天，我们仍然在争论人工智能有没有价值观，是不是能压迫人。其实这些话题没有意义，因为背后都是说人工智能是一种拟人的智能。如果不拟人，二者是平行的或者互不相关的，人工智能为什么要有人的那些特性呢？这里要谈八个问题。

第一，宇宙进化会终结于人类吗？我们都知道宇宙爆炸时是没有人类的，走着走着人类来了。是不是宇宙就是两个阶段，一个前人类阶段，一个人类阶段？如果谁能够证明宇宙就是两个阶段，那我们就不用去考虑人工智能会不会取代人类。如果还存在着第三个阶段——后人类阶段，谁会成为人类的终结者？人类终结者，我算一算有三种可能，一种是自然灾害，比如说小行星撞击地球；第二种是人自作孽不可活，发生一场核大战世界都没了；还有一种可能就是被后来者驱赶。前两种都不在今天的讨论范围内，我们就讨论第三种，后来者应该具有哪一种能力或者属性是人类最害怕的？我算来算去，现在比人力气大的、跑的快的、看的远的、听的远的、人看不见它都能看见的，这些能力早就有了，但还不足以颠覆人类，超越人类，唯一有一种可能，那就是智能。

第二，如果可能超越人类的是智能，那宇宙的智慧会以人类智能为终极形态吗？说到底宇宙是有智慧的，我们人类本身就是宇宙产生的结果，宇宙产生了各种条件，让我们这么精妙的人得以产生。现在宇宙智慧是否到了人类智能，后面会不会有更高级的？

第三、更高级的形态是由人类创造的还是人类不断进化而来的？如果是人类不断进化而来的，那又是前面讲的，宇宙是否就有两个阶段？要是有取代的话又会怎么取代呢？会不会就是今天我们叫的AI来取代人类？如果真的是AI取代人类，以后人类许多解决不了的问题都解决了，比如说长命百岁的事情，机器比人类容易长命百岁。我们到别的星球去太远了，人类寿命抗不住；我们想移居一个星球，人类去不了，那边空气也没有，水份也没有。机器人就没有关系，所以我们面临的很多人类无法克服的困难，机器人都能克服。如果后来者不是由自然直接进化而来的，是通过人类间接演化而来的，那就是说后来的时代就由人类这个时代变化过来，如果要变化过来的话，我们今天就是在创造条件，让这个时代来得早一点。

第四，如果更高级的形态由人类创造而来，这个后来者与人类又是什么关系？是人类创造的，那么简单归结为人造物，还是人类的平行物或人类的超越物？过去我们搞那么多的机器都是人类的创造物，因为机器自己没有创造能力，可是如果有了创造力呢？我对AlphaGo的评价绝对不是说它赢了人，而是它有超越人类的计算能力，最后竟然发现了我们围棋里的大漏洞，人类为什么发现不了，因为我们计算能力不行，所以它是通过计算能力发现了人类发现不了的东西，这是可怕的地方，所以这样的东西是人类的创造物还是人类的平行物、人类的超越物，这很难说。

第五，如果人工智能是人类超越物，还能以人类为参照来衡量和要求吗？我们今天对人工智能的理解更有问题，好像一步一步走过来全是模拟人的，但是我们已经从符号主义的，用理性逻辑的方式来研究算法，研究今天人类怎么理性思考的，让机器人去模拟，我们模拟人是怎么来的。如果机器人也开始通过自我适应来进化的话，谁能控制进化的结果是什么？这就是个大问题了。所以到这份上，人工智能叫人工智能就有点不妥当了，我们宁可把它叫做机器智能，或者在文章里面直接叫无机智能。今天我们的智能都是有机智能，而我们用的AI是通过无机物形成的，如果无机智能真的形成的话，一定是超越了有机智能的。自我意识就是对自己在世界上短暂的觉悟，AI生命都没有，所以打仗的时候比人勇敢，不会死就不存在怕死的问题。

第六，如果机器智能或者无机智能超越人类，那人类还能控制它吗？其他力气比人大的，速度比人快的还是被人控制。如果超过人了人拿什么东西去控制它？法律管来管去就管两种能力，一种是暴力，一种是狡诈，暴力就是你不能用枪支，狡诈就是你不能欺骗。

第七，如果控制不了，人类能去控制自己不去控制和开发机器智能吗？我们立法规定哪些研究是不可能做的，实在要做的话就关起来，再不行的话就枪毙，但是今天科学家的好奇心控制得住吗？企业家的利益心控制得住吗？

第八，如果人类控制不了机器智能，也控制不了自己去开发机器智能，那人类的未来又当如何呢？我们看的是苗头，今天的苗头就是，人类在过去认为自己是万物之灵的一点上已经被超越了，不要告诉自己人工智能还很弱，它在很多方面已经超越人类，而且人工智能相互之间能够产生自己明白而人类不明白的语言，所以这样的迹象如果还不足以引起我们的警觉，那这个未来就很难说了。我最后说，我这儿只有问题没有答案，答案在每个人的内心之中，在人类的集体自觉之中，也在人类的宿命之中。

（本文为顾骏在2017年8月28日由上海市社联《探索与争鸣》杂志社和华东政法大学政治学研究院共同主办的“人工智能与未来社会：趋势、风险与挑战”学术研讨会上的主题发言，经本人整理。首发微信公号：tansuoyuzhengming，澎湃新闻经授权刊发）