图灵奖得主Bengio：关于AI的未来，哪些判断是靠谱的

关于人工智能的未来发展，常常出现各种令人兴奋或害怕的预言。

如近日，谷歌创新部门前商业总监Mo Gawdat表示，“我们不会在下个世纪经历 100年的AI进步：相反，我们将经历2万年的进步。”

未来学家伊恩·皮尔逊(Ian Pearson)曾于迪拜举行的世界政府首脑峰会期间表示，人工智能可能比人类聪明数十亿倍，将来人类要想继续生存，必须要与计算机进行整合。

马斯克也曾表示，人类将来需要与机器相结合，成为一种“半机械人”，从而避免在人工智能时代被淘汰。

对于如此多令人眼花缭乱、难辨真假的预测，应该如何思考分辨呢？

“这种预测越是准确，就越是要警惕。”近日，2018年图灵奖得主Yoshua Bengio在自己的博客中写道。

2018年图灵奖得主Yoshua Bengio

Yoshua Bengio是蒙特利尔大学教授，最被广为知晓的是他在深度学习方面的开创性工作，他与Geoffrey Hinton和Yann LeCun一起赢得了2018年图灵奖。2019 年，他获得了加拿大国家最高科学奖“基拉姆奖”，并于2021年成为世界上被引用次数第二多的计算机科学家。

Bengio认为，现实情况是，最好的AI研究人员无法认真做出这样的预测，除非他们将其视为科幻电影的一部分。不仅AI研究人员对AI未来的发展步伐没有达成共识，而且做出这样的预测也没有科学依据。科学研究可以在特定问题上停滞很长时间（比如物理学中所有力量的统一），或在突破之后取得快速进展（比如深度学习）。

那么，哪些事情是我们当下可以很有把握做出判断的呢？

Bengio列出了以下几点：

· 可以构建像人类一样聪明的AI。我们的大脑是复杂的机器，其工作原理正变得越来越好理解。我们是活生生的证据，证明某种程度的智能是可能的。

·构建比人类更聪明的AI是可能的。人类有时会受到认知偏见的困扰，这些偏见阻碍着人类的祖先向智人进化过程中可能需要的推理能力。而我们可以合理假设，我们将能够构建出没有这些缺陷（如需要社会地位、自我或属于一个群体，毫无疑问地接受群体信仰等）的人工智能。此外，人工智能可以访问更多的数据和内存。因此，我们可以自信地说，构建比人类更聪明的人工智能是有可能的。

·尽管如此，现在也还远不能确定我们是否能够像一些文章所声称的那样构建比我们自己更智能的AI。各种计算现象都遇到了指数级的难度墙（臭名昭著的NP计算难度），而我们还没有发现智能的极限。

·人类智能和人工智能科学越进步，它就越有可能为社会带来巨大的利益和危险。人工智能的应用可能会增加，总体上可以极大地推动科学和技术的发展，但工具的力量是一把双刃剑，必须制定法律、法规和社会规范，以避免或至少减少这些工具的滥用。

·为了防止被权力、金钱或仇恨欲望蒙蔽的人类利用这些工具损害其他人类，我们无疑需要改变法律并在机器中引入同情心，同时也要加强人类固有的同情心。

· 由于我们真的不知道人工智能或其他领域（例如生物技术）的技术进步会有多快，因此最好立即着手更好地监管这些强大的工具。事实上，人工智能已经存在有害用途，无论是在军队中的使用，如可以识别某人的脸并进行射击的杀手无人机，还是在人工智能系统中做出有偏见的决定并歧视女性或部分种族的人。一般来说，对计算的监管很差，必须改变这一点。我们必须规范这些新技术，就像我们对航空或化学所做的那样，以保护人类和社会。

· 此外，应该鼓励对社会明显有益的人工智能应用，无论是在健康、应对气候变化、反对不公正还是增加获得知识和教育机会。在所有这些领域，政府可以发挥关键作用，将人工智能研究和创业的力量引导到对社会有益的应用，因为在这些应用中，盈利的愿望并不总是足以刺激所需的投资。