聚焦AI治理｜争鸣：人类能否掌控能力强大的通用人工智能？

“通用人工智能可能无法被治理，因为传统的责任分配和惩罚执行方法并不适用。”

近日，美国路易斯维尔大学教授罗曼·扬波尔斯基（Roman Yampolskiy）就人工智能治理问题接受了澎湃新闻（www.thepaper.cn）记者专访。

他认为，在某些重要方面，我们无法治理比人类更聪明的人工智能。“一个能力强大、富有创造力且不受控制的通用人工智能最终可能会隐式甚至明确地控制管理此类智能软件的一些机构和个人。”

罗曼·扬波尔斯基是美国路易斯维尔大学网络安全实验室的创始人和主任，著有《人工超级智能：未来的方法》等书籍。他的主要研究兴趣有人工智能安全、模式识别、生物行为识别等。扬波尔斯基曾受邀出席2020年首届清华大学人工智能合作与治理国际论坛。

通往通用人工智能的尝试

通用人工智能（ Artificial general intelligence，简称AGI），有时也被称作强人工智能，它所描述的机器智能可以理解或学习人类所能完成的任何智力任务。

多智能体系统教父、牛津大学计算机科学系主任Michael Wooldridge在接受澎湃新闻（www.thepaper.cn）采访时表示，如果我们能构建具有人类全部能力和智力的程序，那我们就将实现通用人工智能。但当前，“我们连通用人工智能的皮毛都还没有碰到”。

关于人工通用智能能否实现、何时实现的问题，业内有不同的观点。部分人工智能学者认为，人工通用智能的概念并不严肃，在实践中基本不可能实现。另一些人则十分看好人工通用智能的发展，认为它有可能塑造人类的发展轨迹。

例如，图灵奖得主拉吉·雷迪（Raj Reddy）认为，研究通用用途的人工智能毫无用处。“用AI能开发出的东西是无穷无尽的，但研究人员应专注研究如何用AI增强人的能力，而不只是增强AI的能力”。 清华大学类脑计算中心主任施路平则表示，从未来发展的角度看，人工通用智能是一个必然的趋势。

尽管学界对是否应发展通用人工智能存在分歧，科研公司和高校已经开始相关尝试，通用人工智能的伦理问题也日渐显现。

2019年7月，微软宣布向非营利性人工智能研究公司OpenAI投资10亿美元研发人工通用智能。2019年8月，清华大学在学术期刊《自然》发表《面向人工通用智能的异构天机芯片架构》研究。2021年1月，谷歌和微软相继在一份权威自然语言理解榜单中表现超越人类，微软宣称这“标志着迈向通用人工智能的重要里程碑。”

政府的监管尝试可能是徒劳

在采访中，扬波尔斯基介绍，为了使未来的人工智能造福于全人类，针对人工智能的治理计划试图通过建立监管框架和行业标准等方式，使人工智能可以被各国政府、国际组织和跨国公司控制。

但他指出，直接治理人工智能是没有意义的，“‘人工智能治理’这个术语暗示的是，通过规定允许开发什么样产品和服务以及如何开发，来管理人工智能研究员和创造者”。

他认为，无论对从事人工智能研究的科学家和工程师实施何种管理，都取决于创建人工通用智能（AGI）的难度。

“如果创造通用人工智能所必需的计算资源和数据收集工作，在资金和人力资本方面与美国的曼哈顿计划（美国研制原子弹的计划）相当，那么各国政府就有许多‘胡萝卜加大棒’，可以用来指导研究人员，并按照自己的规范塑造未来的人工智能。”

但另一种情况下，他分析道，如果有更有效的方法来创造第一个通用人工智能，那么政府的监管尝试可能是徒劳的。“例如，一个青少年在车库里用一台价值仅1000美元的笔记本电脑创造出第一个通用人工智能。虽然可能性很小，但这种情况也需要考虑。”

总而言之，“历史上，很多对软件治理的尝试，例如垃圾邮件、计算机病毒和深度伪造技术（Deepfake）等，都只取得了非常有限的成功。而作为一个独立代理，通用人工智能可能无法被治理，因为传统的责任分配和惩罚执行方法并不适用。”

扬波尔斯基认为，即使遇到第一种情况，即创造通用人工智能需要密集的资源，我们仍然对人工智能的可预测性、可解释性和可控制性存在一些既定的技术限制。“至少需要这三种能力才能够部分实现对人工智能的成功监管，这也就意味着，在某些重要方面，我们无法治理比人类更聪明的人工智能。”

“最后，即使AI治理是可以实现的，那些负责人也可能不愿意为AI的失败承担个人责任。因此，一个能力强大、富有创造力且不受控制的通用人工智能最终可能会隐式甚至明确地控制管理此类智能软件的一些机构和个人。”