全球智点·全球安全倡议丨英国智库呼吁重视科学家在全球人工智能安全中的作用

编者按：百年未有之大变局，全球风险急剧上升。各个国家和地区如何求生存，谋发展，搞竞合，争未来？谁来指南找北？2021年，中国提出全球发展倡议，聚焦减贫、粮食安全、抗疫和疫苗、发展筹资、气候变化和绿色发展、工业化、数字经济、互联互通等八大领域国际合作，是对上述问题提出的“中国答案”。在八大领域内，世界各国智库各显神通，仰观俯察，深思熟虑，出谋划策。北京大学区域与国别研究院特开辟全球智点·全球发展倡议卡片专栏，以极简方式提炼要点，为促进全球发展倡议下各领域国际合作提供智力支持。同时，也欢迎读者循例投稿，形成全球智点·全球发展倡议的爆炸式扩散效应。

标签：#人工智能/国家安全/全球治理

观点：科学家之间开展的非政治化对话有助于提升全球人工智能安全合作的包容性。

背景：当前人工智能安全是高度政治化的，各国治理模式存在巨大分歧。

1．各国对于人工智能安全的定义、标准和实现手段等方面存在分歧。随着各国纷纷推出各自的人工智能治理模式，有关于“安全”的分歧和冲突愈发显著，这反映出了不同的政治价值观和优先事项偏好。

2．欧美国家遵循基于风险、以人为中心的治理模式，这种模式植根于人权和民主价值观，但各国在如何界定风险水平以及划定人工智能模型开发者的义务等方面仍然存在差异。中国则更为明确地主张从国家主权、社会稳定以及国际数据安全等角度来定义和实现人工智能安全。

3．随着科学技术的发展，人工智能安全的标准也在不断更新。此外，单一国家的治理模式尚不足以应对日益加剧的跨境风险，因此各国的治理模式之间进行协调和互鉴是尤为必要的。

图源：Chatham House（英国查塔姆研究所）

内容：国家主导的全球治理深受政治化影响，而科学家主导开展的交流更有利于提升全球人工智能安全合作的包容性。

1．科学家们在解决全球性问题上一直发挥着重要作用。这主要在于科学家是坚持证据导向的，其相较于政治领导人而言更愿意表达不确定性和敏感性问题。科学家之间的对话合作有可能减弱全球人工智能安全的政治化，有助于提升该议题的包容性。然而，这些交流和对话在未来是否能真正发挥作用，还将取决于它们的研究结果如何被引导到具体的政策制定之中。

2．全球科学家围绕人工智能开展知识分享。在著名的人工智能科学家约书亚·本吉奥（Yoshua Bengio）教授的领导下，全球科学家共同撰写了《关于先进人工智能安全的国际科学报告》（International Scientific Report on the Safety of Advanced AI），该报告于5月份在首尔举行的人工智能峰会上发布。这意味着各国在人工智能安全的合作和国际共享的科学理念上实现的历史性跨越。

建议：应当在制度安排、开放平台以及独立性等方面积极创造条件，促进科学家更好地推动人工智能安全国际合作。

1．完善人工智能安全合作的国际制度安排。建立从科学到政策的有效机制，使得人工智能政策制定者能够从科学家的包容性努力中受益。

2．增强高级别国际会议的开放性。当前人工智能的国际会议仍然由少数国家、公司和技术领袖所主导，未来应向更多科学家敞开大门，以纳入更加多样化的专业知识以及更多国家参与。

3．维护科学家发挥作用的独立性。科学家并非天生不受政治影响，部分科学家在自身观点中带入了政治偏见。因此需要保障科学家免于政治压力的胁迫，这有助于提出关于全球性风险状况的可靠性、共识性认知。

来源：《科学家可以在全球范围内推动人工智能安全合作》，英国查塔姆研究所（Chatham House），2024年7月19日，https://www.chathamhouse.org/2024/07/where-scientists-can-move-needle-global-ai-safety-collaboration

整理者：李添翼，北京大学区域与国别研究院全球智多星团队成员