全球智点·全球安全倡议丨美智库警示人工智能合成媒体带来的信息信任危机

编者按：百年未有之大变局，全球风险急剧上升。各个国家和地区如何求生存，谋发展，搞竞合，争未来？谁来指南找北？世界各国智库各显神通，仰观俯察，深思熟虑，出谋划策。北京大学区域与国别研究院特开辟全球智点卡片专栏，以极简方式提炼要点，全球智点，一卡在握。同时，也欢迎读者循例投稿，形成全球智点的爆炸式扩散效应。

标签：#人工智能/合成媒体/信息安全

观点：合成媒体的发展对全球安全、经济带来多方面挑战，需要世界从技术研发、公众教育、国际合作等多个方面入手才能应对人工智能带来的威胁。

背景：人工智能合成媒体的兴起创造了高度仿真的虚假内容

1.近年来，危险分子日益倾向于利用合成媒体——一种由人工智能生成或操控的数字内容——来加剧其欺骗性活动。这些活动不仅范围广泛，而且随着合成媒体的技术进步而频率增加，对全球各地的个人与组织造成了日益严重的伤害。合成媒体形式多样，包括文本、图像、音频和视频等，随着人工智能技术的飞速发展，创建高度仿真的合成内容所需的数据量、计算能力及成本均大幅下降，使得制造逼真数字内容变得轻而易举，几乎人人可为。

2.合成媒体的滥用问题已深刻影响到美国的信息环境稳定与韧性，构成了前所未有的挑战。它不仅侵蚀了个人的名誉权与隐私权，还严重削弱了公众对信息的信任基础，进而可能激化社会矛盾，诱发政治危机。特别是在选举周期中，利用AI生成的虚假内容能迅速扩散错误信息，混淆选民视听，直接干扰选举公正性。此外，合成媒体还被广泛应用于军事欺诈、网络攻击、间谍渗透及秘密监视等多个敏感领域，对国家安全屏障与国际秩序稳定构成了隐蔽而深远的潜在威胁。

Photo: Di Studio | gsshot | andriano_cz/Adobe Stock

内容：人工智能合成媒体引起的信息信任危机

1.人类检测能力的退化

CSIS（美国战略与国际问题研究中心）的一项实验研究显示，人类区分真实媒体与合成媒体的能力正显著下降。随着人工智能技术的持续进步，即便是经过专业训练的人员也难以精确辨识合成内容。这一现状表明，传统依赖人类感官判断内容真实性的方法已逐渐失效，迫切需要开发新的应对策略以应对这一新兴的安全挑战。

2.合成媒体的多领域应用

·政治领域：合成媒体被用于制作政客或公众人物的虚假视频，用以批评对手、承诺政策变动，从而在选举周期内制造混乱与不确定性。

·军事领域：通过生成高度逼真的战场模拟和虚假情报，合成媒体在军事欺骗中扮演关键角色，旨在干扰敌方的战略判断与决策过程。

·经济领域：AI生成的虚假金融信息、广告，以及利用合成媒体进行的身份盗用和诈骗活动，对全球经济安全构成了重大威胁。

·社会领域：合成媒体还被广泛用于散布虚假新闻、制造社会恐慌、煽动不满情绪，严重破坏了社会的稳定与和谐。

3.合成媒体对信息信任的威胁

合成媒体的泛滥已深刻影响了公众的信息信任体系。面对真实与虚假的界限日益模糊，人们对所有信息的信任度普遍下滑。这不仅削弱了媒体机构和政府的公信力，还可能加剧社会分裂，促进极端主义思想的蔓延。从长远来看，这一趋势将对全球的稳定与发展构成不容忽视的重大挑战。

建议：从技术、管理、教育、合作等多个维度加强对信息环境的保护

1.加强技术研发与创新：

为应对合成媒体带来的挑战，应加大对先进检测技术和工具的研发投入，提升人工智能对合成内容的识别精度。同时，推动构建AI技术的伦理规范和法律框架，确保技术的健康发展与合理应用，平衡技术进步与社会伦理的关系。

2.提升公众教育与意识：

加强公众教育，通过举办讲座、研讨会、在线课程等多种形式，普及合成媒体相关知识，提升公众的信息识别能力和媒介素养。引导公众理性看待AI技术，培养批判性思维，增强自我保护意识。

3.加强国际合作与监管

建立跨国界的合作机制，共同打击利用合成媒体进行的非法活动，加强国际间的信息交流和情报共享，提升协同应对跨国威胁的能力。推动制定国际性的合成媒体监管标准和法规，为各国提供法律指导和制度保障，促进全球信息环境的稳定与安全。

4.推动行业自律与责任担当：

鼓励AI和合成媒体行业加强自律，制定并遵守行业规范和道德准则，建立自我监管机制。推动相关企业积极履行社会责任，参与合成媒体治理和公益事业，共同维护全球信息环境的健康与安全，促进技术的可持续发展与社会福祉的增进。

结论：人工智能与合成媒体的快速发展带来了前所未有的机遇和挑战。面对合成媒体带来的种种问题，我们需要从技术研发、公众教育、国际合作和行业自律等多个方面入手，共同构建一个健康、安全、可持续的信息环境。只有这样，我们才能确保AI技术的健康发展，为全球的繁荣与稳定贡献智慧和力量。

来源：《穿越Deepfake Rubicon》，美国战略与国际问题研究中心，2024年11月1日，https://www.csis.org/analysis/crossing-deepfake-rubicon

整理者：马瑞，中央戏剧学院本科生