全球智点·全球发展倡议丨新加坡研究所认为需加强对人工智能在政治选举中监管

编者按：百年未有之大变局，全球风险急剧上升。各个国家和地区如何求生存，谋发展，搞竞合，争未来？谁来指南找北？2021年，中国提出全球发展倡议，聚焦减贫、粮食安全、抗疫和疫苗、发展筹资、气候变化和绿色发展、工业化、数字经济、互联互通等八大领域国际合作，是对上述问题提出的“中国答案”。在八大领域内，世界各国智库各显神通，仰观俯察，深思熟虑，出谋划策。北京大学区域与国别研究院特开辟全球智点·全球发展倡议卡片专栏，以极简方式提炼要点，为促进全球发展倡议下各领域国际合作提供智力支持。同时，也欢迎读者循例投稿，形成全球智点·全球发展倡议的爆炸式扩散效应。

标签：#人工智能/政治选举

观点：2024年印度尼西亚大选表明人工智能可能会破坏政治选举的公正性，各国应在信息供应链的每一环节中规范人工智能生成的政治内容，并制定打击虚假信息的有效策略。

背景：印度尼西亚2024年大选凸显人工智能对民主进程日益增长的影响力。

2010年，人工智能被初次应用于竞选活动，脸书等社交媒体平台采用人工智能驱动的算法来构建用户社群并精准投放政治广告。随着第二代生成式人工智能技术的迅速发展，其在民主政治选举中的应用方式发生了重大变化。印度尼西亚2024年2月的选举展现出人工智能改变选举规则、选民行为及重塑选举格局的潜力，引发了人们对未来选举公正性和社会两极分化的担忧。

内容：利用人工智能生成的高度个性化的政治内容操纵选民心理和行为，深刻改变了印度尼西亚的政治选举格局。具体而言：

1. 深度伪造视频展现人工智能影响政治叙事的潜力。竞选期间，印度尼西亚两位总统候选人的深度伪造视频在网上传播，分别为普拉博沃用阿拉伯语发表演讲和纳斯民主党主席苏里亚·帕洛斥责阿尼斯的视频。研究发现18%的人相信视频是真实的，揭示了人工智能传播虚假信息、误导公众对政治事件认知的可能性。

2. 人工智能通过创造漫画图像重塑候选人的政治形象。在此次竞选中，人工智能为普拉博沃量身设计了一个胖乎乎的卡通形象，将他原本威严且带有恐吓色彩的前军事将领形象转变为一个可爱、极具亲和力的Z世代偶像，从而帮助其获得选民的喜爱和支持。

3. 人工智能赋能的网站和应用程序可以增强候选人与选民之间的情感连结。在竞选期间，普拉博沃数字团队开发了人工智能平台和媒体应用程序，支持者可以轻松生成自己与候选人的虚拟合影，拉近了双方距离，营造出一种亲密感和归属感。然而实现该操作需要获取用户的个人信息，引发了对数据滥用和隐私保护问题的讨论。

图源：新加坡尤索夫·伊萨东南亚研究所（Fulcrum）
https://fulcrum.sg/election-integrity-in-the-age-of-artificial-intelligence-lessons-from-indonesia/

建议：需尽可能确保人工智能的公正性。

1. 强制要求对人工智能生成的政治内容和广告进行明确标注。此举有利于加强对社交媒体公司的问责，可以有效增强透明度及公众的辨识能力，让选民能够在准确辨别和充分知情的基础上做出明智的决策。

2. 制定相关法规，强化对信息从创建、传播到接收这一全链条的监管。其中，需要特别关注信息链上游虚假信息的传播，并针对加速此类内容扩散的生成式人工智能技术制定严格的指导规范。

3. 研究人员亟需获取更多来自社交媒体公司的数据和算法资源。这将帮助研究者更好了解虚假信息对选举的影响，从而制定有效的打击策略。

来源：Nuurrianti Jalli & Maria Monica Wihardja, 《人工智能时代的选举诚信：印度尼西亚的经验教训》，新加坡尤索夫·伊萨东南亚研究所（Fulcrum），2024年6月25日，https://fulcrum.sg/election-integrity-in-the-age-of-artificial-intelligence-lessons-from-indonesia/

整理者：刘烜弟，北京大学区域与国别研究院全球智多星团队成员。