AI制作“深伪”色情图像激增，白宫呼吁企业加大力度打击

据《参考消息》网站25日援引美联社23日报道，美国政府正在敦促科技行业和金融机构关闭越来越庞大的利用人工智能（AI）制作色情图像的市场。

报道称，新出现的生成式人工智能工具可以轻松将一个人的肖像转换成色情图像，便于这些逼真的深度伪造图像在聊天室或者社交平台上传播。受害者无论是名人还是儿童，都几乎没有办法阻止这种行为。

美联社报道称，白宫于23日发出呼吁，希望企业在立法不力的情况下自愿合作，承诺采取一系列具体措施制止有关犯罪行为。白宫官员表示，希望企业能够遏制此类未经同意的人工智能图像（包括儿童的露骨图像）的制作、传播以及获利行为。

“随着生成式人工智能的出现，每个人都在猜测第一个真正的危害会来自哪里。我认为我们已经找到了答案。”拜登的首席科学顾问、白宫科技政策办公室主任阿拉蒂·普拉巴卡 (Arati Prabhakar) 说。

一份由白宫授权发布的文件显示，美国政府的呼吁对象不仅包括人工智能开发商，还有支付处理商、金融机构、云计算提供商、搜索引擎和控制移动应用商店内容的“互联网看门人”——即苹果和谷歌等决定手机软件能否进入应用商店的公司。

生成式人工智能的蓬勃发展导致大量深度伪造的色情作品出现，受害者包括一线明星和普通公民。英国《卫报》报道称，人工智能生成的未成年人图像和深度伪造作品也在校园中流传。在美国佛罗里达州，两名中学生因利用AI制作同学裸照而被捕。目前，美国多个州已通过法律，禁止未经同意利用AI生成露骨图片。美国司法部则表示，生成深度伪造的儿童色情图像属于违法行为。

另据英国《卫报》报道，儿童安全倡导者和人工智能研究人员警告称，恶意使用生成式人工智能工具可能会导致伪造儿童性虐待案件的举报材料激增。2023 年，美国国家失踪与受虐儿童中心(NCMEC)收到的儿童虐待报告比上一年增加了约12%，部分原因是AI制作的伪造材料急剧增加。该机构表示，这可能将导致举报热线不堪重负。