斩断AI换脸等黑产产业链，监管层再次发力

国内的首个监管“AI换脸术”规定还要追溯到2019年，目的在于打击利用AI 技术制作的虚假音视频，控制此类“新型谣言”的传播。

最广为人知的，是2019年初，一段借助AI换脸技术制作的94版《射雕英雄传》大火，黄蓉饰演者朱茵的脸被换脸技术“偷天换日”变成了杨幂的，虽然五官大不相同，但换脸后的表情、动作却很自然流畅，一石激起千层浪，引发众网民哗然。

当年7月，媒体也对AI换脸黑产进行了走访调查，发现100元打包200部换脸情色片，囊括国内一二线女明星，5张照片就可以帮你定制换脸视频，400元就可以购买换脸软件及教程并包教包会……令人咋舌的交易之下，AI换脸黑产已经形成了完整的产业链。

单纯的换脸术并不让人过于担心，真正引起公众担忧的，是虚假视频+虚假音频的融合：各个“AI主播”的出现就是一个例证，两者一旦更加深度地进行融合，对于目前的音视频鉴定技术是一个巨大的考验。

近日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。

《规定》明确了深度合成技术服务提供者、使用者、应用程序分发平台等应承担的责任和义务，以及深度合成数据和技术管理规范以及监督检查与法律责任。其中提出，深度合成服务提供者和技术支持者提供智能对话、合成人声、人脸生成、沉浸式拟真场景等生成或者显著改变信息内容功能的服务的，应当进行显著标识，避免公众混淆或者误认。

“AI换脸”流行已久

在很多人的概念中，换脸可能还停留在P图的地步。然而，AI换脸技术已经能将动态视频中的人脸，替换成其他人的人脸，在深度伪造技术的助攻下，替换上的人脸不再是僵硬的五毛特效，而是富有表情神态，甚至到了肉眼难辨的境界。

据悉，AI换脸技术最早出现在2017年，也被叫做“深度伪造技术”。

2017 年，国外名为“DeepFakes”的用户在Reddit上发布了一个假视频，利用深度学习和AI 新技术将《神奇女侠》的扮演者盖尔·加朵的脸换到了成人电影上，从此AI 换脸技术逐渐泛滥成灾。

2019年，国内掀起“换脸”风潮。B站up主“换脸哥”将94版《射雕英雄传》的影视片段中朱茵的脸替换成杨幂，迅速在网上发酵并引发争议，B 站视频截止删除前点击量超出 20 万，微博话题阅读量 1.3 亿。

后来“AI明星换脸”成为一条灰色产业链。AI换脸泛滥的一个重要原因，是它能够被低成本低门槛地获取和运用。从一个AI换脸制作者那里了解到，“五分钟视频换脸100元”、“学教程2000元包教包会”、“进行一对一教学”、“不限视频内容”、“所有明星都能换脸”、 “大约一个星期就可以掌握AI换脸视频制作”。

后来，更坏的消息传来了——可以实时生效、作用于视频聊天的AI换脸技术也出现了！那些软件的使用很简单，进入到主界面后，即可看到当前摄像头捕捉的画面，以及软件的其他功能。

那些软件本身内置了很多人脸可选择，例如爱因斯坦、蒙娜丽莎、奥巴马乃至C罗等名人。你可以选择软件预设的人脸进行替换，也可以自己载入一张人脸照片来替换。

你的脸瞬间就变成了另一张脸，你做什么动作，这张人脸也会做什么动作，无论是眨眼、张嘴、点头等等，非常逼真。

监管加速 给黑产带上枷锁

可以说，“AI换脸”已经变成了很多黑产盈利的工具，不法分子能让明星“AI脱衣换脸”，那么，普通大众会不会遭受此害呢？面对愈演愈烈的“AI换脸”技术与工具，公众难免会对AI换脸滥用的担忧，什么情形下AI换脸会侵害当事人权利？如何依法规范AI换脸技术的使用？

除了文章开头提及，国家网信办、文旅部和广电总局等三部门再2019年联合发布了《网络音视频信息服务管理规定》，明确“利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的……应当及时采取相应的辟谣措施”等针对换脸技术的新规定。

当下，已实施的《民法典》又做出规定，换脸视频都需要以肖像权人同意为前提，否则即为侵权。而制作、复制、贩卖、传播淫秽视频，已经触犯了刑法。受害人可以依法进行维权。因此，未经当事人同意的AI换脸违法。

《民法典》第一千零一十九条明确规定：任何组织或者个人不得以丑化、污损，或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意，不得制作、使用、公开肖像权人的肖像，但是法律另有规定的除外。法律另有规定的五种情形，包括为个人学习等目的在必要范围内使用、新闻报道不可避免地使用、国家机关依法为依法履行职责使用等。这意味着，无论是普通公众还是明星，除了以上这五种情形，一切其他的换脸视频都需要以肖像权人同意为前提，否则即为侵权。

对于深度合成技术的监管，此前在《互联网信息服务算法推荐管理规定》《网络信息内容生态治理规定》等法规中均有提及。

2022年12月11日，国家互联网信息办公室、工业和信息化部、公安部联合发布《互联网信息服务深度合成管理规定》（以下简称《规定》），自2023年1月10日起施行。

深度合成技术涵盖了内容合成、人脸合成、语音合成以及虚拟人全身合成等技术类型，如今大热的AI作画、AI创作、AI换脸以及虚拟人制作等，都属于深度合成技术支持下的应用。

12月12日发布的《<互联网信息服务深度合成管理规定>答记者问》提到，《规定》出台主要基于多个方面考虑，一是深入贯彻落实党中央决策部署，进一步加强对新技术新应用新业态的管理；二是维护网络空间良好生态，避免影响传播秩序和社会秩序，损害人民群众合法权益，危害国家安全和社会稳定。三是促进深度合成服务规范发展，明确各类主体的信息安全义务。

此次出台的《规定》，则对深度合成内容更有针对性地进行规制，也标志着监管部门针对互联网信息内容监管版图的进一步细化。

“和之前相对碎片化的法规相比，新规的针对性非常强，且全链条管理。”世辉律师事务所合伙人王新锐对界面新闻记者表示，《规定》通过一系列的管理制度要求来管控深度合成带来的风险。

最后

标识可以让受众明白内容是否属于深度合成，一定程度上可以减少深度合成内容产生的社会偏差。对于技术支持公司来说，对输出内容增加标识难度不大。不过，对于平台型公司而言，如何识别出不同上传者的深度合成内容标识将成为一个难点。

随着AI技术的不断发展，相关法规会逐渐完善，针对Deepfake等的检测技术也会变得越来越准确、高效。