问吧精选｜爆火一天却被灭，玩ZAO的你被ZAO玩了吗？

想与偶像谈情说爱？想和戏骨同框飙戏？“ZAO”帮你实现梦想——仅需一张照片，出演天下好戏！

这款名叫“ZAO”的换脸软件，在过去这个周末横空出世，满足了广大戏精和粉丝的日常幻想。

用户只需上传一张自拍照，就可以替换赵丽颖、李现、赵薇、吴亦凡等一众大明星的面孔，生成以自己为主角的视频片段。

从《小欢喜》到《亲爱的热爱的》，从《还珠格格》到《甄嬛传》等，就连日剧、韩剧、经典电影中的各种情景也都包含其中。

于是问吧君的朋友圈，大概有6个李现女友，5个玛丽莲梦露、4个花千骨和3个吕秀才，俨然一出戏精大赛。

然而，痛快地玩耍了一通之后，网友们开始冷静下来，这样做真的安全吗？自己的个人信息会不会泄露？在刷脸支付盛行后会不会被盗用？

▍本期问吧题主

我是极棒实验室安全研究员宋宇昊，毕业于上海交通大学信息安全专业，在信息安全行业从业十年，研究方向主要包括移动互联网、物联网、人工智能等领域。从起初的采集上千张照片、运行代码进行换脸，到现在仅需在手机APP上传一张照片就能换脸。换脸变得越来越便利，但值得关注的是，人脸识别已经成为实名认证的辅助，AI换脸的隐私安全风险到底有多大？欢迎大家和我一起探讨！

▍AI换脸成风，个人隐私何处安放？

@ 王民州：Al换脸的隐私安全风险到底有多大？

宋宇昊：AI换脸技术的风险主要不在于对隐私的侵害，因为它获取的是人脸图像，而大多数场景中人脸图像是公开的信息。

@ 我的一个澎友：换脸后，可以骗过刷脸支付等场景吗？？

宋宇昊：不排除可能某些低质量的刷脸支付方案能被屏幕中播放的人脸视频欺骗，但早有成熟技术可以抵抗这种攻击，比如苹果手机上的FaceID就通过发射出结构光扫描3D人脸形态，2D视频无法欺骗这种技术。主流刷脸支付厂商也都宣传使用了类似的技术。

@ 圣域光影：我觉得各种诈骗犯又多了一个工具，你怎么看？

宋宇昊：没错，技术是双刃剑。

@ 澎湃网友EjmY7j：不仅仅是个人隐私吧？会不会引发犯罪呀？

宋宇昊：没错，相比隐私问题，技术滥用可能造成的危害更大。换脸视频可能被用于网络暴力、报复、欺诈、传谣等不良目的。就算是经过严格审核的健康视频，特定的场景也能对特定人物形成侮辱。因此对于AI换脸技术，相应的法规与道德约束是必要的。

@ 周星星：支付宝的刷脸是否危险了？另外声音能模拟出来么？

宋宇昊：声音、图像、视频都能被合成模拟，近几年来伪造越来越便捷，但这不是一类新出现的风险。因此对于成熟的产品而言，从技术上会有一定的对抗防御手段；从流程设计上，验证机制不单独依赖刷脸或语音，而是多因素组合。

@ 熊：会不会留下什么隐患？

宋宇昊：就和任何互联网上的网站、APP一样，任何信息只要上传到网上（服务器上），它就不在用户的控制范围内了。在服务器上会不会保存、保存多久、怎么处理，这是完全是由服务商决定的。因此在上传任何信息之前，先思考：这服务商自身会不会作恶、它有没有能力保护好用户数据、这信息适不适合透露给他人。

▍AI换脸真的一无是处？

@ 晨曦：您好，请问这种AI换脸的创新是基于什么目的？这种应用潜在的风险是显而易见的，且不可控、层出不穷。正面的积极意义在哪里呢？

宋宇昊：视频换脸技术最初的应用场景是影视作品的制作，将某些无法真实出演的角色（比如已经逝世）替换到影片中。随着近年AI技术的发展，视频换脸已经不必找好莱坞专业工作室，而是可以由个人用户很方便地制作。因此可能会衍生出其他应用场景，比如朋友圈分享娱乐、个性化的广告、虚拟试衣……

@ 我的一个澎友：换脸app技术上实现起来难吗？

宋宇昊：由于有开源项目，可以借鉴别人的源代码，自己做一个换脸应用并不困难。但目前开源项目需要用几百上千张照片或者视频截图，训练几个小时，才能获得比较好的换脸效果。而要实现一张照片快速生成，是需要技术实力做出很多改进的。

▍拿什么来保护用户的安全？

@ 吾悠：用什么来约束用户协议里的各种陷阱？

宋宇昊：用户协议格式条款中，如果有无效条款的情形，这用户协议是没有法律效力的。法律法规应使侵害用户权益的霸王条款落入无效条款的范畴。

@ 不巴啦啦的一棵树：AI换脸从法律意义上无疑讲给了相对方非常具有可信度的意思表示，这意味着从事法律活动不得不具备更加审慎的注意能力。但是甄别这样的技术绝非普通公民甚至部分商主体可以做到，换言之，这是对民法重视探寻民事主体内心真实表示，注重保护交易自由保持市场活力的立法本意的不小触动。如果立法决定规制此类换脸对于法律关系的破坏行为，现在的技术能否进行普及性的支持、有效的遏制？

宋宇昊：鉴别AI换脸视频就如同鉴别伪造图片一样，对于普通公民不是轻易能做到的，但是在司法中由专业人员能够甄别（针对当前AI换脸技术水平）。对非专业人员而言，这意味着需要更新常识，不能再默认视频是真实可信的，就如同多年前随着PS、美图等工具的普及，大家已经不再默认图片是可信的。

听宋老师如此解答一番，网友们似乎可以稍松一口气。但小编还是要提醒大家，换脸有风险，玩耍需谨慎，毕竟大家都是“要脸的”。