【网络安全】 AI换脸、换声背后的技术——深度合成

深度合成

1

深度合成技术是什么？

深度合成技术，是指利用深度学习、虚拟现实等生成合成类算法制作文本、图像、音频、视频、虚拟场景等网络信息的技术。

2

深度合成技术可以干什么？

凭借深度合成技术可以实现换脸、人脸合成、语音合成、视频生成甚至数字虚拟人等诸多应用。

（图为AI换脸)

(图为语音合成）

（图为人脸合成）

例如我国首个原创虚拟学生“华智冰”、虚拟偶像“洛天依”、抖音“柳叶熙”、冬奥手语播报数字人“小聪”等等。

（图为数字虚拟人）

3

深度合成技术有没有隐患？

有一定隐患。深度合成技术强大的仿真能力也会引发技术作恶和技术滥用的担忧，例如金融诈骗、隐私侵权、恶意诋毁甚至威胁到公共安全。

目前，已有新型诈骗手段。不法分子在进行电信网络诈骗时用到AI换脸、AI换声等深度合成技术。

4

我们怎么办？

为深度合成技术健康发展，国家互联网信息办公室制定《互联网信息服务深度合成管理规定》自2023年1月10日起施行。

面对利用深度合成技术这种新型诈骗手段时，我们需要加强个人信息保护意识，尤其在涉及钱款时，要进行多重验证，确认身份。一旦发现风险或被骗，及时报警求助！

原标题：《【网络安全】 AI换脸、换声背后的技术——深度合成》

阅读原文