当“深度伪造”技术发展到“以假乱真”，事实与虚构的界限在哪？

“深度伪造”技术，近十年来稳步发展。这种技术能完全创造出虚构人物，超越传统的编辑软件和好莱坞使用的昂贵特效工具，将事实与虚构的界限模糊到了非凡的程度。

在中国，人工智能公司已经开发了超过五年的深度伪造工具。在2017年的一次宣传噱头中，中国公司科大讯飞在一次会议上制作了当时的美国总统特朗普用普通话讲话的深度伪造视频。

善金局TAKEAWAY

• 人工智能公司开发的深度伪造工具已经能够制作具体虚拟人物，引发了虚假信息传播的担忧。

• 深度伪造技术的使用变得越来越容易和广泛，需要监管来遏制其滥用，特别是在政治和社会领域。

• 虚假内容的出现并非一定是恶意的，有人认为它们反映了人类创造性和社交互动的一部分，呼吁更深入地理解其文化和社会意义。

“就像写邮件一样简单”

在另外两段视频中，两位主播的声音听起来很生硬，与嘴部的动作也不同步。他们的面部僵化，头发看起来不自然地贴在头上。字幕中充满了语法错误。这两位播音员，是一个名为“Wolf News”的新闻机构的虚拟主播。他们的视频被机器人账户在Facebook和X上用来散布政治消息。

Graphika是一家研究虚假信息的研究公司，将两位虚假的Wolf News主播与Synthesia的技术联系起来。这是一家位于伦敦牛津马戏团上方服装店的人工智能公司。

这家成立五年的初创公司制造了用于创建深度伪造虚拟形象的软件。客户只需输入一个脚本，然后由Synthesia工具制作的数字演员来朗读。

Synthesia表示，人工智能虚拟形象是人的“数字孪生”，基于雇佣演员的外观，并能以120种语言和口音进行交流。它提供了超过85种不同性别、年龄、种族、声音音调和时尚选择的角色。

其中一个人工智能角色名为George，看起来像一位经验丰富的商业高管，拥有灰白的头发，穿着蓝色西装外套和浅蓝色衬衫。另一个虚拟形象Carlo，戴着安全帽。而Samuel穿着像医生们所穿的白大褂。（客户还可以使用Synthesia创建基于自己或已获得许可的他人的虚拟形象。）

人工智能生成的Synthesia角色用于

各种营销和类似活动的例子

该公司的软件主要被客户用于人力资源和培训视频，不需要精致的后期编辑，制作品质就已经能满足大部分需求。这款软件的成本低至每月30美元，可以在几分钟内制作出视频。而在以前，这通常需要几天时间，并需要雇佣视频制作团队和真人演员。

Synthesia在其网站上表示，整个过程“就像写电子邮件一样简单”。

看得见的危险

由于很少有法律来管理这项技术的传播，虚假信息专家长期以来一直警告说：深度伪造视频可能进一步削弱人们在线上辨别真实与伪造的能力，被滥用来引发政治丑闻和网络诈骗。

Synthesia的联合创始人兼首席执行官Victor Riparbelli表示，Graphika发现的用Synthesia技术创建的两位虚拟新闻主播违反了其服务条款：公司的技术不得用于“政治、性、个人、犯罪和歧视性内容”。Riparbelli先生拒绝透露Wolf News视频背后人物的信息，但他表示这些账户已被暂停。

Riparbelli先生说，识别虚假信息将变得更加困难。他补充说，最终深度伪造技术将变得足够先进，可以“在笔记本电脑上制作好莱坞电影，而不需要任何其他东西。”

斯坦福大学的研究人员开发的技术，可以使用任何标准网络摄像头捕捉自己的面部动作并将其实时放到目标视频上

在中国，各地曝出多起人工智能“辅助”诈骗案件。近期，包头市警方通报了一起利用人工智能技术实施的诈骗案件。在这起案例中，郭先生在短短10分钟内被诈骗430万元。通过智能Al换脸和拟声技术，一位冒充的“好友”通过微信视频联系郭先生，请求借用其公司账户转账430万元作为保证金。

随着人工智能技术的广泛应用，诈骗的精准性、迷惑性和隐蔽性都在增加。这为公安、检察等执法机关在侦查、收集电子证据以及认定和处理案件方面带来了新的挑战和困难。

有人在深度伪造中

看到了连接

Walter Scheirer是一位来自圣母大学（University of Notre Dame）的计算机科学家和媒体取证专家，他在指导学生在互联网上搜寻经人工智能处理的视频案例时，发现整个互联网充斥着虚拟人。

Scheirer的学生们找到了各种Meme（通过网民的模仿而复制和传播的文化片段），包括铺天盖地的换脸视频——尼古拉斯·凯奇出现在每部电影中；乔·拜登、特朗普和奥巴马一起玩《使命召唤》。Scheirer认为这些内容并非用来破坏，而是为了建立圈层的某种联系和共鸣。

Walter Scheire认识到了人们普遍追求创作神话的本质，无论是在书页上还是在互联网上

Scheirer在他最新出版的著作《互联网上的虚假事物历史》中提出：当代的深度伪造技术继承了早期讽刺和幽默的精神，体现了人们以创造性方式对现实世界进行评论和模仿的传统。他把互联网上的虚构内容视为人类叙事和神话创造本能的自然演进，而非背离文明规范的激进行为。

他引用了人类学家Claude Lévi-Strauss的观点，强调了想象力在人类历史中的重要性，即便在19世纪和20世纪被严重低估。Scheirer认为，尽管现代社会倡导理性和效率，人类仍然倾向于讲故事和构建叙事。他指出，互联网并非只是信息获取和完成工作的工具，而是一个创意空间，人们在这个空间里分享想象力的投射，并与他人建立联系。

卡内基梅隆大学的研究人员使用了GANs算法

复制一段视频中人物的嘴部和面部动作

并将这些动作复制到另一段视频的人物身上

“通过技术讲故事的传统并未改变，互联网是这一传统的现代表现。”在他看来，互联网上的虚假内容揭示了我们的社会性和创造性，因为它们体现了我们共享经验和理解的愿望。

对他来说，评估互联网上的内容真伪并非关键，更重要的是这些内容如何反映我们的文化和个体身份。Scheirer说：“这些Meme和故事不仅是数字化的娱乐形式，它们还是我们与世界交流和理解自我方式的重要组成部分。”

深度伪造技术的崛起引发了对信息真实性和隐私的关切。社会需要在技术发展与伦理原则之间找到平衡，以确保不被滥用。深度伪造技术也可视为一种创造性和沟通的新工具，以更深刻地理解人类文化和社交互动。在不断演变的数字时代，需要谨慎引导深度伪造技术的发展，以实现更加公正和包容的未来。

撰文 | Vianna

编辑 | Cathie

排版 | Vianna

图片源自网络.