澎湃Logo
下载客户端

登录

  • +1

男子接单用AI伪造学生同事近7000张裸照,再以1.5元卖出

2024-06-18 10:57
来源:澎湃新闻·澎湃号·媒体
字号

在北京警方侦破的一起案件中,警方接到报案,有人在境外的网站上发广告,只需一张日常生活照片,就可以完成一键“去衣”的效果。

广告发布后,有不少人联系发布者,给他发送照片并购买这项“去衣”服务。

犯罪嫌疑人白某某(24岁),原本是一家互联网公司的技术员。他用AI“一键去衣”技术,深度伪造淫秽图片近7000张,再每张1.5元卖出。图片涉及女性人数多,包括学生、教师、同事。短短几个月的时间,白某某就制作了几千张去衣的图片,赚了将近一万元钱。

被抓后,据白某某供述,这项技术并不是真的“去衣”,而是一种伪造、重绘的技术。其实可以把它理解为深度的图片伪造,它并不是真的去掉别人照片上的衣服,都是针对已有的模型和已有的模组进行图片重绘。

目前白某某已被提起公诉。

而一键去衣、AI换脸技术,还会被不法分子利用,成为敲诈勒索的工具。在山东威海,就有当事人遭遇到骗局,在收到伪造的不雅照后,没有多加核实,就向敲诈团伙转账20万元。

前不久,威海警方接到了反诈中心的一条资金预警信息,有市民正在向涉诈账户进行转账,民警立即与当事人取得联系,核实情况。当事人王先生说,他的手机收到了一条短信,短信上的内容大概就是一张图片,上面有一男一女的裸照,还附了留言,说“我有你全部的影像资料,赶紧跟我联系”,并附上了一个电话。

王先生说自己当时看到这张照片,当时就有点懵。没有来得及多想,他拨打了信息上面的电话。由于对方准确地说出了自己的姓名以及工作单位,并且告诉王先生只要向他们转账68万元就可以买断这些视频,如果王先生不给钱就把视频公开。在对方的恐吓下,王先生信以为真。

王先生起初没有那么多钱,所以他就说我先给你10万元,对方同意后就给他发了一个指定的银行账户,所以王先生就向账户内转了第一笔10万元。然后对方仍然给他打电话说这个钱太少了,如果不想让其他人知道,不想让单位的同事知道,就必须再次转账。王先生通过多方筹集,又向指定的银行账户转了第二笔10万元。

然而,先后转账的20万元,根本满足不了对方的胃口。正当王先生惊慌失措时,民警联系到了王先生。

当民警跟王先生一同看这张照片的时候,发现虽然脸部有相似的地方,但是王先生的脸型以及身形完全不是他本人。

之后,民警赶紧通过国家反诈大数据平台对王先生转账的两个银行账户进行紧急止付操作。

平台对止付的这两个账户进行反馈,反馈出账户的余额以及银行卡的卡主身份等等情况。民警发现这两个账户的余额已经显示为0。经过研判分析,警方锁定了犯罪嫌疑人郑某和钟某的身份信息。今年1月22日,威海警方赶赴浙江乌镇将两名犯罪嫌疑人抓获归案,为王先生挽回了损失。

警方介绍,在这些案件当中,犯罪嫌疑人先是通过网络等渠道,搜集被害人的视频、照片以及相关信息。再通过AI换脸技术PS合成所谓的“不雅视频”或“艳照”,然后通过短信、邮箱等渠道,精准发送给选定的对象并留下联系方式,最后以要举报、散播、告知家属等手段威胁选定的对象,要求被害人将钱汇到他们指定的银行账户。

警方提示:遇到此类情况要及时留存证据,拨打110报警。

原标题:《男子接单用AI伪造学生同事近7000张裸照,再以1.5元卖出》

阅读原文

    本文为澎湃号作者或机构在澎湃新闻上传并发布,仅代表该作者或机构观点,不代表澎湃新闻的观点或立场,澎湃新闻仅提供信息发布平台。申请澎湃号请用电脑访问http://renzheng.thepaper.cn。

    +1
    收藏
    我要举报
            查看更多

            扫码下载澎湃新闻客户端

            沪ICP备14003370号

            沪公网安备31010602000299号

            互联网新闻信息服务许可证:31120170006

            增值电信业务经营许可证:沪B2-2017116

            © 2014-2024 上海东方报业有限公司

            反馈