deepfake深度造假 (深度伪造技术被骗两亿港元)

深度伪装骗术震惊香江:Deepfake“高科技团队”诈骗2亿港币,高科技犯罪触目惊心

该案最令人吃惊的是,利用Deepfake技术创造的会议中,这位员工参加的会议只有他自己一个人是真人,其他全部都是假的。就说你怕不怕,ZOOM和Webex还是赶紧删除了,FACE2FACE的会议最棒!

近日媒体曝光,香港发生了一起涉及Deepfake技术的重大诈骗案件,堪称该地区迄今为止规模最大的AI诈骗案。不同于以往一对一的换脸诈骗模式,这次诈骗团伙通过伪造视频电话会议,模拟出一个完整的“高管团队”,从而大幅提升欺诈行为的可信度。

这一家英国跨国企业位于香港的分公司被不法分子利用伪造的AI换脸和音频合成视频所欺骗,*子骗**冒充总公司首席财务官,声称正在进行一项秘密交易,并指示员工将2亿港币的公司资金转移到几个香港本地账户。起初,该员工对邮件内容持怀疑态度,但在连续几天的邮件沟通及一次关键的视频通话后,*子骗**成功骗过这名员工。在视频会议中,*子骗**借助Deepfake技术,不仅复制了CFO的形象,还模拟了其声音以及其他几位同事的面孔和声音,营造出真实开会场景,最终使该员工信以为真并进行了转账操作。由于是预制视频,所以这场假会议主要是以上司的角度向员工下达命令,该员工并没有机会参与对话,只是被要求做过一次简单的自我介绍,之后便用接口结束会议,后续的命令则通过软件沟通下达。

整个*局骗**持续5天后才被识破,当员工向英国总部核实时,才发现被骗。

Deepfake主要利用生成对抗网络或卷积神经网络等算法实现目标对象与被模仿对象的面部替换,从而制作出逼真的变脸视频。Deepfake技术的应用非常广泛,可以用于电影制作、视频编辑、虚拟现实等领域。

这也引起了一些科学家们的注意,加州大学河滨分校的研究团队开发出一种新的方法,能够以高达99%的准确率检测出深度伪造视频中的表情操纵部分,并定位篡改区域。这一名为“表达操纵检测”(EMD)的方法通过多任务学习框架提高检测性能,有助于应对日益复杂的面部表情操纵挑战。

深度伪装技术有多可怕,deepfake的黑科技

深度伪装技术有多可怕,deepfake的黑科技