小增说法|不仅是游戏,警惕“AI换脸”成犯罪新手段

游戏实名验证解锁让你“开挂无忧”

AI换脸,保真!

……

这样的信息,您收到过吗?

近年来,AI换脸拟声技术发展迅速,通过专业模型训练与后期处理,可达到以假乱真的效果,有的不法分子利用AI技术,合成虚假的“私密照片、录音”进行敲诈勒索,也有的用AI视频干扰“人脸识别”安全系统,从事非法活动获利,给社会公众带来了极大危害。

小增说法|不仅是游戏,警惕“AI换脸”成犯罪新手段

案情回顾

小蔡因自己的游戏账号被封,通过QQ群认识了可以进行账号解封的小谷,并成为了小谷解封游戏账号的代理。2020年1月至2021年3月期间,由小蔡通过社交平台发布广告寻找客户,同时非法购买包括姓名、身份证号码、户籍地、户籍相片等公民个人信息7000多组;随后由小谷制作AI过脸技术虚假认证动态视频,帮助客户完成实名认证,解锁游戏账号,两人违法所得共计46万余元。

最终,小蔡因犯侵犯公民个人信息罪、提供非法控制计算机信息系统工具罪,数罪并罚,决定执行有期徒刑一年九个月,并处罚金人民币四万元。小谷因犯提供非法控制计算机信息系统工具罪,被判处有期徒刑四年,并处罚金人民币十万元。

小增说法|不仅是游戏,警惕“AI换脸”成犯罪新手段

(图片来源网络)

/ 检察官提醒 /

该案中小蔡和小谷利用AI技术所制作的虚假认证动态视频能顺利通过人脸识别系统验证,此项技术如果用于非法用途,有较大的社会危害性。目前各地利用“AI换脸”技术制作虚假视频进行诈骗、*谤诽**的违法行为屡见不鲜。面对利用AI技术的各种新型*局骗**,我们需提高警惕,提升对网络信息的辨识力,要重点加强个人隐私数据保护意识,防止信息泄露。

还要特别提醒即将迎来长假的同学们,你们的生理、心理尚处于发育之中,需要积极引导和保护,网游中设置的游戏账号“人脸识别验证”功能及“防沉迷措施”正是保护大家的必要举措。千万不能像案例中的小蔡和小谷一样使用“AI过脸技术”等手段进行虚假实名认证,采取不正当的方式规避网络游戏防沉迷措施,以免造成不良的后果!

小增说法|不仅是游戏,警惕“AI换脸”成犯罪新手段

来源:增城检察