合成亲吻视频、一键脱衣,恶心的不是技术而是人心

当AI迭代得越来越先进,我们如今基本告别了眼见为实的时代。

这段时间,随着AI技术的发展,“AI换脸”“AI合成照片”已经达到了以假乱真的地步。不少人都在用AI换脸技术进行娱乐,但一些换脸行为却已经涉及了伦理与法律问题。

1

就在几天前,网红特效合成师洪某发表了一个视频,展示自己被女星迪丽热巴粉丝抓伤的脸。

原来,他为了显示自己的特效合成技术有多高明,将电视剧中女星迪丽热巴与男主角亲吻的镜头做了处理,男主角的脸被换成了他自己的脸。

合成亲吻视频、一键脱衣,恶心的不是技术而是人心

本来是赏心悦目的帅哥美女亲密镜头,一下子变成了美女配“野兽”,画面瞬间变得辣眼睛了起来,难怪热巴的粉丝们愤怒上头,几人直接打上门去。

还有网友直接犀利发问:这算是隔空猥亵吗?

虽然粉丝不该用违法行为帮偶像维权,但有一说一,该特效师的行为确实让人感到极度不适,甚至有涉嫌违法的嫌疑。

中国政法大学传播法研究中心副主任朱巍认为,该事件中,迪丽热巴与该特效师并不相识,后者却利用AI技术进行角色更换,这毫无疑问构成对当事人肖像权、名誉权、隐私权的侵害,甚至涉嫌构成寻衅滋事罪。

2

比特效师洪某行为更恶劣的,就是有人利用AI进行一键脱衣。

也是前不久,一张内容为“裸露地铁美女”的照片四处传播,照片上年轻漂亮的女性一脸淡然地光着上身站在地铁上,周围的人似乎见惯不怪,没有朝她投去目光,整张照片透露着说不出的诡异与违和。

之后,一位女网友表示,其实照片中的女性是自己,她并没有光着身子坐地铁,是之前在社交媒体上晒的地铁照片,被有心人用AI技术“一键脱衣”了。

合成亲吻视频、一键脱衣,恶心的不是技术而是人心

原来,网络上存在着不少非法网站,利用AI技术为用户提供“一键脱衣”的服务,且这些技术主要针对女性,性质极其恶劣。

之后,有不少网友陆陆续续站出来,表示自己看到过一些AI脱衣后的女性照片,那些照片本来都是人家PO在网上的正常图片而已。

3

无论是“换脸亲吻”,还是“一键脱衣”,都很容易让人感到不安,在社交媒体流行的当下,还有多少人没把自己的照片发布在网络上呢?

特别是换脸软件刚刚流行起来那会儿,大家还没怎么吃过换脸技术的亏,对个人信息的保护意识并不强,大量用户上传了自己的面部信息。AI换脸甚至都成了一种大众流行娱乐和社交的方式,不少网友都把自己的脸或是偶像的脸,换进了喜欢的影视剧中。

在B站上,我们不时能看到粉丝把偶像的脸换进知名影视剧中,比如女演员高叶的脸就被换进了《甄嬛传》里,充当华妃一角。

如此一来,这类AI软件收集了大量的人脸信息,也埋下了诸多的安全隐患。

说起来,AI技术本身是没有善恶之分的,饱含恶意的其实是人心。

合成亲吻视频、一键脱衣,恶心的不是技术而是人心

我们从上述的两个案例就能看到,一旦有人恶意使用AI换脸技术,就容易造成极其恶劣的后果,比如让造黄谣变得轻而易举。做出类似行为的人,堪比网络秃鹫,以吞食他人痛苦为乐。

可以预见的是,用AI换脸技术作恶的行为如果不能得到有效遏制,那将会对社会造成非常大的危害。

“滥用‘AI换脸’技术,可能会涉及侵犯他人名誉权、肖像权、著作权和个人信息等多项权利。”中国社科院法学所网络与信息法研究室副主任周辉说。

此外,《民法典》第一千零一十九条第一款也规定,“任何组织或者个人不得以*化丑**、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权”。

简单来讲,未经他人同意便使用其肖像进行AI换脸并公开传播的行为,会构成侵权。

希望相关部门可以对此类技术进行严格监管,对相关违法软件进行取缔,也对利用AI技术制作和传播不雅视频、图片的人进行依法惩处。