滨州学院雅信达沈腾和洪世贤(回家的诱惑男主角)明明是两张不同的脸,但是用【换脸】技术合成后,竟然严丝合缝,毫无违和感。
AI(人工智能)换脸技术火爆后,网友百无禁忌地使用【换脸】技术开始了“创作”,被恶搞的女明星甚至被换到了片的女主角身上……
这些恶劣的换脸视频不仅给明星们带来了巨大困扰,同时也给诈骗分子提供技术支持。一些换脸后的视频,成为骗子谋利的工具。
今年4月1日,抖音官方突然宣布:无限期封禁一个195w粉丝的大网红——俄罗斯娜娜。这是为啥呢?
原来,这位自称来自俄罗斯的大网红,实际却是一个中国人,网友指出她利用AI换脸技术欺骗观众,下图是她直播时不小心露出的“真容”。
利用虚假人设获得巨量粉丝后,俄罗斯娜娜便做起了直播和带货。她推荐的各种“俄罗斯进口”“中俄合资”的商品,销量可观,让她赚得盆满钵满。
除了“俄罗斯娜娜”以外,各种利用AI换脸实施的诈骗已频频出现在人们的视野中。AI技术被滥用,便成了可怕的“潘多拉魔盒”……
骗子假扮成“美女”,在社交软件上邀请男性进行,同时用“钓鱼APP”获取通讯录,然后录下男性的不雅视频进行敲诈,这就是我们常说的诈骗。
但嘉兴海宁一小伙在视频的过程中,只露出了自己的脸,连衣服都没脱,却还是收到了一段有着自己人脸的不雅视频,并被威胁不转账就群发。
万般无奈的小伙选择了报警,被警方指出该视频是骗子利用AI换脸技术“移花接木”而成,这才避免了损失。
当然也有没这么幸运的,江苏常州一位90后遇到同样的骗局,因为担心亲朋好友信以为真,所以答应转账给骗子。
小李的第一反应是确认对方身份,于是对方打过来一个视频电话,在视频中,小李看到了大学同学的脸,其身后的背景也确实是在医院。
警方判断,骗子很可能是提前搜集了小李大学同学的面部照片,并通过AI技术将脸换到了准备好的视频中。
在热播剧《猎罪图鉴》中,男主沈翊的恩师也遇上了类似骗局,犯人通过AI换脸假冒恩师儿子骗取20万美元,最终导致了恩师自杀身亡。
AI换脸技术可以为艺术创作提供更多可能,但在社会和法律层面,争议也越来越多。
在AI换脸相关的骗术越来越多的情况下,如何区分真脸和”合成脸“成了一个关键问题。
但问题在于,技术会不断成熟,用肉眼无法识别的“合成脸”迟早会被制造出来,因此除了自行判断外,避免此类骗局的最好办法还是多方验证。
一旦收到借钱、转账等要求时,要尽量通过当面确认或电话、视频、提问等多个方式进行验证对方身份。
同时也要多向身边的朋友亲人宣传此类骗局,提高警惕,我们共同防范新型骗局。
|