首页 > 头条 > 正文
女子疑遇AI换脸被骗钱,记者调查发现……
01-25 10:05:26 来源:现代快报

现代快报消息,近日在南京,一女子疑遇AI换脸被骗3000元,虽然被骗数额不大,但换脸背后的隐患却让人捏了一把汗。现代快报记者发现,市面上仍有多款App可轻松实现换脸。AI换脸作为一种新兴科技,此前缺少专门的法律法规对其约束。但民法典实施后,已经将AI换脸纳入肖像权的保护范围。

事件

“同学”借钱找上门,发来短视频证明是“本人”

1月10日,来自东北的小李和妈妈来到南京旅游。这时,她的大学同学小王通过QQ联系了她,并说自己的表姐生病住院了,急需用钱。

小王称自己的银行卡被冻结了,但表姐生病急需用钱,所以想向小李借点钱。小李并没有第一时间转账,而是想先确认小王的身份。

“我给她打电话,她说她不方便就没接,一会给我打一个视频电话。”小李说,正是这段四五秒钟的视频通话,让小李确认对方就是曾经隔壁寝室的同学小王。但比较奇怪的是,小王在短暂的视频中没有说话。小李在视频结束后,打消了疑虑,和母亲商量准备扫码将3000元钱转出去。

不过令小李万万没想到的是,自己如此谨慎,还是上当了。后来,当小李电话联系上小王后,小王称自己的QQ被盗了。

据此,南京市公安局秦淮分局五老村派出所民警判断,小李看到的小王那段视频,很可能被人做了手脚。“很可能就是犯罪分子得到了小王的一些信息,比如她的面部照片,通过AI换脸技术,找一段在医院里的视频,把小王的脸切到医院实际拍视频的那个人脸上。”民警张子旭介绍,“所以对方发视频给小李的时候,是没有太大动作的,只是头微微动了一下,显示这个人是一个活动的状态,不是一个静止的状态,以此来取得受害人的信任。”

调查

多款App可实现换脸,有明星及素人多款模板 

2019年,有一款AI换脸软件在网络上一夜爆红,用户只需上传一张自己的照片,就可以将影视剧或综艺节目里明星的脸换为自己的脸。由于这项技术过于真实,达到了“以假乱真”的效果,因此引发了人们关于肖像侵权的大讨论,该款软件因此还进行过下架整改。

近日,现代快报记者在手机应用商店进行搜索,发现除了该被整改的软件外,还有AI换脸App可轻松实现换脸。这数款软件都含有明星、网红、素人等模板,使用者可以挑选自己心仪的模板,既可图片换脸,也可实现视频换脸。

记者选取了自己的一张正面照,在其中一款App里进行了视频换脸,整个过程仅用了不到10秒钟,一个来自于热门古装剧截选片段的换脸视频便诞生了。不过这次软件却是非常“谨慎”地在视频上,打上了“侵权警告,保护模式”的字样,表明“为了隐私安全,无法保存和分享”。

但是其他的换脸软件,可就没有这款软件如此“谨慎”了。记者用了同样一张照片,在另一款App上进行了换脸,并选择了某当红女星红毯视频,同样是不到10秒的时间,一个有着记者脸的红毯女星视频诞生了。并且,这个视频无水印、无侵权分享安全提示,可以轻松下载至手机中,也可在各大社交平台进行发布。

律师

民法典来了,AI换脸再也不能“肆意妄为”

AI换脸作为一种高科技技术,也是一把“双刃剑”。在司法实践中,有人会用这种非法手段侵犯他人肖像,甚至通过抠图、换脸等方式进行侮辱、诽谤性使用。此前,“葛优躺”表情包走红,演员葛优本人却遭遇各个公众号和商家的侵权困扰,他拿起法律武器维护权益,最终这些官司都以葛优胜诉终结。

2021年1月1日,民法典正式实行后,对AI换脸方面的法律问题,也有了具体的规定。民法典第1019条明确:任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。

江苏舜点律师事务所律师衡晓春分析,民法典的条款出台,意味着未经他人许可而随意使用他人的肖像,用“换脸”技术伪造制作视频就属于违法,即使是不以营利为目的恶搞或玩笑,也是侵犯他人肖像权的行为。

原标题:南京女子疑遇AI换脸被骗钱,记者调查:多款换脸App可轻松换脸

【免责声明】上游新闻客户端未标有“来源:上游新闻-重庆晨报”或“上游新闻LOGO、水印的文字、图片、音频视频等稿件均为转载稿。如转载稿涉及版权等问题,请与上游新闻联系。

举报
  • 头条
  • 重庆
  • 悦读
  • 人物
  • 财富
点击进入频道
点击进入频道

本周热榜

汽车

教育

美家

楼市

视频

举报内容
低俗色情 广告 标题党 内容重复 有错别字 排版错误 侵权
获取验证码
请先完成短信验证
取消
确定