首页 > 头条 > 正文
在你拿ZAO换脸时,可能已成为情色片主角了?
09-03 07:34:04 来源:人民日报客户端

人民日报客户端消息,近几天,一款名为「ZAO」的换脸 App 在朋友圈刷屏。

该软件介绍称使用 AI 技术,大家只需在 App 中上传一张照片,就能将自己的脸替换成「小李子」「周润发」「玛丽莲梦露」等人的脸。

融合效果非常棒,几乎可以以假乱真。

我吐了,你们呢!

其素材库里有非常多经典影视作品的片段,基本每个片段都只有 15-30 秒。

代入感如此强的软件,怪不得能在朋友圈引起一轮狂欢。

短短一天,ZAO 已位居 App Store 榜单第 2 名。有评论称其和抖音一样会上瘾,“刷了一夜”。

ZAO官方助手也发微博称:这个月花 700 万租的服务器,已经消耗 1/3 了。

然而,开发团队还没来得及庆祝,质疑声开始铺天盖地。

引起网友们愤怒的,是 ZAO 用户协议第 6 条,其第 1 项是这样的:

“在您上传/或发布用户内容以前,您同意或者确保实际权利人同意授予 ZAO 及其关联公司以及 ZAO 用户全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利,包括但不限于可以对用户内容全部或部分的修改与编辑”。

这意味着,你上传到 ZAO 里面的静态及动态照片,ZAO 除了可免费使用并修改你的肖像,还可以将它任意授权给自己想授权的第三方,当做信息进行贩卖,而且是不可撤销+永久的。

换句话说,如果你用了这个 App 玩换脸,那上传的这张脸就不归你管了!

其第 2 项也给用户挖了一个大坑:

“如果您把用户内容中的人脸换成您或其他人的脸,您同意或确保肖像权利人同意授予‘ZAO’及其关联公司全球范围内完全免费、不可撤销、永久、可转授权和可再许可的权利。”

这是什么意思呢,比如现在你将蔡徐坤的脸换成自己的脸,你需要保证蔡徐坤同意 ZAO 及关联公司使用她的肖像.....

这怎么确保?这不搞笑吗?ZAO 这么做,说白了,就是因为自己没钱拿到明星们的授权,日后侵权,可以将锅甩给用户。

据天眼查数据,ZAO 背后的大老板,是著名线上交友软件「陌陌」。

其背后的注册公司,长沙深度融合网络科技有限公司,有两位核心成员,分别是创始人王力和执行董事雷小亮,前者是陌陌现任COO,后者是陌陌的联合创始人兼游戏业务部总裁。

面对这铺天盖地的质疑,陌陌顶不住压力,偷偷更改了用户协议内容,删除了「不可撤销」「完全免费」「永久」等字眼;

并在协议的开头以加粗字体做了特别提示,承诺该协议只用于对用户上传内容进行换脸等内容修改操作,不会另作他用。

修改后的用户协议

虽说如此,但网友们对于 AI 换脸的担忧,仍未消除。

事实上,ZAO 的玩法并不新鲜,使用的是 deepfake 深度换脸技术。

而最先出现 AI 换脸视频是在2017年12月,一位 ID 名为「deepfakes」的用户在 Reddit 论坛上传了一段视频,把情色电影里的女主角换成了好莱坞明星,引起用户震惊的同时,也引发了严重的社会危机。

随后,deepfakes 的账号被封杀,而 deepfakes 也将其 AI 换脸项目的代码开源。据悉,ZAO 这个产品也是基于 deepfakes 的开源代码进行开发的。

只是,原本使用 deepfake 技术制作换脸视频对电脑配置,尤其是显卡要求很高,同时下载、安装、训练都是费时费力的大工程。

所以,通常都是一些爱好者制作发布,大家欣赏换脸后的成片。

原本饰演「黄蓉」一角的朱茵变成了杨幂

而这次 ZAO 把门槛一下拉低到近乎没有,同样大小的视频,deepfake 可能要渲染十多个小时,ZAO 只需要 10 秒。

这就打开了潘多拉魔盒了。虽然 ZAO 针对这种情况,做了很多限制,比如换脸素材暂时还是由官方提供,个人照片只能用 10 次。

但从之前的脸萌等软件爆红后,一堆同样功能的软件诞生的情况来看,换脸软件的爆发只是时间问题。

那么难免会有害群之马混入其中,利用换脸技术赚「黑心钱」。

前不久,某贴吧被爆出有发帖者在上面售卖通过 AI 换脸技术合成的视频,价格低廉,还可以提供「定制换脸」服务。

只要买家提供明星或私人照片,卖家就可以将成人视频里的主角「移花接木」。

这要是犯罪分子掌握了这一技术,就可以通过 AI 换脸技术合成的图片或视频牟利,如诈骗、高利贷等。

特别是对于骗术识别能力差的老人,很容易就被犯罪分子伪装的「子女」,骗走钱财。

对于女生来说,一旦脸部信息泄露,想报复你的人完全可以用该技术,让你成为某部爱情动作片的女主。解释也无意义,身边的人也不在乎你的解释。

想想是不是有点毛骨悚然?

除了诈骗,也有人担心这些图片和电话留在平台上,会被人用在人脸支付上,威胁到个人的资金安全。

对此,支付宝回应称,目前网上各类换脸软件有很多,但不管换的有多逼真,都是无法突破刷脸支付的。

目前,「刷脸支付」采用的是 3D 人脸识别技术,在进行人脸识别前,也会通过软硬件结合的方式进行检测,来判断采集到的人脸是否是照片、视频或者软件模拟生成的,能有效地避免各种人脸伪造带来的身份冒用情况。

话虽如此,但「道高一尺魔高一丈」,未来这一技术的发展,会不会突破 3D 人脸识别技术的限制,犹未可知。

对于我们这些普通人来说,能做的只有尽量减少自己脸部信息曝光。同时,希望相关法律能尽快完善。

最后,想问下大家是否有体验 ZAO?对于 AI 换脸技术,又是如何看待的呢?

原标题:在你拿ZAO换脸时,可能已成为情色片主角了?

【免责声明】上游新闻客户端未标有“来源:上游新闻-重庆晨报”或“上游新闻LOGO、水印的文字、图片、音频视频等稿件均为转载稿。如转载稿涉及版权等问题,请与上游新闻联系。

  • 头条
  • 重庆
  • 悦读
  • 人物
  • 财富
点击进入频道

本周热榜

汽车

教育

美家

楼市

视频