“ ZAO ”换脸刷屏,但背后隐私、版权、伦理的风险细思恐极

今日绵阳 阅读(1161)

一夜'成'这个明星不再是梦想。

从昨晚开始,一款名为“ZAO”的人工智能变脸应用程序突然在全世界广受欢迎。使用此应用程序制作的面貌变化的视频随处可见微博和朋友。

用户只需上传一张照片,就可以用'小梅花''周润发''白昭堂''玛丽莲梦露''深红女巫'等人脸取代脸部,脸部融合效果几乎可以假装。用户可以使用该软件制作GIF动画表达,或者他们可以将他们的脸变成偶像伙伴,他们也可以与朋友改变面孔。

微信指数显示'ZAO'应用程序的传播正在上升

事实上,AI变脸视频并不新鲜。

早在2017年12月,一位名为“deepfakes”的外国Reddit论坛用户首次在网上发布了他们自己的AI面貌变化视频。它可以用你想要替换的任何东西替换照片和视频中的面孔。面对面部,一些肉眼甚至难以区分真假。

由于逼真的效果,“深度伪造”技术也被应用于一些成人视频。成千上万的名人色情电影迅速淹没了Reddit,许多成人视频网站的各种推送页面也被占用。最后,连Twitter的社交网络都倒下了。许多女演员,包括斯嘉丽约翰逊和《神奇女侠》女演员盖尔加多特,都出现在一些色情电影中,因为人工智能正在改变面貌。

随后,面对法律和公共关系等多重压力,Reddit和其他网站先后删除了所有AI变脸视频,并宣布此后将禁止类似的视频上传。在压力之下,Reddit也阻止了'deepfakes'帐户,但这次它阻止了'deepfakes'直接打开其AI变脸项目的源代码。

代码开源后,只要掌握了基本的计算机知识,即使是“新手”也可以在几个小时内制作出改变面貌的视频,这项技术在全球范围内立即流行起来。为了纪念“深度伪造”,人们将其名为AI变脸技术的ID命名为“deepfakes”。

今年年初,在B-up UP发布的第94版“鹰射击英雄”的视频中,扮演黄蓉的朱蓉的脸被杨幂取代,并采用了'面对面'是'深陷'。

'ZAO'应用程序还为电影和电视角色提供了改变面貌的游戏玩法

尽管“ZAO”应用程序并未表明其面向变化的技术源自开源“深度伪造”(“深度欺诈”)代码,但这两种技术确实具有很强的相似性。

“人工智能已经改变了一段时间”,但从目前的角度来看,后续侵权和道德风险是无穷无尽的。作为用户,您还应该考虑在为早期采用者下载应用程序和传播面部变化视频时可能带给您的麻烦。

“交换视频涉嫌侵犯他人的多项权利”

处理如此神奇而敏感的话题,如变脸,这自然是第一个重要的问题。

北京金城通达律师事务所律师刘宗新表示,人工智能变脸技术涉嫌侵犯其他人的肖像权,声誉和版权,以应对随着人工智能面貌变化逐渐开始泛滥的视频。

首先,涉嫌改变面貌的视频涉嫌侵犯他人的肖像权。

让我们来看看许多用户在注册后可能没有看到的'ZAO'用户协议。有这样一个部分:

6.您的必要授权:除非另有约定,否则您使用“ZAO”上传和/或发布的用户内容的所有权,知识产权和其他合法权利归您,您的许可人或您的关联公司所有。这也是你的责任。

该条款的字面含义非常清楚。根据详细条款,'ZAO'及其附属公司和'ZAO'用户基本上获得许可。上传内容后,默认授予用户部分使用上传内容的权限;一旦构成侵权,“责任也由您承担”。

该主要项目下的条款细节与几个层面有关:

1)在您上传和/或发布用户内容之前,您同意或确保实际权利持有人同意免费授予“ZAO”及其关联公司和“ZAO”用户全球免费,不可撤销,永久,可许可和再许可权利包括但不限于,用户内容可以全部或部分地修改或编辑(例如用另一个人的面部或语音替换短视频中的面部或声音)以及修改之前和之后。《着作权法》中定义的信息网络的内容传播以及版权所有者享有的所有版权产权和相邻权利;

这意味着一旦您的内容上传,它就是默认许可证'ZAO',并且'ZAO'平台上的所有用户都可以重新调整使用 - 这里的风险不需要详细说明。

2)如果您将用户内容中的脸部替换为您或其他人的脸部,则表示您同意或确保肖像所有者同意在全球范围内授予“ZAO”及其关联公司完全免费,不可撤销,永久,可转让的许可。可授权的权利,包括但不限于:肖像权利持有人的肖像权利,如面部照片,图片,视频材料等,以及使用技术对您或肖像的肖像进行正式更改权利人。

本文阐明'ZAO'及其附属公司有权重复使用用户内容。

3)'ZAO'及其附属公司可以选择是否使用和使用它们,包括但不限于在'ZAO'及其附属公司的服务平台上使用和传播上述信息。并由'ZAO'及其附属机构授权使用,编辑和传播合作伙伴。 'ZAO'及其附属公司将尽最大努力在合理范围内使用上述内容,您的必要授权并不代表'ZAO'及其附属公司对上述信息的不可避免的使用,也不会改变其所有权以上信息。并且其知识产权的归属,不影响您对上述内容信息的合法使用;

本文适用于'ZAO'之后的用户UGC,跨平台二次传播,以及重新编辑和使用,以及对合作伙伴的重新授权。换句话说,根据这些条款,您上传的内容不仅可以在“ZAO”中传播,甚至可以通过“ZAO”的许可证分发到其他平台 - 所有这些都是在您点击注册时。它已被默认许可。

事实上,根据法律规定,未经肖像权利人同意,任何人不得拍下他人的肖像,或未经授权使用他人的肖像,否则构成侵权。在今年4月的第二次审判的《民法典人格权编 ( 草案 )》中,已经明确指出“任何组织或个人都不得通过信息技术伪造侵犯他人肖像的权利。 “

一个简单而粗鲁的解释是,在新的《民法典人格权编 ( 草案 )》下,无论你是一个赚钱的行为,只要使用肖像权的用户(也许是你上传的同学的照片)没有明确同意授权,你一时间,我制作了一个小视频,另一方可以起诉你侵权。

根据'ZAO'的条款,上传被授权用于整个平台和用户使用甚至二次编辑。但一旦被侵犯,这只是你的麻烦。

其次,除了肖像权外,滥用人工智能换脸技术可能会侵犯他人的声誉。

AI变脸技术可以将其他人的面部护理用于其他视频中的“PS”。从一个外国视频网站,一旦AI改变了脸部视频'拍摄',你可以想象有多少人脸变化可能被用来对画像不利。在权利方面。根据规定,只要演员合成的视频可能导致他人的评价减少,就会涉嫌侵犯他人的声誉。

此范围不仅限于不雅视频。北京金城通达律师事务所的律师刘宗新表示,除了不雅的视频外,其他人脸部PS的面孔可能会受到滥用,打斗和吸毒等影片的侵犯,可能会导致其下降。对他人的社会评价。

例如,如果你把一个受欢迎的偶像明星放入经典的头发烟雾电影桥梁部分,但另一方恰好是一个非吸烟宣传大使,它也可能是一种侵权行为,因为“减少了对他人的评价”。

最初扮演'永荣'的角色,朱寅成为杨幂

最后,AI面临的变化技术可能会侵犯他人的版权。

除了肖像权和声誉权等个人权利外,制作电影和电视作品的面对面视频也可能涉嫌侵犯版权所有者享有的“保护作品的权利”。

保护作品完整性的所谓权利是版权所有者保护其作品免受扭曲和篡改的权利。在司法实践中,北京市知识产权法院在(2015)京志敏的最后一句第811号中明确表示:

“侵犯保护作品完整性的权利不是基于'损害作者的声誉'。换句话说,无论用户是恶意的还是善意的,无论是有意还是无意,只要工作的使用客观地扭曲和伪造,并改变工作的内容,观点和形式,它应该是判断为构成完成工作的权利。损伤。 “

也就是说,即使你无法理解交通之星的表演技巧,也要把它们改成很多老骨头。根据上述观点,您使用AI变脸技术来“适应”电影和电视作品,而不会损害版权。一个人的声誉,但由于客观上这是一种在未经作者许可的情况下改变作品的行为,因此也涉嫌侵权。

总之,可以说有很多侵权方式。可以说'人工智能改变了一段时间'然后侵犯了火葬场。

“人工智能面临变化导致的隐私和道德问题很难解决”

事实上,自人工智能变脸技术爆发以来,它一再被恶意使用,由此产生的隐私和道德问题不断涌现。

最直接的问题是名人明星的声誉很难得到保证。

目前,国内外用户使用人工智能变脸技术制作明星角色的脸部恶搞,甚至制作假视频。例如,在今年6月,Facebook首席执行官马克扎克伯格的一段黑客视频出现了。水面。

扎克伯格已被篡改视频截图

在视频中,扎克伯格的嘴巴和声音被操纵,Facebook的影响正在以负面的语气进行讨论。

这段视频的标题是Facebook将“提高广告的透明度”,但遭到篡改的扎克伯格的声音却说:'花一点时间想象一个人完全控制着数十亿人被偷了数据,控制他们所有的秘密,他们的生活,他们的未来。 “

具有讽刺意味的是,网民对假视频的验证似乎来自扎克伯格关于2016年俄罗斯干预美国总统大选的视频。

受此类事件影响,Facebook最近更新了其政策,任何被第三方事实调查人员识别为虚假或误导的内容都将自动从运营广告和Facebook收入中删除。

为了解决类似的问题,美国学术界,政府机构和一些创始公司已经开始推出自己的形象,视频验证和标记技术。他们希望通过在拍摄照片或视频时自动添加时间和位置信息来对抗AI。面对视频和图片的威胁。

例如,启动Truepic正在与Qualcomm合作,将其技术添加到移动硬件组件中。此技术可在拍摄照片和视频时自动标记时间和位置数据,以便日后验证。 Truepic还提供免费应用程序,消费者可以使用该应用程序在智能手机上拍摄经过验证的照片。

另一方面,随着“刷脸支付”的逐步推广,类似的“人脸改变”技术是否会影响我们的支付安全性已成为普通用户直接关注的问题。

2017年中央电视台“315派对”披露了人脸识别技术可能带来的风险。在派对上,主持人在互联网上拍摄了自画像,并使用简单的图像处理和动态合成技术将网络面部合成到准备好的视频上,覆盖原始视频的面部。一些使用面部识别作为身份验证信息的软件。

今天,两年后,虽然“人脸变化”技术变得越来越复杂,但在“刷脸付款”逐渐推广的情况下,安全保护自然与时间不一致。除了面部识别之外,当前的“刷脸支付”通常伴随着许多生物识别检测技术。

技术手机解锁项目负责人乔亮介绍了InfoQ的活动。在线金融场景有三种主要的实时攻击类型:第一种是改变面部的攻击,它将人的脸部置于另一个人的脸上。面对。第二种类型是屏幕重拍攻击,类似于手机解锁攻击。第三种类型是通过计算来生成3D伪脸以进行攻击。由于金融场景与经济利益直接相关,因此攻击手段也是无穷无尽的。

目前,像Vision Technology这样的科技公司使用不同类型的实时算法来抵御这些攻击,例如要求用户摇头并眨眼,以确定当前目标是否是“活人”。

乔亮表示,在支付方面,只有特定的摄像头硬件解决方案才能达到这种安全级别,比如Apple使用的结构轻型双击。基于结构光双射的原理,它可以抵御所有2D攻击,包括屏幕和纸张 - 所以两年前'315'派对的简单破解方法今天很难再实现。

但是,由于支付方案的敏感性,攻击者可能会使用更昂贵的攻击(如3D打印或硅胶片)来窃取所有者的财产。这要求算法公司继续研究针对特定场景的对策以解决此类问题。

因此,'道路高一英尺,魔法高度为一英尺',安全始终是攻防区域的重叠,你有你的好计划,黑色生产也不可避免地要有一个黑色的墙梯,我们只能乐观并保持警惕。

然而,在没有大量的道德,法律和安全问题的情况下,AI已经迎来了这样的消费级移动产品,这必然会对市场产生很大的影响。

不难想象,在“ZAO”遇到红色之后,不可避免地会有大量类似的产品迅速赶上 - 而且很难说这些产品在用户隐私和安全性方面有多深保护。

今天,在你可以通过几张照片和视频快速改变你的脸的时代,你的“面孔”不再是你的脸,那么你仍然会是你?

资料来源:Titanium Media