新兴技术给人们的生活带来便利的同时,也带来了隐患。有犯罪团伙利用AI技术制作虚假视频骗取钱财,不法分子将女明星的脸换到色情视频上出售,经典影视剧片段被随意换脸篡改……利用AI技术“恶搞”甚至违法实例屡见报端,让不少人蒙受钱财、名誉损失。
针对可能出现的风险,国家有关部门及时作出部署。2019年11月,国家互联网信息办公室、文化和旅游部、国家广播电视总局联合印发了《网络音视频信息服务管理规定》,要求利用新技术新应用制作、发布、传播非真实音视频信息的,应当以显著方式予以标识;网络音视频信息服务提供者发现使用者利用基于深度学习、虚拟现实等的虚假图像、音视频生成技术制作、发布、传播谣言的,应当及时采取相应的辟谣措施。该规定已于今年1月1日正式实施。
2019年12月,国家互联网信息办公室印发《网络信息内容生态治理规定》,明确网络信息内容服务使用者和网络信息内容生产者、网络信息内容服务平台不得利用深度学习、虚拟现实等新技术新应用从事法律、行政法规禁止的活动。此新规将于今年3月1日正式实施。
那么,如今AI换脸技术是否还在被滥用呢?《法制日报》记者对此进行了采访。
换脸软件备受欢迎
法律风险不容忽视
据了解,自从去年换脸软件“火”了之后,如今的常用换脸App已经有10多种。
《法制日报》记者发现,在安卓商店中最受欢迎的某款换脸App,其下载量已过亿。多数用户表示很好用很有意思,不过一些照片和视频不能去除水印,而去除水印或者开通更多功能则需要收费。同时,也有用户指出广告太多,甚至会出现白屏、闪退、卡顿等问题。还有用户称,一些换脸软件拍出来的照片不真实,或者很模糊。
为了更深入地了解换脸App,《法制日报》记者尝试下载了两款App。在使用XX变脸秀时,《法制日报》记者发现,该款软件操作简单,只需简单注册就可以开始在图片或视频中轻易换脸,不过无法去除水印。
而另一款曾经名声大噪的App,在注册成功后,系统会要求上传一张本人正脸清晰的照片,然后再进行肖像验证。一旦系统确认,就可以在模版中找一个自己喜欢的明星进行换脸。操作时,可以选择用手机拍照或者从相册选择照片,然后点击替换,只需要几秒钟便可制作完成。
据上海恒衍达律师事务所律师王艳辉介绍,现阶段AI技术日趋成熟,开始运用于方方面面,AI技术娱乐化也是必然趋势。在此情形下催生了换脸App,伴随着智能手机的普及,这些App快速走红。
“我们欢迎新事物,但是也要注意新事物伴随而来的新问题,换脸App非法滥用和隐私泄露情况频繁被报道,对于软件的经营者,要注意民事的索赔、刑事控告、行政处罚的风险,软件的使用者可能面临隐私泄露、财产受损的风险。”王艳辉说。
“换脸App是数字时代数字技术运用的具体方式,但在激发大众创造力和满足自我娱乐的同时,其负面作用更应当引起重视。”中央财经大学法学院副教授朱晓峰认为,换脸软件存在着过度收集个人信息以及侵犯肖像权、名誉权和著作权的风险,利用换脸软件可以轻易绑架或盗用他人的身份,让人“言”所未言、“行”所未行,以假乱真。
朱晓峰说,该软件还可能成为实施色情报复、商业诋毁、敲诈勒索、网络攻击和犯罪等非法行为的新工具。例如,利用AI换脸技术制作虚假的色情视频,以达到污蔑或报复他人的目的;制作、散播关于商业竞争对手的深度伪造信息,损害其商誉等;借用合成的虚假内容对他人实施敲诈勒索或施加精神压力;借助该软件破解人脸识别等验证系统,非法盗刷他人支付账户、获取他人个人信息或从事其他冒名的违法活动;同时也给法院鉴别声音、视频等证据材料的真伪带来挑战,甚至危害国家安全等。“应当通过法律手段严格监管换脸App的运营,对相应的违法犯罪行为依法予以严惩。”
切实保护用户权益
避免沦为犯罪工具
《法制日报》记者发现,如今换脸技术已经被许多主播广泛应用于短视频制作以及直播中。比如,某位知名主播曾在直播时换不同明星的脸,天天不重样。而在短视频制作上,换脸的应用更为普遍,大多是恶搞经典影视剧片段或者演唱会,把本来的演员换成一些喜剧演员甚至非同一风格的演员,以达到吸引眼球的目的。
朱晓峰认为,这种换脸技术应用的行为,主要涉及电影作品的著作权保护问题。软件方在其首页推荐经典电影作品的片段,属于使用他人享有著作权的作品的行为,如果该营利性使用行为未经电影作品著作权人许可或者授权,则侵犯了电影作品著作权人的相关权利。
从软件的用户角度看,用户制作并上传换脸后的视频,使用了他人电影作品的片段,软件作为内容或服务提供商传播了用户上传的换脸视频,则可能与制作并上传换脸视频的用户一起构成共同侵权。不但侵犯了电影作品著作权人的财产权,而且侵犯了著作权人的著作权。
“用户将他人的肖像通过换脸软件更换恶搞视频中的有关人物,如果达到侮辱他人的程度从而贬损他人的名誉,就会构成对他人名誉权的侵犯。”朱晓峰说。
在王艳辉看来,如果使用明星的照片未获得授权,涉嫌侵犯肖像权、隐私权等合法权益;如果使用的影视作品、音乐作品未获得授权,则涉嫌侵犯著作权、版权。
对于规范换脸App,王艳辉建议,换脸App应配合相关部门管理,遵守法律法规,加强风险防控;对于App使用的音乐、影视剧等,要有版权意识;对于用户的数据加强保密,切实保护用户合法权益,特别是数据安全,避免换脸软件成为侵权乃至犯罪的工具。
据了解,换脸App在用户注册时都会有一些需要用户同意的协议和隐私条款,而在这些条款里,通常会规定“完全免费、不可撤销、永久可转授权和再许可”等“霸王条款”。
“换脸软件方不能通过用户协议把可能发生的责任全部转嫁给用户,而应当加强自己的监管。其中许多条款规定并不符合网络安全法中关于信息收集正当性原则的要求,存在过度收集用户个人信息的问题。”朱晓峰说,这种情况并不是个例,用户往往不会逐条阅读软件提供的用户协议,在勾选了“同意”的情况下,会造成软件对于个人信息的过度和不当收集。
用户在使用AI换脸技术制作发布视频、图片时,需要注意哪些问题?
朱晓峰认为,首先应避免侵犯肖像权和名誉权,相关平台对此也有审查的义务;其次,避免侵犯著作权。在对一些影视剧经典镜头进行换脸操作时,要注意自己行为是否侵犯了知识产权。除此之外,相关平台也要进行审查,甚至可以要求用户在上传视频的同时提供相应的授权证明文件,或者在接到权利人告知的侵权通知后,及时进行核查并按照法律的规定采取相应措施。
来源：法制日报 责任编辑：聂明镜
