流行一时的“AI 换脸术”已判定违法,小心赔到家底空

文/郭一璞 夏乙

来源:量子位(ID:QbitAI)

AI换脸一时爽,一直换脸……可能就得体验一把违法的酸爽了。

在周六全国人大常委会审议的《民法典人格权编(草案)》里,正式加了一条:任何组织和个人不得以利用信息技术手段伪造的方式侵害他人的肖像权。

显然,这里可以伪造肖像的信息技术不仅包含传统的PS等图片处理软件,也有DeepFakes这一类AI换脸模型。

草案的第八百零三条也被修改为:其他人格权的许可使用和自然人声音的保护,参照适用本章的有关规定。

不仅仅是脸,声音也不能随便换。

违法的边界在哪里呢?

新华社援引中国人民大学法学院教授杨立新的话说,草案明确规定,未经肖像权人同意,不得制作、使用、公开肖像权人的肖像,但是法律另有规定的除外。

而现行的《民法通则》中,只规定了“未经本人同意,不得以营利为目的使用公民的肖像。”

也就是说,如果上书两个增加的条目在后续的立法流程中没有更改,那么当《民法典》正式实行后,除了法律另有规定的情况,如果被换脸的人没有同意,而你用了拍摄、绘画、P图、DeepFakes、鬼畜等各种方式处理TA的脸,你就违法了,就算不以营利为目的也一样。

侵犯肖像权的代价并不低,轻则公开赔礼道歉,重则需要付出大笔赔偿金。去年,在微博上使用“葛优躺”形象的艺龙公司就被判赔偿了7.5万。

另外一起巨额的肖像权赔偿案件则是发生在1992年,刘嘉玲因为商场的化妆品柜台滥用了自己的照片,索赔100万。1992年的100万,如果买成北京房子的话,现在至少一两千万了。

赔钱还只是轻的,严重的,还可能触犯《刑法》。

最近蔡徐坤送给B站的律师函,就指向“侵权”。不仅包括除了新规的“肖像权”,而且由于“恶意诽谤”、“恶意剪辑”、“使用了诸多侮辱性词汇”等因素,还侵犯了名誉权,甚至进入了刑法的管辖范围。

律师函引用了《民法通则》第101条关于姓名权、肖像权、名誉权、荣誉权等权利的规定,还引用了《刑法》第246条:“以暴力或者其他方法公然侮辱他人或者捏造事实诽谤他人,情节严重的,处以三年以下有期徒刑、拘役、管制或者剥夺政治权利。”

草案新稿一出,立即有网友担心:B站会出事吗?

看来,AI换脸术,只能换自己的脸和同意你使用的人的脸了。

AI换脸狂欢,玩坏了

使用信息技术在未获得同意的情况下处理他人照片,并不是最近才有的事。

早年间的PhotoShop,近几年的各种手机美图软件,都可以修改人脸,制作出不一样的造型。

还有视频方向,各种视频处理应用都可以为视频里的人脸增加许多特效,B站的鬼畜区也经常把包含人脸的影视、演讲等公开素材重新剪辑处理。

这些工具都可以拿一个人的脸开玩笑,甚至实现恶意的污蔑。而DeepFakes的出现,把这类恶搞引向了大规模低门槛的“深度伪造”。

关于《民法典人格权编(草案)》主要问题修改情况的汇报中指出,有的部门提出,利用信息技术手段“深度伪造”他人的肖像、声音,不仅侵害自然人的人格权益,严重的还可能造成恶劣的社会影响,危害国家安全和社会公共利益,建议法律对深度伪造技术带来的“换脸”等问题予以回应。

显然,这里的“深度伪造”几乎就是DeepFakes的直译。

在过去一段时间,DeepFakes在国内国外都制造了轩然大波。

先是艾玛·沃森、“寡姐”斯嘉丽、“神奇女侠”盖尔·加朵等一大波欧美女性的脸被换在了不可描述的小电影上。

之后混迹美国政坛的奥巴马、川普、希拉里也被恶搞,几位政坛大佬接着DeepFakes这个大杀器进行了虚拟的“互相攻讦”,还“说”了从未说出的攻击性语言。

在国内,DeepFakes第一次制造波澜则是发生在朱茵和杨幂两位女明星身上,有一个名为“换脸哥”的B站用户将《射雕英雄传》中朱茵饰演的黄蓉换成了杨幂的脸,并且把处理过的视频发在了B站。

牵扯到了顶级流量,自然获得了巨大的关注,相关微博话题浏览量达到了1个亿,国内大众第一次知道,原来“P视频”可以这么像。

而且,DeepFakes早已不需要会写代码就能使用了,相关的fakeapp等软件应用,只要你装到一台能流畅运行大型游戏的电脑上,就可以自己生成换脸小视频了。

很快,这引发了一些国内网友的恐慌,担心这项技术会被用在违法犯罪方面,用来诈骗或者污蔑他人。巨大的争议之下,UP主“换脸哥”删掉了自己发布的视频。

不过,争议并没有让国内的DeepFakes视频创作者们停止创作,他们转向了几位B站鬼畜区常青树,把徐锦江换到了海王身上:

把“吃屎吧,梁非凡”场景中的两位主角换脸:把“吃屎吧,梁非凡”场景中的两位主角换脸:
把《回家的诱惑》里男主的脸换到了“穿着品如衣服”的女性角色艾莉脸上:把《回家的诱惑》里男主的脸换到了“穿着品如衣服”的女性角色艾莉脸上:

真是魔性,且真假难辨,要是不知道有视频造假的技术,就完全可能认为“有视频有真相了”。

面对新规,有之前玩得欢的网友感慨:少了很多乐趣了。更多的声音则非常理中客:善意玩梗可以,但凡事要有度。

这次的草案还说了什么?

除了AI换脸PS鬼畜可能侵权之外,这次的草案还有很多非常与时俱进的内容。

在“生命权、身体权和健康权”一章中,就新增了这样一条规定:从事与人体基因、人体胚胎等有关的医学和科研活动的,应当遵守法律、行政法规和国家有关规定,不得危害人体健康,不得违背伦理道德。

就在2018年11月,基因、胚胎研究掀起大风浪。贺建奎“基因编辑婴儿”事件曝出,一对敲出了CCR5基因、对HIV免疫的双胞胎婴儿诞生,这项“跨越伦理红线”的研究,引发了学界的密集谴责和公众的持续讨论。

这类科研或者医疗活动,在民法典人格权编草案二审稿中有了明确的限制,也有了追究民事责任的依据。

除了专门对人体基因、人体胚胎相关研究做出规范之外,草案二审稿还完善了医学临床人体试验的相关规定

为研制新药、医疗器械或者发展新的预防和治疗方法,需要进行临床试验的,应当依法经相关主管部门批准并经伦理委员会审查同意,向接受试验者或者其监护人告知试验目的、用途和可能产生的风险等详细情况,并经书面同意。

据《法制日报》总结,这一条在一审稿基础上,将临床试验的范围扩大到“为研制新药、医疗器械或者发展新的预防和治疗方法”的所有活动,增加了“经伦理委员会审查同意”的规定,删除了“禁止向受试者支付任何形式的报酬、但可以给予必要补偿”的规定。

另外,二审稿还在“个人信息保护”一章中,增加了对未成年人信息保护的专门规定。对收集使用未成年人等无民事行为能力人或者限制民事行为能力人的个人信息的,应当征得其监护人同意,但是法律、行政法规另有规定的除外。

这些新规定,其实也是立法部门对社会新技术发展所带来挑战的回应,你怎么看?

来源网络,如有侵权请联系删除:发现头条 » 流行一时的“AI 换脸术”已判定违法,小心赔到家底空