无障碍链接

中国时间 23:29 2019年5月25日 星期六

中国拟立法禁止“AI换脸”


人工智能技术可以“深度伪造”美国前总统奥巴马的讲话声音和画面

4月20日,中国十三届全国人大常委会第十次会议开始审议民法典人格权编草案二审稿。草案提出,民法应禁止任何人以基于人工智能(AI)的“深度伪造”(deepfake)技术替换网络视频中的人物面部,以保护肖像权。

中国官方的新华社说,深度伪造可以制作使人难辨真假的动态人脸画面和声音,“AI换脸”可以随意替换视频的角色面部。报道说,这引发了人们对相关技术可能侵犯肖像权、危害社会公共利益乃至国家安全的担忧。

此次提议的“民法典人格权编草案二审稿”建议规定:任何组织或者个人不得以丑化、污损,或者利用信息技术手段伪造等方式侵害他人的肖像权。

“AI换脸”今年2月在中国网络空间讨论中引起热议,起因是一名“深度伪造”技术专家发布的一段“移花接木”视频。视频中,当代中国女演员杨幂的脸被用在了1994年版《射雕英雄传》中黄蓉的角色上。视频中的人物表情自然逼真,许多网友感叹“看不出破绽”。

但这段视频也引起了当事人的不满。视频制作者“肖先生”发文道歉,称自己是一名AI神经网络学习的研究人员,初衷只是希望让更多人认识这项技术 ,并在自己的网站上删除了这段影片。

此次“换脸”风波也使人担忧“深度伪造”技术的可能引发的社会和政治影响。

2018年7月,美国演员兼制片人乔丹·皮尔(Jordan Peele)制作了一段美国前总统奥巴马“谴责”现任总统特朗普的“深度伪造”视频。2017年7月,华盛顿大学的研究人员开发出了一套基于人工智能的“算法”,这套算法可以修改一段讲话视频中奥巴马的嘴形,使之准确匹配任何声音内容。

皮尔说,他参与制作伪造奥巴马讲话内容的视频是为了告诫人们警觉:视频资料并不总是消息的准确来源。

而中国此番网上流传的“深度伪造”视频似乎技高一筹:视频中的人物不仅换了口型,而是整个“换脸”。

长期关注假信息传播的美国国会参议员马可·鲁比奥(Marco Rubio)今年2月发布声明警告说:“美国的敌人已经在使用虚假的图像在散播不满情绪、企图分裂我们。”

他说:“想象一下,如果一段视频表现的是选票失窃、政治领袖说出不雅言论、或是在国外冲突中有无辜平民遇害。”

中国的AI视频制作者“肖先生”说,实现逼真的深度伪造的技术门槛很高。他说,这项开源技术需要应用者有一台有8核CPU V100显卡的主机,“这就足以让很多人打退堂鼓,研发过程也很枯燥乏味”。

不过,计算机专家认为,深度伪造技术要达到任何用户都能使用的简易程度只是时间问题。

美国国会山报(The Hill)援引智库“新美国中心”研究院彼得·辛格(Peter Singer)的话说,深度伪造技术“肯定会被用作一种武器”,被用于扰乱国内政治,或者被敌对国家用于在战场上取得先机。

您的意见

显示评论

XS
SM
MD
LG