无障碍链接

中国时间 20:41 2024年3月4日 星期一

研究报告:中国利用深度造假“虚拟主播”进行宣传


资料照片:电脑屏幕上显示的一段利用“深度造假”技术创造的虚假视频画面。(法新社)
资料照片:电脑屏幕上显示的一段利用“深度造假”技术创造的虚假视频画面。(法新社)

周二(2月8日)发布的一份研究报告显示, 一种新型的深度造假宣传视频正在网络上流传,视频中的“新闻主播”看起来非常真实,但它们其实是人工智能生成的。这些视频被认为与中国政府有关联。

总部位于美国的研究公司Graphika(格拉菲卡)在其报告中称,这些虚拟主播是为一个名为“狼新闻”(Wolf News)的虚构新闻媒体而设置的,它们由人工智能软件创建,并且出现在社交媒体上流传的视屏中,似乎在为中国共产党的利益宣传。

Graphika情报副总裁杰克·斯塔布斯(Jack Stubbs)告诉法新社(AFP):“这是我们第一次看到与国家相关联的行动使用人工智能生成的虚构人物视频片段来制作具有欺骗性的政治内容。”

在该报告分析的一段视频中,一位自称亚历克斯(Alex)的虚拟男主播批评美国对困扰该国的枪支暴力无所作为。 在另一段视频中,一位女主播强调了中美“大国合作”的重要性。

人工智能的进步引发了全球对这项技术可能被滥用或用于传播虚假信息的担忧,人工智能可以凭空创造深度造假的图像,或者显示人们在视频中开口讲述他们从未说过的话。

去年,脸书(Facebook)母公司Meta表示,它删除了乌克兰总统弗拉基米尔·泽连斯基(Volodymyr Zelenskyy)敦促公民放下武器向俄罗斯投降的深度合成造假视频。

中国没有立即对Graphika的报告发表评论,几周前,北京刚刚出台了《互联网信息服务深度合成管理规定》。

中国上个月实施了新规定,要求提供深度合成服务的企业获取客户的真实身份。 他们还要求对深度合成内容进行适当标记,以避免“避免公众混淆或者误认”。

中国政府警告说,深度合成技术被被“不法人员”用来“危害国家安全和社会稳定”。

Graphika的报告称,几乎可以肯定地说,这两位“狼新闻”的主播是使用伦敦人工智能初创公司Synthesia提供的技术创建的。

Synthesia网站没有立即回应法新社的置评请求,它推销的软件可以“根据真实演员的视频片段”创建深度合成的虚拟形象。

Graphika表示,它在追踪被称为“垃圾伪装”(“spamouflage”)的亲中国虚假信息活动时,在推特(Twitter)、脸书和YouTube等平台上发现了这些深度造假视频。

斯塔布斯说:“‘垃圾伪装’是一个亲中国的影响力行动,主要传播低质量的政治垃圾视频。”

他说:“尽管使用了一些复杂的技术,但这些最新的视频大同小异。这显示了在影响力操作中使用深度造假的局限性——它们只是日益先进的工具箱中的一个工具而已。”

(本文依据了法新社的报道。)

评论区

XS
SM
MD
LG