北京时间1月8日早间消息,Facebook表示,将禁止发布由人工智能深度操纵的视频。这是该公司为打击平台上假信息而做出的一系列调整中的最新一步。
本周一,Facebook高管莫妮卡·比科特(Monika Bickert)在博客中表示,Facebook将删除通常被称作“深度仿冒(deepfake)”的视频。在这类视频中,人工智能所做的修改“很可能会误导人们,让他们认为视频中的某个主题说了实际上不存在的话”。Facebook广告同样也将禁止这类视频。
然而业内人士认为,这项政策对于控制假信息视频的传播效果有限,因为绝大多数此类视频是以传统方式来编辑的:手动删除背景信息或调整语序。比科特表示,Facebook的新政策不会覆盖这样的视频,也不会影响恶搞或讽刺类视频。
她表示,所有上传的视频仍将接受Facebook事实核查系统的检查,以避免可能的欺骗性内容。如果内容被发现事实不准确,那么就不会在消息流中得到突出展示,同时也会被打上相关标签。
最新举措表明,作为全球最大的社交网络,Facebook正尝试在今年的美国总统大选之前打击假新闻传播者。在2016年的美国大选中,假新闻在Facebook平台上疯狂传播,导致该公司受到广泛批评。
Facebook的新政策也是为了安抚议员、学者和政治竞选团队。对于Facebook处理政治类内容的方式,他们仍然感到失望。
一些民主党政治人物认为,Facebook新政策的力度远远不够。去年,美国众议院议长南希·佩洛西(Nancy Pelosi)的一段视频引起争议,但Facebook拒绝将其删除。该公司为自己的决定进行了辩护,称已经对视频内容进行过事实核查,并缩小了在社交网络上的传播范围。
新政策并不适用于这类视频。假信息研究人员将此类视频称作“浅层仿冒”视频,即用简单的视频编辑软件剪辑出欺骗性内容,这与由人工智能产生的深度仿冒视频仍有相当大的不同。
佩洛西团队的德鲁·哈米尔(Drew Hammill)在声明中表示,Facebook“希望你认为,问题出在视频编辑技术上,但真正的问题在于Facebook拒绝阻止假信息的传播”。