扎克伯格的一段深度伪造视频给Facebook带来了新的挑战

扎克伯格的一段深度伪造视频给Facebook带来了新的挑战

导读 当被问及扎克伯格被篡改的视频是否会得到与佩洛西被篡改的视频同样的待遇时,Facebook的公共政策主管尼尔·波茨(Neil Potts)上个月在加拿

当被问及扎克伯格被篡改的视频是否会得到与佩洛西被篡改的视频同样的待遇时,Facebook的公共政策主管尼尔·波茨(Neil Potts)上个月在加拿大的一次议会听证会上说,“如果是扎克伯格为佩洛西议长插入的同一段视频,也会得到同样的待遇。”

一名Instagram的发言人周二告诉CNN商业,该网站将“像对待所有Instagram上的错误信息一样”对待这段视频。该发言人表示,如果第三方事实核查人员将其标记为虚假,该网站的算法将不会推荐人们观看。

周二晚些时候,哥伦比亚广播公司(CBS)要求Facebook和Instagram删除这段视频,这可能会让Facebook和Instagram的处境更加复杂。扎克伯格用来制作deepfake的视频片段来自哥伦比亚广播公司(CBS)的在线新闻广播。“CBS已经要求Facebook撤下这个假冒的、未经授权的CBSN商标的使用,”CBS的一位发言人告诉CNN商业。

佩洛西的视频不像扎克伯格的新视频那样是假的,而是用传统的视频编辑技术处理的。有线电视新闻网(CNN)曾询问Facebook,是否有针对深度假货的具体规定。

扎克伯格的视频 Vice首先报道了此事,此时国会正准备就deepfake视频构成的潜在威胁举行首次听证会。今年早些时候,情报总监警告称,的对手可能会在未来针对该国的虚假信息活动中使用deepfake技术。

在首次被新闻媒体报道之前,这段视频的点击量不到5000次,但Facebook如何对待这段视频,可能会为它未来处理deepfake视频树立一个先例。

直到最近,视频骗局还相对少见,因为它们比静止图像的赝品更难得逞,但由于GANs(即生成式对抗网络)的兴起,这种情况正在迅速改变。GANs可以使用数据来产生新的东西。这种技术也用于制作深度赝品。

Ben-Ami说,在这个例子中,精明的人工智能选择了一个不到一分钟的场景,扎克伯格说话,然后用电脑将其与演员的声音和适当的面部动作融合在一起。他说,制作视频的最初版本花了大约一天的时间,其中一名艺术家的声音代替了配音演员对扎克伯格的印象和面部动作。制作最终版本又花了两到三个小时。

CNN商业联系了幽灵党背后的艺术家 但没有立即收到回复。

Ben-Ami的公司专注于从一种语言到另一种语言的视频配音,他对这段视频以及其他一些精明的人工智能在没有语境的情况下传播的视频表示担忧,这些视频被创造为艺术。但他表示,他也想对此类媒体的创建提出质疑。

“人们需要知道这是可能做到的,”他说。

上个月,Facebook宣布将花费数百万美元资助研究图像和视频分析的学术机构。其中一些工作涉及到处理深度假货, 该公司表示。

分享到 :
相关推荐