小斑马娱乐
新浪微博
微信
当前位置:小斑马娱乐网 » 简历

人工智能特朗普完胜人类模仿者,“深度伪造”或将影响2020年美国总统大选


近日,一个得到美国前副总统乔·拜登支持的政治组织担心Deepfake (深度伪造)可能对民主构成威胁,他们开发了一个“在线测验”,发现人工智能创造的特朗普比人类模仿更逼真,如果该技术未得到遏止,可能影响2020年美国总统大选。



人工智能特朗普完胜人类模仿者

人工智能越来越能够模仿人类,技术的进步可能成为全球民主国家的主要风险。

这就是跨大西洋选举诚信委员会(Transatlantic Commission onElection Integrity)所担心的问题,该委员会是一个美国和欧洲的联合组织,旨在打击干涉美欧选举分子。

该组织是去年由丹麦前首相兼北约前秘书长Anders Fogh Rasmussen和美国前国土安全部部长Michael Chertoff成立,并成为Rasmussen政治基金会民主国家联盟的一部分。成员包括前美国副总统Joe Biden和前爱沙尼亚总统Toomas Hendrik Ilves。

依托人工智能公司ASI Data Science(总部位于伦敦的数据科学公司)开发的技术,这个支持民主的团体将注意力集中在在线社区中的一种新应用——“Deepfake”(深度伪造),利用计算机生成的视频或音频,看起来或听起来好像有人在做或者说一些原本没有的东西。ASI今年早些时候就与英国政府合作一个新项目而备受关注,该项目可以在任何在线平台上以惊人的准确度自动检测恐怖内容。ASI使用“先进的机器学习”来分析视频的视觉和音频,结果显示该工具能够自动检测94%的ISIS宣传信息,准确率为99.995%。

近日,跨大西洋选举诚信委员会和ASI开发了一个“在线测验”,用户可以听到特朗普的人类模仿者的声音 ,包括喜剧演员AlecBaldwin在"Saturday Night Live"(周六夜现场,简称SNL)模仿特朗普的声音,屡获殊荣的特朗普模仿者John DiDomenico 的声音,以及算法生成的音频模仿特朗普的声音,并让听众比较这些声音选出谁更像他特朗普的声音。

测验结果显示,在267人中,更多的听众认为人工智能的深度音频比任何人类语音样本更接近特朗普。超过90%的人发现算法生成的版本比Baldwin在SNL模仿特朗普的声音更像其本人。


Deepfake:下一代虚假信息

Deepfake实际上是一种视觉+音频的交换技术,顾名思义,也就是在图像或视频中把一张脸替换成另一张脸,再加上机器合成的声音。例如,把演员的脸替换成某个艺人的脸,从而制作成了这个看上去以假乱真的视频。

其实,Deepfake 早在2017年就十分火热,一个名为“Deepfake”的用户在Reddit上发布了一个“假视频”,视频中的艺人其实是后期加上的,但是看起来几乎毫无破绽。他们使用了一款名为FakeApp的应用程序,基于谷歌开源平台TensorFlow制作色情内容。

从视频发布以后的好几个星期,网络上不断有人发表文章和报道,抨击这一“换脸”技术,称这种技术将会对社会产生很多负面的影响。比如说,这个“换脸”技术会给很多无辜清白的人(像那些无故出现在成人电影中的艺人)造成困扰;“假视频”会加剧虚假新闻的散播,进而将大大损坏视频作为证据的可信度。

专家们十分担心新生技术可能对民主构成威胁。

跨大西洋选举诚信委员会成员、前美国驻联合国人权理事会大使Eileen Donahoe在接受采访时告诉CNBC,“我们认为Deepfake是下一代的虚假信息。”

她表示,各国政府还没有做好准备应对这种新技术对选举带来的干扰,这使得在未来的选票中Deepfake使用的风险更加令人担忧。包括英国脱欧公投和美国总统大选在内的备受瞩目的选票受到困扰。

Donahoe表示,她特别关注俄罗斯利用这项技术的动态,以及其他“专制倾向”政府在该国领导下的技术蔓延。

“很担忧的是,全球范围内将出现越来越多干扰信息传播,并破坏民主所必需的话语质量” Donahoe说,“最后的结局是削弱对民主作为一种治理形式的信心,而对信息质量的侵蚀是新的威胁。”

如果该技术结合互联网的病毒式传播,后果将不堪设想。此前,Facebook 因用户数据泄露而陷入丑闻堪比一场灾难,这场灾难仅因为其合作的一家公司Cambridge Analytica分享了8700万人的个人资料。

Donahoe 解释了为什么委员会选择特朗普测验,她说:“委员会已经为人们信息受到侵犯做好了准备,我们想希望借助特朗普的抗议对假新闻和虚假信息进行遏止。”

为了探究这项技术,新闻网站Buzzfeed也利用FakeApp创建了一个虚假的公共服务公告,将前总统奥巴马的镜头与喜剧演员兼电影制片人JordanPeele的说话结合起来。


但这个过程绝非易事。BuzzFeed的DavidMack 当时报道称,“渲染素材需要超过56小时的自动处理时间。”

ASI Data Science数据科学主管John Gibson告诉CNBC,创建Deepfake的音频组件更加艰巨。视觉和音频组件之间存在差异,视觉上的东西实际上很容易“死”。

他补充道:“为了创造逼真的声音,你需要在一毫秒内处理大量的信息,而这项技术还不成熟。”

该项目使用了两个小时特朗普演讲的音频,并花了几天时间才完成。Gibson说,委员会和ASI研发的特朗普模拟人工智能音频模型,为了创造一个听起来更逼真的新模式,每天需要花费大约650美元用于改进计算能力。

“未来,我们将重新开始研究并建立一个更好的模型,会迅速取代测验中第一个模型的质量”Gibson说。


Deepfake可能影响美国2020年总统选举

此前还没有一个Deepfake被用来模仿政治人物,但该委员会确信这一现象将成为一个大问题,特别是在美国2020年总统大选之前。

委员会的顾问Nina Schick在接受采访时告诉CNBC,“你可以想象当数十亿人在网络上连接网络时会产生什么样的政治后果。”

她补充说,目前,普通人要做Deepfake的内容门槛仍然相对较高。但是,开源平台的易用性和不断增长的计算能力意味着像俄罗斯这样强大的外国可能不是唯一能够影响选举的参与者。

“技术正在迅速发展,毫无疑问,潜在的恶意行为者将会投入大量资源,在大约12-18个月的时间内,您将能够在应用程序上创建非常逼真的Deepfake”Schick说。

“这会带来严重的后果,因为普通人都可以创造错误信息意味着它不再受国家控制,实际上,愤怒的青少年都可以创造它并传播它。”

ASI的Schick表示,鉴于互联网的“病毒式”传播性质,不准确的新闻可能像野火一样蔓延,并且视听内容比书面新闻更有优势,Deepfake被用于影响2020年总统大选的可能性很高。

该委员会的下一步是创建一个“工具包”,使其能够轻松发现Deepfake,使记者能够检测到Deepfake材料,并向公众宣传该技术。Schick说,它正在与美国的斯坦福大学和哈佛大学以及伦敦的UCL合作,建立深度检测软件,并希望在未来12个月推出它。

“在一个民主国家,消息通常不是非法的,我们不想激励政府转向以内容为基础的监管” Donahoe说。

“打击这些信息效果的最有效工具是让公民做好准备并适应虚假信息。”

注:本文来自CNBC,AI商业周刊编译


近期文章 

《互联网下半场不再属于北京》 


公众号后台回复“进群”备注“公司+称呼”
加入
“人工智能读者俱乐部”