“换脸”真相:“深度伪造”的网络狂欢和安全威胁

来源:北京日报  2019-09-09 11:40
分享到:

深度伪造技术是利用人工智能合成以假乱真的视频,这是一种高科技手段,可以把某些话塞进某人嘴里。

近期,一款名为ZAO的人工智能换脸APP在国内推出。用户只需上传一张正面照,就可以一键操作,把一些影视剧片段中演员的脸换成自己的,立刻生成视频,还可通过社交媒体传播,仿佛瞬间圆了明星梦。

这一款换脸APP很快就成了爆款,颇受欢迎,但也很快引起有关部门的注意,就在上周,工信部就网络数据安全问题约谈了相关公司。

与此同时,“换脸” 软件所依托的的一项AI技术,也引起了人们的关注,它被称为:DeepFake, 深度伪造。

外国媒体报道:我们不能相信网上的所有东西,没错,深度伪造,深度伪造,深度伪造!是的,这到底是什么?深度伪造技术是利用人工智能合成以假乱真的视频,这是一种高科技手段,可以把某些话塞进某人嘴里。

Deepfake(深度伪造),“Deep learning”(深度学习)和“Fake”(伪造)结合而成的新单词。

简单来说,这是一种可以实时伪造面部表情,并将其渲染成2D合成视频的人工智能技术。

早在一年多前, 2017年12月,一个名为“DeepFakes”的用户在Reddit网站发布“假视频”,将成人色情电影中演员的脸替换成了斯嘉丽·约翰逊等知名女演员的脸,画面以假乱真。这为人工智能换脸技术吸引来了一大波流量,“DeepFake”深度伪造,也逐渐成为这一技术的代称,同名算法也在Github开源,这是一个面向开源及私有软件项目的托管平台。

网络视频打假专家沃德尔博士:你好,今天我要和你讨论一项影响名人的新技术。(记得)奥巴马说特朗普是笨蛋,或者卡戴珊的说唱“因为我总是半裸吗”?深度伪造!深度伪造!深度伪造!这也是深度伪造,我也不是阿黛尔,我是(打击)网络伪造的专家。深度伪造用来形容人工智能技术合成的视频或音频文件。它起初就是一种非常基本的面部更换,现在还成了电影特技。有了这样的爆款技术,天啊,我们不能相信任何东西了。没错,深度伪造就是可怕的反乌托邦。它们只会变得更容易,制作成本也更低廉。

李浩是美国南加州大学的助理教授,“针幕动画”公司的联合创始人,这家公司推出的软件可以让用户在玩虚拟现实游戏和购物时,即时定制自己的三维虚拟化身。

“针幕动画”联合创始人李浩:现在我制作了一个你的化身。

美国公共广播公司记者奥布莱恩:一个和蔼整洁的奥布莱恩。

这种戏法可以用在任何人身上,当然也包括政界要人。

美国公共广播公司记者奥布莱恩:现在我成了我们的总统(特朗普),日本首相安倍晋三。

“针幕动画”联合创始人李浩:当然,这个技术可以用来做一些真的很坏的事情。但主要目的绝不是如此,它被用于娱乐,一个有趣的工具,用于时尚、生活方式各方面,带给我们更多体验。

但随着技术的发展,这样的合成图像或视频,真实度越来越强,欺骗性也越来越强。对此,研发者也不无担忧。

“针幕动画”联合创始人李浩:我们都假设会有一个临界点,届时将无法区分真假。我的意思是,从视觉效果上说,我觉得你已经可以做到非常接近了,只是取决于你花多少努力在上面。但就任何人都可以创建的内容而言,我认为已经非常接近这个临界点了。

2018年1月,一个名为FakeApp的软件上线,宣称可以实现“一键换脸”。可生成的视频内容包括恶搞美国总统特朗普,或是将自己的脸贴到好莱坞明星身上。

虽然有的社交新闻站点比如Reddit网站,已明令禁止在自己的平台传播换脸视频和图片,但仍有超过9万名用户在Reddit上传播这类视频。

计算机科学专家法里德:我担心这项技术被武器化,还担心它如何影响我们整个社会。

深度伪造不仅可以换脸,还可伪造声音。

据《华尔街日报》报道,今年3月,有犯罪分子利用“深度伪造”技术,电脑合成某公司CEO的声音,成功诈骗22万欧元。

电脑合成声音真的这么难以识破吗?

2018年,三名蒙特利尔大学的博士联合创办了一家名为“琴鸟”(Lyrebird)的公司。该公司开发出了一种“语音合成”技术,只要对目标人物的声音进行1分钟以上的录音,把录音丢给“琴鸟”处理,就能得到一个特别的密钥,利用这个密钥可以用目标人物的声音,生成任何想说的话。

“琴鸟”创始人:你需要录自己几分钟的声音。

彭博社记者 万斯:上千个字母在业余作家的屏幕上跳动,当你开始像这样吃东西时,就会有问题,你们最好退出政治圈,别干了。我不知道它怎么工作的,现在创建我的数字声音。创建你的数字声音至少需要一分钟,一分钟,我的天啊。

语音录制完后,“琴鸟”会自动运转合成出你的数字声音。

这时,只需要向电脑输入想说的话,就可以用新合成的你的声音说出来。

记者万斯的数字合成声音:人工智能技术似乎发展非常快,我们该感到害怕吗。

彭博社记者万斯:我的确听到了,真的很有意思。我只是随便挑了,我从没说过的话。

而且,“琴鸟”还能在合成声音中加入“感情”元素,让声音听上去更逼真。

彭博社记者万斯:现在为了实验一下我的电脑合成音,我要给我亲爱的妈妈打个电话,看看她是否能听出来。嗨,妈妈,你们今天什么安排。

万斯的母亲:今天一早家里没电了,我们正在房子里溜达。

万斯:我刚刚下班,等着接儿子回家。

万斯的母亲:好的。

万斯:我觉得我可能感染了病毒。

万斯的母亲:那你感觉不舒服,是吗?

万斯:哈哈,我刚才是和你捣乱,你刚才在和电脑说话。

万斯的母亲:我感觉在和你说话,真是奇妙。

万斯:你觉得吓人还是觉得不错。

万斯的母亲:如果涉及到非常重要的事情,真的挺吓人的。不过现在是你了,对吗?

万斯:我不知道。

万斯的母亲:听上去是你。

万斯:是吗?

万斯的母亲:是,是,听上去就是你。

彭博社记者万斯:很明显,有些人被这项技术吓坏了。因为我们已经让现实真相变得模糊不清。

“琴鸟”创始人:当然,的确存在有人利用这项技术做坏事的风险。但是,科技不可能停止发展,所以我们决定选择符合道德的做法,将技术展示给人们,让人们知道这项技术的可行性,让他们提高警惕。

网络安全公司Pindrop在2018年五月对美英德法四国共500家企业展开网上调查,结果显示,从2013年到2017年,语音欺诈案件的数量增加了350%,每638个欺诈电话中就有1个是人工合成声音。

瑞士苏黎世大学研究员乌德里什:长久以来,人类的声音是(造假者)最大的挑战,因为每种声音都极其复杂且独一无二,它们几乎不可能被伪造。但在最近几年,(科技)取得了巨大进步,视频素材和伪造声音的结合造成了巨大的威胁。

的确,有了成熟的声音造假技术,再配上伪造图像,做出一条以假乱真、别有用心的视频真的不难了。

“深度伪造”假视频:特朗普总统是个彻底的笨蛋,你看我永远不会说这些话,至少在公共演讲中(不会),但其他人会说,比如乔丹·皮尔。这是一个危险的时代,以后我们要对我们所信任的互联网更加警惕。在这个时代我们需要可信的新闻来源,听起来很简单,但我们该如何发展,信息时代将决定我们是生存,还是成为某种糟糕的反乌托邦。谢谢。

这段视频看上去是美国前总统奥巴马在发表演讲,实际上却是喜剧演员和电影制作人皮尔的表演,声音和画面都是通过软件合成的。

计算机科学专家法里德:人工智能系统合成了奥巴马的嘴,使其与音频流保持一致,让视频看起来像是奥巴马总统在说他之前从未说过的话。这叫作唇同步深度伪造。

技术本无善恶,深度伪造可以被运用于趣味视频、游戏以及广告合作中,但恶意运用也会带来严重后果。它可能会摧毁我们对现实的认知,使人们不敢再相信视频、录像。

美国卡内基国际和平基金会也警告称,深度伪造正在带来破坏性的影响,也会对反恐和国家安全造成危害。

计算机科学专家法里德:噩梦般的情况是,出来一段特朗普总统的视频,他在视频里说,我对朝鲜发射了核武器。有人黑进了他的推特账号,这条消息被疯狂传播,短短30秒,全球核战爆发。我觉得这可能吗?不,但并非完全不可能,而且会把你吓得半死,对吗?但这并非不可能的事实,真的令人担忧。

从“深度学习”到“深度伪造”,照片、声音、视频都可轻松造假,而识别深度伪造则要比制作深度伪造难得多。

当“眼见未必为实,耳听未必为真”,我们又该怎么办?

扎克伯格“深度伪造”假视频:这都要归咎于Spectre漏洞,它告诉我谁掌控了数据,谁就掌控了未来。

今年6月,图片分享网站Instagram出现这样一段视频。脸书公司创始人扎克伯格就大数据的威力发表演讲。

但很快,扎克伯格就辟谣说,自己从未说过这些话。事实上,这是以色列一家科技公司利用深度伪造技术合成而来的。

略显尴尬的是,脸书曾宣称,该公司不会删除假新闻,但会减少其在网站上的影响力,并显示来自事实核查人员的信息。

而Instagram总裁莫斯里也在接受采访时表示,目前业界还没有大规模的数据或标准对这些假视频进行检测。

Instagram总裁莫斯里:目前,我们还没有应对深度伪造的政策,我们正试着评估是否愿意这么做。如果要做,又该如何定义深度伪造。我觉得(此类事件)并不好。

主持人盖尔·金:你可以限制这种技术,你有影响力。

莫斯里:实际上,我想的不仅是把它撤下来,我认为问题在于,我们如何以有原则的方式做到这一点。

对此,《财富》杂志呼吁说,现在已经到了科技公司、学术界和政府共同努力寻找解决方案的时候了。

6月13号,美国众议院情报委员会召开关于人工智能深度伪造的听证会,公开谈论了深度伪造技术给国家、社会和个人带来的风险,以及该采取的防范和应对措施。

目前,世界多国也都开始进行立法,强化对人脸信息收集和识别技术应用场景的约束。但所有努力都离不开社交媒体平台的配合。

计算机科学专家法里德:但大多数情况下,社交媒体平台对如何处理这类非法内容、有害内容、不实信息、假新闻、选举篡改、非自愿的色情等内容都显得漫不经心,因为这些内容吸引眼球,对生意有好处。

近日,脸书、微软等科技公司和众多学术机构联合发起一场“揪出深度伪造影像挑战赛”,希望改善现有工具,加强对深度伪造图片、声音和视频的检测能力。

9月5号,脸书宣布将为此投入1000万美元。

美国加州大学伯克利分校的研究人员也在研究如何应对深度伪造。

计算机科学专家法里德:我们应对这一问题的方式是,建立了软生物识别模型。这些生物特征指的是像指纹、虹膜、面部。它没有那么独特,但其目的是捕捉微妙的面部表情、头部移动,这些每个个体独有的,但在假视频制作时被打乱了的特征。

计算机科学专家 法里德:首先我们会测量各种头部移动和面部表情,你可以在这个视频里,看到我们正在捕捉蓝色盒子,正在捕捉他的头部在三维空间里如何转动。红点是在定位他的面部表情,实际上我们可以看到他何时会抬起眉毛,何时会张大嘴巴。当然,他眼睛里的绿色激光会告诉我们他在看哪里。整个视频中的每一帧画面,我们都会对他的面部表情、面部动作、头部动作做一些测量,之后我们用这些建立软生物识别模型。

计算机科学专家法里德感叹称,制作假视频的人越来越多,造假技术发展非常迅速,而相比之下,打假队伍的力量显得落后而薄弱。

美国五角大楼有一个研究团队,又称美国国防高级研究计划局,也在一直研究如何抵抗“深度伪造”的威胁。

计算机科学家图雷克:这让我们对图片和录像都不信任了。

而检测伪造视频的软件,可以描述嘴唇运动,将其与视频中的声音进行比对。

计算机科学家图雷克:当看到这些红点时,意味着说话者的声音实际上与其嘴唇运动不一致。

再来看这段视频,看上去这两人是坐在一起的,但通过测定他们脸上的光照角度,可以判定这是一个合成的视频。

计算机科学家图雷克:它预估了一个人脸3D模型跟这个模型一起,软件还估计了面部反射特征和光照角度。这里,我们主要使用了光照角度来看那些(特征)是否一致。

这是监控录像中的一段画面,检测软件试图预测物体的移动方向。

计算机科学家 图雷克:它检测到了物体运动的不连续性,这给我们发出了信号来仔细查看图片或视频,(推断出)也许画面就是从这里被清除的。

检测发现这段视频被动过手脚,另一辆车被从画面中剪切掉了。

计算机科学家图雷克:这是一个猫和老鼠的游戏,拆穿假图片或视频的层面越多,给造假者形成的压力也就越大。

两年前,美国发布《人工智能与国家安全》报告,明确将人工智能伪造技术列为威胁国家安全的重点技术。

作为人工智能发展大国,中国也已经在加强政策和技术方面的监管,应对人工智能新技术可能带来的安全风险。

毕竟,当声音、指纹、人脸等重要的生物识别信息都开始出现“高仿”时,风险和隐患也将越来越多。

编辑:zhaoxiaofei
  • 热门排行
  • 大家喜欢
申博直营现金网 百家乐支付宝充值 www.77sbc.com 申博138怎么登入不了 菲律宾申博娱乐官网 申博开户网登入
申博游戏苹果手机怎么登入 申博现金网登入 www.9810.com 申博在线 www.tyc88.com 申博138直营网
申博www.sbc66.com直营网 申博现金直营网 777老虎机微信支付充值 菲律宾申博官网免费开户 申博电子游戏登入 sun138.comwww