注册送白菜网论坛网,送彩金200的网站大白菜,送彩金500的网站大白菜

如果你的脸被嫁接到AV里,声音被用于诈骗电话
2019-11-20 08:00

如果你的脸被嫁接到AV里,声音被用于诈骗电话

本文来自微信公众号:大家-腾讯新闻(ipress),本文原标题:深伪,作者:刘新宇,题图来自:视觉中国


我们过去说,历史是个任人打扮的小姑娘,那么现在,现实也是了。


几个月前,以ZAO为首的换脸视频在中国突然大火,上传一张照片,迅速得到自己为主角的小视频,这是广大人民群众跟深伪的第一次亲密接触。然而,马上就有质疑指出其中对于个人隐私的潜在风险,以及深伪跟色情产业的微妙联系,于是,我们跟深伪的“贴面舞”来去匆匆。



然而,根据我在美国华府所见,对于深伪,美国政界、学界的警惕远超中国—近期,随着美国总统大选的临近,越来越多的媒体和智库开始担心基于选举的民主政治制度,甚至可能无法承受这种技术之重。


01

一段在YouTube上走红的、前总统奥巴马爆粗现总统特朗普的视频,可以看做是深伪的牛刀小试。视频中,奥巴马在疑似白宫办公室的地方,以经典的奥巴马腔,一本正经的说特朗普是个彻底的XX。



视频不是真的,但美国人民的担心确实是。


据CNN的报道,五角大楼为应对深伪,拉上几家最牛的研究机构和实验室,成立了“先进研发项目防御局”(DARPA)。甚至有官方声音称,这个技术具有武器级的重大威胁;Facebook据说也砸下重金,研发深伪识别技术。不管华盛顿还是硅谷,现在媒体也掺和进来,同声合唱对这种造假技术的天大的担心。那到底这个让美国寝食不安的深伪是什么?


深伪(Deepfake),简单说就是一种软件技术,由AI执行,可以对被模仿者的面部建模,来合成天衣无缝的伪造视频。深伪的神奇之处在于,即便你从未做过那些事,说过那些话,去过那些地方,碰到深伪,一切都不是问题,一切都能让围观群众的眼睛信以为真。


除了奥巴马,YouTube上还有一大票名人深伪,小布什、小扎、尼古拉斯凯奇……深伪,像黑暗中蛰伏的猛兽,正蠢蠢欲动。


一般来说,要深伪,首先要搜集被模仿者的原始素材,包括视频、声音和照片,然后通过专门的软件,模仿你的表情、习惯、声音、肢体动作,甚至说话节奏。在无人提醒的情况下,深伪很难被察觉,即便有人提醒,在高手制作的视频面前,你也很难确认那是“真的假”。


02


深伪首次引起公众注意是在2017年,Reddit的某些无聊用户,把一位名人的脸和一部色情片深伪了一下。现在,随着机器深度学习的推进,深伪技术一日千里—大量原始素材?漫长的制作时间?超强算法能力?这些以前的条件现在统统不需要了。


这么说吧,通过开源软件,即便不专业的人,也可以轻松深伪。当然,你极客,非要达到乱真的效果,那确实还需要点专业能力。但对比两年前,深伪粉可以拍胸脯问,随着技术的迅速成熟,这一门槛被踏平的日子还会远吗?



03


深伪的力量不仅取决于它们看上去有多真,更重要的是它们传播的有多快。


人们深信自己的眼睛,这是进化赋予我们的本能。千百年来,我们就是靠着双眼所见来判断真伪,做出决定。但这种本能适应的是那个真实世界,那个双眼不会被轻易欺骗的世界。面对这个眼见不为实的新世界,人类的生物进化和认知能力已经被技术进化和AI耍的团团转。


当一个爆炸性的深伪视频通过互联网和手机推送到你面前时,即便几分钟后就被澄清那是个假消息,但就在这短短的片刻之内,它可能就已经扩散给数以千万计的人。在大众心理学中,面对两个截然相反的消息,那个不同寻常的更容易被接受。


因此,即便面对澄清,我们也往往会认为那不过一种官方的掩饰手段。设想,当你面对两个都说对方是假的视频,而视频本身看上去都如此真实,你会如何做判断,而且,如果不是两个,而是同时有三、四个罗生门般的视频,估计大部分正常人都会被彻底搞晕。


自媒体的兴起是这一问题的催化剂,因为没有“中间商赚差价”,理论上,所有人都可能把深伪视频直接推给所有人。未来,真要深伪,根本不需要一个团队,一人足矣!


设想一下,一个不怀好意的深伪极客,躲在自己房间里就有可能引发一次现象级的信息海啸,当无数海啸以迅雷不及掩耳盗铃之势铺天盖地而来时,一个充满混乱和无所适从的时代必然随后而至。



04


仅在2019年,1.5万个深伪视频已经上网,其中96%都是色情视频。事实上,已经有人因此深受其害。


Rana Ayyu,一位印度女调查记者,因为报道触怒了了不少网民,她的穆斯林身份,更是给她带来经常性的社交媒体暴力。去年4月,一名8岁的克什米尔小女孩被强奸,Ayyu在BBC的报道中,批评印度政府对频发的儿童性犯罪打击不力。


第二天,先是有人伪造她的推特截图,说“我恨印度和印度人”“我爱巴基斯坦”“我赞同儿童被强奸,只要是以伊斯兰教的名义”。


更可怕的是第二天,当她约了朋友在咖啡馆商量怎么对付这些事的时候,接到编辑的信息和一条链接,点开一看,是一部她做主角的色情片—别有用心者把她的脸深伪到了一部色情视频中作为报复。


Ayyu崩溃到进了医院,之后即使她做了很多努力,但无论她如何澄清这一切,她的每一条社交媒体发言后永远跟着无数的谩骂,其中夹杂着大量这部深伪色情片的截图。


更有甚者,2018年6月,还是在印度,一部儿童被绑架的视频引发了多起暴乱,8人被杀,其中5人仅仅是因为路过一个村庄,下车后跟一个当地女孩说了句话,就被随后赶来的至少35个村民围殴致死,随后赶来的警察也没能幸免,至少4名警察被打伤。


而这部网上传的沸沸扬扬的所谓儿童绑架视频,其实是被深伪的一部巴基斯坦儿童安全活动的资料片,面对这种无中生有的荒诞悲剧,人们不禁在想,在未来这些会不会成为某种常态。


深伪不仅影响一些社会议题,甚至成为新型经济犯罪的手段。根据华尔街日报报道,一家英国能源公司,被犯罪分子利用AI合成技术,模仿公司CEO的声音,骗走了24.3万美元。


设想,在电信诈骗如此泛滥的今天,如果你的家人,特别是老年人,听到你“亲口”说要转账多少应对某个“紧急”情况,他们会怎么做?或者你自己,听到你孩子的班主任,或者你的爱人在电话里焦急的告诉你孩子“出了车祸”,让你赶紧打一笔急救费,你会怎么做?电话不行,那深伪一个视频电话又如何?普通人在深伪面前几乎毫无还手之力。



05

美国即将迎来2020年总统选举,情报部门发出警告,按照目前深伪技术发展的速度,很有可能政治对手之间会有冲动利用它,在“关键时刻”给对手致命一击,特别是那些处于不利地位的候选人,精心准备一个足以让对手翻盘的话题,然后搜集对手的照片和视频(对于公众人物来说,没有任何难度)。


深伪一个含有某些真实的假视频,然后在对手根本来不及辩解的时刻,比如投票前几个小时利用无法追踪IP的技术上传到所有的社交平台,那将造成巨大的混乱,甚至颠覆性的结果。


这种改造其实并不是什么新东西,早在80年前,斯大林就把他的政治对手,一个个从过去的公开照片中“清除”出去。1990年代,Photoshop给了修图师先进工具,从而我们有了P图的概念。而现在,正如一位研究者所言,也许人类正在跨入一个“真实世界崩溃的大时代”。


BBC的新剧《真相捕捉》讲了男主陷入一场绑架和谋杀指控,而“作案的全过程”都是由街头的视频探头被检测中心当场看到的,而事实上,这一切不过是利用深伪技术合成的。这部新剧从法律角度发出了质疑:如果深伪能够任意制作视频,那么现在法庭的视频采信证据将不足为凭,而这将深刻影响各国的审判体系。


《真相捕捉》剧照


06


怎么办?


第一个办法当然是增强识别能力,用AI去对付AI。五角大楼组织的DRPA事实上就是这个思路的产物。除了研发新型识别软件,同时还需要改造硬件,比如在手机、摄头、录像机,甚至图形工作站等等涉及深伪制作的硬件中烧入隐含识别码,这样便于追踪视频的来源。


然而,哈利·法瑞德,一位著名的图像识别专家认为,目前的图像识别技术已经被深伪远远甩出几条街。我们现在更有可能的不是识别出哪些是假视频,而是被假视频愚弄,认假为真。


在10月底华盛顿著名智库CSIS举行的一次深伪研讨上,与会专家提出要加强对于公众的深伪教育。但是,如上所述,即便所有人都知道深伪的存在,我们难道就有能力辨别么?充其量,我们会对所有的事情将信将疑,而日常生活中对于事实和确定感的丧失,最终结果就是我们将越来越凭借个人的喜好和主观行事。


自文艺复兴以来建立的客观和理性大厦,将逐渐被侵蚀,另一种“迷信”将弥散到人类社会中去。直到某一天,我们不借助AI就无法判别真相的时候,谁掌握了AI,理论上,谁就具备了左右真实世界的力量。


专家同时指出,辨别真伪要倚重消息源,这个提法跟倚重AI本质上没有区别。互联网本身是去中心化的产物,在它诞生半个世纪之后,我们要再次投靠中心化、权威和认证来保障真实吗?这不仅是理念之争,背后有着一个更本质的问题:如果我们只相信权威机构和平台的信息,那么谁来监管它们?


如果它们被操控,丧失了真实客观,谁有能力来纠正,谁又有能力来告知我们真相—即便真相摆在面前,但因为它们不是来自于权威和中心,因此真的也为假,没有人会相信。到那时,我们就会成为传说中那些永远叫不醒的人。


还有学者提出要借助法律,也许吧。在美国弗吉尼亚州已通过法律,禁止深伪色情视频;加州和德州更把用于选举的深伪行为视为犯罪……然而,这真的行得通吗?



07


在CNN的深伪专题中,专家们认为这种技术必将极大的影响世界,甚至改变历史进程。


试想如果阿姆斯特朗时代有深伪技术,那么谁会真的相信美国人登上过月球?又或者,那段导致尼克松下台的水门事件的电话录音,也根本毫无说服力,那么这位开创了中美邦交正常化的总统,大概率不会被国会启动弹劾,从而获得连任。


由此想到上个月在“乌克兰电话门”旋涡中心的特朗普,怪不得气定神闲,也许官司真打起来,一段音频恐怕已经很难像当初那样有杀伤力。


借用深伪视频里“奥巴马”的话说,既然你的敌人可以让你在任何时间、任何地点说任何话。那么你其实可以不认任何你说的话,无论真假。



本内容为作者独立观点,不代表注册送白菜网论坛网立场。未经允许不得转载,授权事宜请联系hezuo@huxiu.com

正在改变与想要改变世界的人,都在注册送白菜网论坛网APP

读了这篇文章的人还读了...

回顶部
收藏
评论10
点赞59