文章经授权转自民众号：棱镜(ID：lengjing_qqfinance)作者： 王凡

“蚂蚁呀嘿，蚂蚁呀呼，蚂蚁呀哈哈…”

3月初，抖音短视频平台上，成龙、蔡卓妍、任贤齐等明星等通过AI变脸特效模块，团体唱歌。只需要上传一张照片就可以生成动态唱歌的简朴操作，引发无数网友跟风流传。甚至有人做出了巴菲特、马斯克、雷军等中外知名大佬一同“蚂蚁呀嘿”的搞笑视频，形成病毒式流传。

大佬一同“蚂蚁呀嘿”的搞笑视频被疯传

“蚂蚁呀嘿”所借助的AI变脸软件Avatarify在中国区的App Store登上免费榜榜首时，也让它依托的“深度伪造”(Deepfake)技术再度进入公共视野。现在，该应用已经在中国下架，原因或涉及隐私宁静。

“面临挤眉弄眼的大佬唱歌，我基础笑不出来，只是以为深深的恐惧。”一位用户对作者表现，这既来自于“AI深度合成”技术以前所未有的速度和规模，从实验室渗入公共数字生活中，也包罗“肉眼难辨真假”的背后对小我私家信息宁静和社会信任体系重新审视的惴惴不安。

当“所见非所得”之后，AI换脸会带来新的缔造力吗，照旧通往隐私泄露、信任体系崩塌的深渊呢?

我如何让爱因斯坦预测新冠?

当“蚂蚁呀嘿”在中国抖音上登上热搜榜之际，大洋彼岸的Tiktok(外洋版抖音)上，影星“汤姆·克鲁斯”对着镜头变魔术和打高尔夫的短视频掀起怒潮，吸粉39万，点击量1100万次，在其他社交平台上的再流传量也到达千万级别。

但问题是，视频中的汤姆·克鲁斯并非本人，而是深伪技术下的一个“幻象”。无数人在假账户下留言惊呼，“你居然告诉我，这是个假视频!?”

抖音上的假阿汤哥账号，粉丝量比真阿汤哥账号还多，中间的视频都是用深伪技术合成的假视频。

在假账号吸粉32万人之后，乌米向作者提供了制作假视频的技术拆解视频

克里斯·乌米是一位专业的视觉特效师，任职于《南方公园》动画首创人马特·斯通和特雷·帕克的AI实验室，自己也有自己的事情室。泉源：VFX Chris Ume

“我只想娱乐各人，没有恶意。”这则假视频背后的技术操刀人克里斯·乌米(Chris Ume)在3月4日对作者表现。他强调，假阿汤哥视频借助18000张差别角度的影星照片来训练机械算法，专门模拟阿汤哥的演员Miles Fisher刻意的体态表达让疑惑性更强,同时每则视频在机械加工后还需要技术人员再花费24个小时举行后期调整。

“我使用的电脑硬件或是我的技术，不是普通人拿个手机就可以实现的。”乌米是一位专业的视觉特效师，任职于《南方公园》动画首创人马特·斯通和特雷·帕克的AI实验室，自己也有自己的事情室。他试图通过强调这则假视频背后的专业度，来反驳外界对他正在流传造假工具的指责。曾有用户在留言里痛斥乌米正在“打开潘多拉魔盒”。

在“假阿汤哥”视频之前，乌米还曾经在社交平台上宣布过多个借助深度合成技术完成的视频项目，其中包罗一则让爱因斯坦开口预测新冠的假视频。基本原理是通过机械学习既修复增强爱因斯坦的历史影像，也训练算法让视频中的嘴型适应新语言。类似的操作已经应用在实践中，好比英国球星贝克汉姆就曾经接拍一则消灭疟疾的公益广告。制作方为了当地化需求，使用深度合成技术，让只用拍一条的贝克汉姆在视频中用九种国家的语言，说出了同一句广告语。全球知名传媒公司WPP也借助深伪技术，让企业培训中的主讲人针对差别国家的员工讲述差别种的语言，视频中的面部行动与语音内容都是由软件合成的。

乌米曾经应用深伪技术修复爱因斯坦影像资料，并让他说出“呆在家中防范新冠”等爱因斯坦从未说过的话。

英国球星贝克汉姆就曾经接拍一则消灭疟疾的公益广告。制作方为了当地化需求，使用深度合成技术，让单条的贝克汉姆视频，“说出”9种差别语言的宣传语

“文创工业正在广泛研究深度合成技术可能带来的时机，虽然现在精度还达不到影戏播放的要求。”乌米对作者表现，在新冠疫情下各地“封城令”影响日常通行并暂停影视拍摄之际，深伪技术的应用，或能变为一种解决方案，弥补影视制作损失。

事实上，深度合成技术已经被应用在佳莱坞影戏工业。好比，奈飞的影戏《爱尔兰人》中就借助深伪技术将主演面部“减龄30岁”，以便让演员同时出演年轻时代，从而大大降低影戏的预算。

“技术自己并不违法，20年前，人们用Photoshop也可以做类似的换脸效果。”乌米如此应对外界对他使用深伪技术的指责，“如果应用恰当，可以带来缔造力。我不是法学家，也许他们可以要求深伪技术处置惩罚过的视频需要贴个标签之类。我只是个创作者。我也想通过这些短视频告诉公共，所见，也许并非所得。”

鉴假工具更新赶不上造假速度

与乌米这样走到台前自曝身份,并揭盅技术拆解的“造假者”差别，一批应用开源深伪软件的人群隐身于屏幕后甚至暗网中。使用深伪技术“瞒天过海”的案例屡见不鲜,名人是率先被模拟的群体。

国际规模内，政客演讲视频被深伪技术调慢速度，营造身世体不佳的假象;马克·扎克伯格受访视频被重新调整嘴型，说出“要删除社交网络”等他从未说过的话。

在中国，抖音、快手等短视频平台上，骗子使用简朴的合成技术，自称是靳东、马云等知名人士本人，骗取中暮年人的情感和款项。虚假的明星视频甚至形成了规模化的造假工业链，完成了直播带货、转手倒卖或者骗取钱财等多种使用造假变现的形式。

“假靳东”们引导粉丝关注、点赞、评论养号，或骗取钱财，形成黑产链条。

“假视频或是假图片都不是什么新鲜事物，但现在所能到达的精度和造假工具的可及性，是让我担忧的地方。”美国加州伯克利大学数字鉴假专家Hany Farid在接受外媒采访时表现。

纽约州立大学布法罗分校盘算机工程系教授吕思伟对作者解释道，假音视频愈发“以假乱真”源自三重生长：除了已往十年人工智能在盘算机视觉技术上的更新之外，另有赖于CPU、GPU所带来的硬件算力能力提高，和社交媒体普及后影像数据集的指数级增加。机械算法的仿真能力，源自巨量数据集的“喂养”。

造假并非无药可解，吕思伟所在的实验室正在通过机械学习的要领，寻找判别虚假音视频的技术解决方案：“欺骗人眼相对容易。但就佳像医生可以通过X光看到人眼看不到的问题一样，算法也可以提供数字鉴证的工具。”

但问题是，道高一尺，魔高一丈。鉴假工具更新赶不上造假速度。吕思伟的团队曾经接纳眨眼频率的方式来判别假视频，因为第一代虚假视频中大量使用网络静态任务图片训练算法。这些图片中的人物都睁着眼睛，因为没人愿意把闭眼的形象展示给民众，而造成造假时的毛病。

但随着更多动态视频进入数据集，造假视频的仿真水平进一步升级，则需要引入阴影渐变界限等物理特征的区别信号，举行数字判别。

在外洋，包罗脸书、微软在内的美国科技巨头在民众压力下，投入资金研究鉴假工具，但效果却无法让人完全放心。好比，脸书在2019年举行深伪判别挑战大赛效果显示，最佳体现的模子在处置惩罚公然的数据集时，也仅能到达82.56%准确度，当处置惩罚未公然的黑盒数据时，准确度为65.18%。

作者提交乌米制作的假阿汤哥视频至多个提供鉴假工具的公然网站，均无法识别视频为假。

更令人担忧的是，造假和鉴假成为一场财力人力悬殊的较量。

吕思伟所在的实验室开发的开源的深伪检测网上工具平台

吕思伟对作者表现，虽然鉴假技术存在，但苦于无法商业化，“因此没有什么人真正去做这个事情”。吕思伟所在的实验室开发了一款鉴假工具，放在网上，从去年11月开始约莫有五六百个用户使用。但和Avatarify通过深伪制造娱乐效果,形成自来水式的病毒性社交流传所差别的是，人们对鉴假服务的付费意愿不强，也让两方实力悬殊。

更为吊诡的是，因为深伪算法所依赖的GAN(生成反抗网络)技术自己就依赖两套对应系统，相当于是一个造假者和一个判别师在双方反抗，由造假者画出换脸之后的图像，由判别师把认为换得禁绝确的图像舍弃，筛选出仿真度高的举行保留，供机械继续训练精进，因此，鉴假技术的精进，反过来也能促进造假技术的进步，形成左右手互搏的态势。所以，脸书或是微软都未公然自己的鉴假算法。

如何防止AI换脸走向堕落

问题是，深伪工具的开源化、普及化已经让被造假的主体不仅仅是名人，而可能成为任何普通人。

英国作家海伦·莫特(Helen Mort)就是受害者之一。有人通过扒取她在2017-2019年的私人社交媒体账户图片，将她的脸嫁接在色情视频上，广为流传。遭遇类似霸凌履历的另有澳大利亚18岁女生诺埃尔·马丁(Noelle Martin)。她们并不知道始作俑者是谁。

除了开源的深伪软件可下载之外，暗网中藏有专门提供造假服务的群体。网络宁静公司Gemini Advisory的研究陈诉显示，暗网中，只需要付费就有人提供服务，可以针对专门的数据集制造一个“以假乱真”的面貌，用于绕过数字ID等检测系统。凭据网络宁静公司Deeptrace的陈诉，30美元就可以买到一项“换脸服务”，如果要更换语音，价钱是“10美元50个字”。该陈诉同时举例称，曾有骗子伪装成一家英国能源公司的母公司老板致电员工，让后者将24.3万美元打给一家匈牙利的供应商，随后发现电话中的声音为合成后的假声音。

除了小我私家隐私泄露风险和可能成为新的欺诈工具之外，吕思伟还担忧，深伪技术若被恶意滥用，可能带来的认知层面的不信任感。“虚假音视频带来的最大风险，是信任体系的崩孬。深伪让人发生一种幻觉，让一些人看上去说了他实际上没有说过的话。这是对信息可靠性最直接的破孬。”

吕思伟认为，大部门非专业制作的虚假音视频依旧粗拙，稍有分辨力的受众，可以有所判断，但由于流传平台指数级的增加，信息批量涌向受众，快速疏散着受众注意力，让受众在很短时间里难辨真伪。受众基于自身兴趣，条件反射般地举行转发，也造成对虚假影音视频推波助澜的作用。

虽然普通人现在还无法通过手机，就完成乌米这样专业人士能够完成的深度合成精致度，但不代表未来不行能。

“我只不外想提前让各人看到未来而已。”乌米对作者表现，他愿意宁静台或鉴假组织交流，以便让这项技术在羁系下引导更多的缔造力，而不是“作恶”。

特别声明：本文为互助媒体来源互联网，文章版权归原作者及原出地方有。文章系作者小我私家看法，不代表本站专栏的态度，转载请联系原作者及原出处获取授权。(有任何疑问都请联系QQ:149451332)