原标题:从AI换脸到AI开会,潘多拉的魔盒是否会打开?
文丨陈根
新冠疫情让我们实践了史上最大规模的远程办公和线上学习,我们使用的Zoom和钉钉等远程办公工具,正经历着前所未有的需求增长。微软Teams仅一周就新增1200万用户,从3200万增长到4400万;Zoom更是在短短两个多月使用户量翻了20倍,达到2亿。
可以说疫情改变了全球的工作方式,也改变了学生群体的学习、答辩甚至毕业方式。在疫情蔓延的地区,有些高校毕业生甚至被告知将原地毕业。
在家的枯燥让不少人迷上了AI换脸,将自己的脸替换成别人的脸,以此来增加乐趣。远程办公、线上学习的局限性,也让一些人想出五花八门的“摸鱼”方式,甚至想通过AI克隆另一个自己,代替自己办公和学习。
那么,从AI换脸到AI克隆,是AI的又一大进步还是新一个潘多拉魔盒的打开?未来,有没有可能真的出现这样的场景:当我们打开视频会议,参加的却全都是AI替身?
AI换脸并不新奇
AI换脸可以追溯到 2017 年底,国外论坛就出现了ID 为“deepfakes”的用户,该用户发布了通过机器学习来更换视频人脸的 AI 算法。不过当时该技术的使用门槛还比较高,需要编译代码等操作。
一个月后,有人将他公开的的算法加以改造并推出简易版 AI 换脸工具“FakeApp”。这次,就算是普通用户,也能够顺利操作。
FakeApp 令 AI 换脸的使用门槛大幅降低,不过它还是需要一定的准备工作。首先它需要安装额外的运行库;其次它对硬件有需求,需要高性能显卡参与运算,其中对 N 卡的兼容最好。
FakeApp 还需要较新版的 Windows 10 系统才可以安装,运行起来还得等待一段时间———因为过程越久效果越好,毕竟机器学习还是需要足够的时长和样本;最后,FakeApp 就可以生成几乎以假乱真的 AI 换脸视频了。
AI换脸里有一个关键的项目,那就是一阶运动模型。
一阶运动模型(动画模型)是用一组自学习的关键点+局部仿射变化来建立复杂的运动模型,其目的是为了解决在大目标姿势动态变化的情况下,传统模型生成质量差的问题。模型采用自监督的方法将外观和运动信息分离,主要由两个主要模块组成:运动估计模块和图像生成模块。
运动估计模块的目的在于预测密集的运动场,此处假设存在一个抽象的参考坐标,并预估存在「从参考到源(from reference to source)」和「从参考到驱动(from reference to driving)」两种转换。因此可以独立处理源帧和驱动帧。做这样的处理是因为模型在测试时会接收从不同视频中采样的源图像帧和驱动帧的组,从视觉上来说可能会很不同。
第一步,研究者使用通过自监督方式学习的特征点获得稀疏轨迹集来近似计算两种转换。与仅使用特征点位移相比,使用局部仿射变换对每个特征点附近的运动进行建模能够获得更多的变换。
第二步,一个密集的运动网络能将局部仿射组合起来,获得最终的密集运动场。除此之外,该网络还可输出遮挡遮罩,遮挡遮罩会显示 driving 的哪些部分可以通过变形源图像来重构,哪些部分该修复。
最终,生成模块渲染源对象的图像。这里使用了一个生成器网络,可根据密集运动对源图像进行变形,并修复源图像中被遮挡的部分。
简单讲,一阶运动模型的优势在于一旦经过一组描述相同类别对象的视频训练(例如人脸、人体),这种方法就可以应用于此类的任何对象。
从AI换脸到AI克隆
最近,一位名为马特 · 里德(Matt Reed)的工程师,就在一阶运动模型的基础上成功开发出了代替自己参加 ZOOM 视频会议的 AI。
整个方案并不复杂,据里德介绍,他先截了一些自己通过 Zoom 开会的图片,然后基于 Artyom.js 开源库(进行侦听和响应)构建了一个简单的 Web 应用程序,对其进行编程以便可以听懂一些简单的对话,比如“你好吗?”、“你明白了吗”、“再见”等。
理想情况下,Zoombot 可以处理从“Hello”到“Bye”的整个会议过程而不会引起任何人注意。但是,现阶段的项目更多是出于兴趣建立的,还不是很完善。
里德认为比较好的部分是不必给它一个像“Hey,Siri”这样的唤醒词就可以开始使用。只要外界有语音触发,它就可以响应并配合脸部的运动给出答复。
Zoombot 项目的构建一共花费了大约四个小时,而里德又花了大约四个小时来组织 Zoom 会议并记录同事们的真实反应。里德调侃道:“诀窍是在聊完之前就离开会议室,因为一旦进入“我听不到你的声音,可以重复一遍吗?”的死循环中就麻烦了。
潘多拉的魔盒会否打开
当然,里德在真实的视频会议中使用他的 Zoombot 时,确实给已经对视频会议日益麻木的同事们带来了很多欢乐。
但欢乐的背后带来的往往是更深的警惕。
AI 换脸不得不面临的风险问题,首先是对于信息的真实性形成严峻的挑战。PS 发明后,有图不再有真相; AI 视频换脸技术的出现,则让视频也开始变得镜花水月了起来。人们普遍认为视频可以担当“实锤”,而现在这把实锤竟可凭空制造。对于本来就假消息满天飞的互联网来说,这无疑会造成更严重的信任崩塌。
其次,这会大大增加侵犯肖像权的可能性,没人愿意自己的脸庞出现在莫名其妙的视频当中。和多用途的 PS 等修图软件不同,AI 换脸技术的功能只有一个,那就是换脸。从这个角度来说,它的存在天然就是一种对肖像权的威胁。
换言之,AI 换脸技术或许玩着有趣,然而真正的问题在于,这样风险百出的技术我们到底玩不玩得起?
随着AI换脸的普遍出现,AI变声也开始展露头角,谷歌之前曾经研究过 AI 变声的相关技术,但并没有大规模实装。但是国内厂商则更加激进,不少研究输入法的厂商都已经尝试在产品当中推广 AI 变声功能。
在一些输入法当中,现在就可以找到 AI 变声的开关。在输入一段语音后,等待片刻即可生成特定音调和音色的语音,拟真度相当出色。Modulate.ai这个网站就提供了 AI 变声服务,甚至连奥巴马的声音都能被完美模仿。
AI 变声技术已经逐渐成熟,它和 AI 换脸技术结合后将会形成威力无穷的组合拳。就在2019 年 3 月份,《华尔街日报》报道显示,有犯罪分子使用 AI 技术成功模仿了英国某能源公司在德国母公司 CEO 的声音,诈骗了 220 000 欧元(约 1 730 806 人民币)。仅仅依靠 AI 变声就能酿造出一宗如此重大的诈骗案,AI 骗术的威力可见一斑。
甚至,AI变声都不是AI技术的终点,里德的Zoombot就似乎是一个暗喻。未来,我们或许不仅可以看到逼真的 AI 换脸、AI 变声,甚至可能连应答都由 AI 来完成。当 AI 能自动生成以假乱真的面容、声音乃至语言的时候,互联网乃至整个社会该如何应对这种身份信息混乱的局面?
今天,一些银行基于人工智能,推出人脸识别的网络支付转账系统来进行大额转账。这项技术看起来很“完美”、很安全,但是在AI变脸技术面前,或许这项技术会成为最脆弱的安全防御技术。
或许有一天,任何人发布或者引用的任何资料,都有理由被质疑存在刻意或无意的修正。而比这更可怕的是我们甚至不知道自己正在被欺骗。如果够幸运,人们或许会发现,从遥远的那一天起,又一个潘多拉魔盒正在被开启。科技正在以我们难以预见的方式发展、演变,而这将给当下的全球治理与法律监管体系带来巨大的挑战。
更多精彩内容,关注钛媒体微信号(ID:taimeiti),或者下载钛媒体App游戏网
相关下载 |
潘多拉的回响的游戏背景是什么?很多玩家都很关心游戏的游戏背景,如果背景做的够好,那么这款游戏一定做的不差。那么潘多拉的回响的游戏背景是什么呢?详情>>
很多小伙伴都关心这个问题,因为想和小伙伴一起玩,但是不知道安卓和iOS的数据是否相同,小编这就来告诉大家,小伙伴们一起看看吧。 关系介绍: 目前详情>>
小伙伴们知道潘多拉的回响手游安卓什么时候公测吗?公测时间定档了吗?还不清楚的小伙伴一起看看吧。 潘多拉的回响安卓什么时候公测 据悉,潘详情>>
虽说游戏还没有内测,但是玩家都很关心游戏的玩法。从玩法上了解一款游戏是否值得花费时间精力。那么核心玩法是什么?感兴趣的小伙伴一起看看吧。 详情>>
关于游戏需不需要氪金这个问题,很多玩家都非常关注。当然每个人想的不一样,有些玩家是希望游戏氪金的,毕竟氪金玩家会和平民玩家有一定的区别。那么潘详情>>
相信有不少玩家都已经预约了游戏,想知道预约游戏后会有什么奖励吗?跟小编一起看看吧。 游戏预约后会在第一时间通知、下载,预约礼包也根据预约详情>>
潘多拉的回响什么时候内测?潘多拉的回响内测时间是什么时候?玩家非常期待,都想知道内测时间,感兴趣的小伙伴一起看看吧。 目前内测具体时间就在详情>>
很多小伙伴都非常关心潘多拉的回响什么时候内测,内测的资格又该怎么获取。还不清楚的小伙伴就跟随小编一起看看吧。 游戏介绍: 潘多拉的回响详情>>
相信很多玩家朋友都非常关心潘多拉的回响什么时候上线,那么具体上线时间在什么时候呢?感兴趣的小伙伴一起看看吧。 游戏介绍: 潘多拉的回响是详情>>
下面小编为大家介绍一下嘣源世界游戏中蛋组翡翠潘多拉的图鉴吧,下面我们一起来了解一下翡翠潘多拉角色的技能以及立绘吧。 图鉴: 崽子:枪潘潘 静态立绘: 技能-潘潘枪: 普通攻详情>>
原标题:苹果谷歌联手追踪新冠密接者,会否打开隐私的“潘多拉”? 雁过留痕。即使是看不见的狡猾敌人——新型冠状病毒,最新科技仍能追寻其踪迹。 使用详情>>
原标题:华为高管回应美国将升级出口管制:潘多拉盒子一旦打开,毁掉不止是一家企业 在今日举行的华为年报沟通会上,华为公司轮值董事长徐直军对美国限制详情>>
原标题:overlord:白金龙王重视评议国,但必要时可以放弃,目标守护世界 白金龙王在动画中出场短短2分钟,所以给观众的印象不是太深刻,但只需要知道白金龙详情>>
原标题:画家到底有多令人羡慕?“潘多拉魔盒”藏着诗情画意,这才是大触 导读:绘画,或许是大多数人曾经的梦想。能够用自己的双手,留下最美丽的风景和详情>>
原标题:韩国最强灾难片,不输好莱坞的特效!值得一看! 宙斯为了惩罚普罗米修斯盗取火种,制造了潘多拉盒子,里面藏着贪欲、痛苦和灾难。 一旦打开,灾难无穷详情>>
无主之地3 在其他地方如:QQ看点、搜狐微信公众号等看到本篇文章的读者们,本文首发于微信公众号STEAM每日资讯,觉得文章写的还不错的话欢迎关注!公众详情>>
潘多拉是希腊神话中赫菲斯托斯用粘土做成的第一个女人,众神赐予潘多拉许多礼物,美丽、聪明、好奇心……但其中一件最危险的礼物是一个漂亮的魔盒。《4399生死狙击》的角详情>>
潘多拉的回响第三章3-5boss怎么打?潘多拉的回响打3-5有什么技巧?还不知道的小伙伴就来看看下面小编带来的潘多拉的回响第三章3-5boss攻略:boss攻击方式:1.普通攻击,带s18,进去就详情>>
军武题材一直受到大家的欢迎,尤其是有着军武情节的小伙伴,各种坦克型号、枪械编号都是如数家珍,对于历史上的战役自然不会陌生,最明显的就是,某场战役如果我来指挥要怎么打? 详情>>
潘多拉的回响手游中很多玩家不知道这游戏好不好玩,也不知道潘多拉的回响手游深度评测是什么,今天小编就带着大家了解一下潘多拉的回响好不好玩;当时小编抢到了这款游戏的激活详情>>
潘多拉的回响手游中辅助十分重要,辅助用什么好呢?最强辅助是谁呢?今天小编就带来一篇潘多拉的回响辅助推荐 最强辅助详解,一起来看看吧:最强辅助 扶桑虎+四式重战+R系扶桑虎被动详情>>
潘多拉的回响中输出角色十分重要,最强输出角色是谁呢?最强输出如何搭配呢?今天小编就带来一篇潘多拉的回响输出角色推荐 最强输出搭配及玩法详解,一起来看看吧:最强输出印度豹+百详情>>
人类在一次科技革命中突破了长久以来阻碍人类发展的科技瓶颈,大量技术得到实质性的突破——人工智能、机械生命、曲速引擎、时空旅行等等。游戏中莱茵怎么样?接下来小编为大家详情>>
启源女神中的潘多拉是很多玩家喜欢的英雄,本次就为大家带来了启源女神潘多拉评测,告诉大家潘多拉怎么样,想了解的朋友可以参考,希望能帮到大家。潘多拉评测潘多拉和白雪公主的技详情>>
启源女神中潘多拉近期备受关注,潘多拉怎么样呢?潘多拉属性如何呢?技能是什么呢?玩法又是什么呢?今天小编就带来一篇启源女神潘多拉怎么样 潘多拉属性、技能及玩法详解,一起来看看详情>>
1、三个2!炸!~~~这样玩牌会被打死吧 2、我被妖精绑架了,快来救我 3、演示一下如何打开潘多拉的盒子 4、会玩的妹纸就是可爱 5、注意!你是猪! 6、不要救详情>>
11月7日,网易末世生存手游《明日之后》一周年的日子,在整整5个月的预热和爆料后,迎来了第二季——人类、重返城市。 而这次万众期待的第二季,连开启模详情>>
启源女神中的潘多拉是个非常强的角色,那么潘多拉在游戏中怎么玩呢?下面小编就给大家带来启源女神潘多拉玩法攻略、角色介绍及技能解析,一起来看看吧。在阿斯嘉德大陆上的潘多拉详情>>
无主之地3潘多拉魔鬼之刃在哪?么个地图都有不同的挑战需要完成,这里将为大家介绍的是无主之地3劫车任务收集视频分享,一起来看下吧。 推荐阅读: 无主之地3全主线BOSS详情>>
《无主之地3》回到潘多拉方法介绍。在无主之地3中我们该怎么回到潘多拉呢,很多小伙伴在离开潘多拉后不清楚怎么回去,那么下面小编就来给大家介绍一下回到详情>>
《无主之地3》区域100%潘多拉食人兽营地红宝箱位置介绍。《无主之地3》中加入了地图探索系统,完成地图上的所有任务,找到所有的红宝箱,完成所有的战友挑战详情>>
《无主之地3》区域100%潘多拉喷砂之痕红宝箱位置介绍。《无主之地3》中加入了地图探索系统,完成地图上的所有任务,找到所有的红宝箱,完成所有的战友挑战等详情>>
《无主之地3》已经发售几天了,相信有很多玩家已经开始游玩了,但还是有一些新玩家刚刚接触游戏,为了让玩家更好的投入到游戏中,小编为大家带来了《无主之地3详情>>
原标题:“换脸”争议:ZAO是否打开了潘多拉之盒?“赛博人”该如何自保? 整个朋友圈都在AI换脸,“ZAO”火了,律师详情>>
原标题:Zao:是革命,还是又一只被掀开的潘多拉魔盒? 昨天,一款名为“Zao - 逢脸造戏”的APP一上线,就如若其名的“燥”了起来。 文 / 华商韬略 李文赏 详情>>
原标题:《无主之地2:VR》今秋登陆PC 真实体验重游潘多拉 发行商2K Games和开发商Gearbox Software今天宣布,《无主之地2 VR》将于今年秋季登陆PC详情>>
原标题:身临其境的潘多拉《无主之地2 VR》宣布登陆PC 《无主之地2 VR》去年12月首发登陆PSVR,今天Gearbox宣布,本作将于今年秋季登陆PC平台VR设备详情>>
当然是冥河女神比潘多拉厉害啦 详情>>