5月24日马斯克的撞脸兄弟是AI换脸？Deepfake无限接近真实有啥后果？

【王煜全 要闻评论】粉丝群已经开通

欢迎加入前哨粉丝群，在这里你可以和科技投资人、创业者、各行业专业人士互动沟通，分享心得体会，也可以第一时间了解到前哨相关活动动态，结交志同道合的小伙伴。

入群方式：
微信扫码下方二维码即可入群


如果您想洽谈合作，请添加创新地图的微信：innovationmap ，并附上简介。

你好，我是王煜全，这里是王煜全要闻评论。

在前不久，一位长相酷似伊隆·马斯克的中国小伙出现在了社交平台上，取名"马一龙"，操着河北方言和蹩脚英语，被人们称为"马斯克的中国兄弟"。

"马一龙"的视频很火，引起了马斯克本人的注意，5月10号他在推特上回应说：如果这个人是真的，我也想见一下这个家伙，但是现在Deepfake（造假技术）太泛滥了。

马斯克说的Deepfake就是AI换脸，把一个人的样子换成另一个人。有细心的人通过对"马一龙"的视频分析后就指出，他确实是用了Deepfake技术，换成了马斯克的样子。

也许中国小伙儿模仿马斯克就是想刷个流量，但也能看出Deepfake已经达到了以假乱真的地步。这是一种已经实现了广泛应用的AI技术，人类的表情和音频都可以伪造得很真实，具有很高的欺骗性。

2017年，华盛顿大学的三名研究人员发表了一篇论文--《合成奥巴马：从音频中合成嘴形》，文章里研究了怎么通过音频合成奥巴马说话的口形，还发布了一段8分钟惟妙惟肖以假乱真的视频。

因为人工智能算法本身具有很高的开源特性，人们发现使用这种技术并没有很高的门槛，有极客利用AI算法来做Deepfake，也有人迅速组建了团队、成立了公司，把算法作为平台工具、或者app应用的形式提供出来。

2017年的这篇论文是首次把AI运用在换脸上的研究，没有带任何恶意，但是自那以后利用Deepfake引发的社会和伦理道德问题多了起来。2017年底，一位名为"Deepfakes"的用户在Reddit社区分享了他创建的换脸视频，其中涉及到色情、以及对明星肖像权的侵犯，受到了社会的广泛批评。这人的账号名字，也是"Deepfake"名称的由来。

之后还出现了很多引发争议的视频，包括奥巴马说特朗普是“彻头彻尾的蠢货”，扎克伯格吹嘘自己“完全控制了数十亿人的数据”等等。Deepfake可以伪造出可信度很高但是完全虚构的视频，比如让政治家说出不当言论，让普通人出演电影主角。

网络安全公司Deeptrace在2019年发布的一份报告，显示网上96%的Deepfake视频都是色情内容，看来利用AI做坏事确实很泛滥了，需要产业界和监管层一起来探讨怎么正确地利用这项技术。

因为极强的欺骗性，海外的社交平台也加大了审查力度。如果没有监管约束，Deepfake会造成相当大的危害。就连音频本身就足够有危害性了，2019年德国一家能源公司的员工接到老板的电话，把20万英镑存入某匈牙利银行账户中，后来发现他老板的声音就是Deepfake技术伪造的。

不止换声音，如果未来Deepfake继续进化，能够完美模仿某个人的行为和动作，要是真的实现了，那换脸视频和真人视频就很难区分了。所以一说到Deepfake，大家会格外的担忧。

一出场就让大家非常担心的Deepfake技术，能不能得到好的利用，真正有利于社会呢？

有一家AI公司Hour One，专门用AI来创建真人视频。两位创始人奥伦（Oren Aharon）和里奥（Lior Hakim）2017年看了华盛顿大学发布的奥巴马视频，大受震撼。他俩大概花了一年多时间吃透了技术、组建了团队，2019年推出了一个网站工具，用户只需要录制一段半小时的视频，加上一段录音，英语或法语都可以，上传到网站进行AI学习后，就可以批量制作出非常逼真的虚拟视频了。

Hour One的平台吸引了不少客户。国际语言学校贝立兹使用它的技术录制外语课程，一家德国电视频道采用他们的虚拟人来报道足球比赛；2021年美国歌手泰琳·萨顿（Taryn Southern）还用Hour One的技术录制了一段自己的虚拟人视频，在Youtube上有近30万播放量，更是让这个AI平台火了一把。

对于Deepfake引发的争议，Hour One创始人之一奥伦在一次采访中谈到，Photoshop软件在20年前出现时，社会上一个很普遍的担忧就是"它会让伪造的照片和图片无所不在"，然而今天的事实我们已经看到了，PS这样的工具为设计师赋能，让绘画、影视、设计等创造力行业得到了极大的发展。

所以，大多数人看到的是Deefake的负面效应，忽视了它可能的巨大应用潜力。新技术的发展始终会伴随一些社会问题，但是需要更多像Hour One这样的科技企业，会积极利用新技术，打造出好的商业模式，真正帮助到行业和社会发展。

这也是我们经常提到的，这个时代的机会来自于对先进科技的使用，不要求你成为造出坦克的发明家，现在已经有坦克了，但是需要你为它找到如何打出闪电战的方法。

以上就是今天的内容，更多科技产业的底层思考逻辑，会在科技特训营里分享。欢迎关注全球风口微信号，报名加入！

王煜全要闻评论，我们明天见！