6月13日 国外美女收费一对一聊天，背后却是AI换脸！要小心AI的灰暗面！

【王煜全 要闻评论】粉丝群已经开通

欢迎加入前哨粉丝群，在这里你可以和科技投资人、创业者、各行业专业人士互动沟通，分享心得体会，也可以第一时间了解到前哨相关活动动态，结交志同道合的小伙伴。


入群方式：
微信扫码下方二维码即可入群

如果您想洽谈合作，请添加创新地图的微信：innovationmap ，并附上简介。

要闻背景简述

最近，连线杂志发表了一篇封面文章，题目是《YOUR ONLINE GIRLFRIEND IS A WORKFORCE》，主要内容是国外某社交媒体平台中的一位美女网红，有8万名粉丝，但是她可以随时为每个粉丝提供付费聊天服务。

她是如何做到的呢？这名网红背后有很多低收入的工作团队，专门用AI换脸、换声技术替她和粉丝聊天，进而赚取服务费用。

近两年，随着AI换脸换声技术的日益成熟，利用AI技术诈骗的案例层出不穷。

比如，2024年2月，国际顶尖设计和工程公司奥雅纳（Arup）的员工就落入了AI诈骗陷阱。骗子用深度伪造技术“Deepfake”假冒英国总部首席财务官（CFO）。受骗的分公司财务职员在未察觉任何异常的情况下，在一周内按照指示分15次将总计两亿元港币存入指定的5个本地银行账户。

今年4月，福州市某科技公司法人代表郭先生的好友突然通过微信视频联系到他，两人经过短暂聊天后，好友告诉郭先生，自己的朋友在外地投标，需要430万元保证金，所以想要借用郭先生公司的账户走一下账。因为是视频聊天，郭先生就把430万元给对方打了过去，最终发现是骗局。

不过，美女网红请工作团队替她聊天，似乎跟这些诈骗案件性质不同。那么，我们应该如何看待这些AI技术变革带来的负面影响呢？

以下是王煜全要闻评论：

最近新出的《连线》杂志，有一个封面文章非常有意思，说的是什么呢？

因为欧美的社交媒体允许大V和普通人聊天的时候去收费，这篇文章举的例子就是有一个有8万用户的大V，虽然不是那么大，但是这8万用户中有很多用户愿意来付费跟她一对一聊天，当然这就是一个很不错的收入。

但是，我们都知道现在人工智能很发达，你以为你是和某个美女大V聊天，但实际上是通过人工智能技术换脸换声的低收入的员工来聊天，反正肯定不是那个美女。

这样对她有什么好处呢？如果是真人美女聊天，哪怕有8万的用户，她也只能跟一个人聊。

那现在哪怕8万用户实时在线聊也没问题，大不了组织8万个低收入的员工来聊就好了。假设聊天都是按分钟收的，一分钟收5块钱，那一小时60分钟就300块。

那什么叫低收入的员工？比如美国大概每小时的最低收入要高于13块，我就付你13块，你就帮我聊天，那我们就知道这个平台就净赚287，这是很好的业务。

也就是说，很多时候先进科技是会用在邪门歪道上的，甚至比正经渠道上还快。这之前已经有用人工智能换脸甚至换声音来诈骗的。

比如以前我跟朋友互相借个钱，在微信里留个言就行了。但现在大家都开始警觉起来了，微信留言别被骗了，那怎么办？就开个视频互相看一眼。

要命的事情来了，人工智能越来越发达，开视频都不行了。全世界已经发生了好几起诈骗事件了，而且确实是视频聊天，你看到对方是你单位里的同事，按他的指令，转了个账出去，最后发现其实那根本就不是你的同事，而是用视频换脸来做出来的。

所以你会发现人工智能来了，不光是道会增长，魔也会增长，道高一尺，魔高一丈，有时候这些负面的东西更善于利用先进科技。

那这里面我觉得有三个点值得关注。第一点就是我们要了解科技的未来发展。我们科技特训营强调对产业、对企业的未来趋势做分析，其实也可以对未来的负面影响做分析，也是可以分析出来的。

而且一定要分析，要不然的话科技都来了，你对它的负面影响准备不足，你就可能会上当受骗，或者就会造成损失。

第二点，就是好多时候所谓它的负面东西并没有非黑即白，不是要么就犯法，要么就合法，不是那么简单。

比如这之前的很多案例很容易界定，那就是诈骗，拿视频换脸，然后骗你的钱，那100%是犯罪，是毫无疑问的。

但是注意《连线》杂志提的这件事它算不算犯法？那你会说你骗我了，你不是美女跟我聊天。但是我能不能就在这个服务上标明，我跟你聊天的人是用了视频换脸技术，其实你标明了以后，对方在视频里看的还是个美女，还跟你聊，用户可能还愿意付钱。

那你说这个算不算犯法啊？好像也没犯法，我都告知了，而且我也是有人在跟你聊，只不过不长这样。不长这样就不允许视频换脸吗？那如果不允许视频换脸，是不是跟不允许整容美女跟你聊天是一回事，只不过用了人工智能技术整容，可以瞬间变脸。

所以好像也合法，但是似乎有点什么地方不对，我们好像觉得不能这么干。如果是法律层面的问题反倒简单了，治理就好了。但是这个灰色地带到底允不允许？到底是用法规来监管，还是用公共道德来监督？到底怎么去做？我觉得还是有很多值得讨论的地方。

那第三点是什么呢？传统来讲，法律法规监管总是滞后于技术的，所以经常会出现这种问题，就是技术来了以后当然有它积极的一面，但也有带来问题的一面。

我们说颠覆式创新，它有颠覆性，它就会对现有的秩序形成破坏，很多现有的人就会利益受损。这种时候法律如果没跟上，那这些人的利益就没有办法得到保证了。所以我们要强调，尤其是在这个技术在变革期的时候，法律法规一定要超前。

怎么超前？就是我们讲的，要事先对技术可能带来的负面影响做深入研究。而这个负面影响不只在犯法，而且可能对社会道德、对社会行为规范形成冲击。

这样才能够对技术的到来提前做好准备，使得技术能够充分发挥自己好的一面，同时把负面的东西尽量降到最低，这样才能实现技术对社会的更加完美的推动。

也就意味着，我们一定要更前瞻地看懂未来，不光看懂未来的技术、未来的业务、未来的成功的公司，还要看懂对社会的积极推动的一面和相对有点负面影响的一面。同时要提前在立法上都做好准备。

所以也要呼吁一下，建议监管者也要加入我们科技特训营，这样也能够对未来提前了解，提前做好监管，这样社会的发展才会更快、更顺畅、也更无害，也能够把科技的利益带给更多的人。

另外，我们的前哨AI小课第三季已经正式开课，主讲人Tina将用25次课，给你讲透最新的AI应用，最实用的AI职业技能，比如国外的GTP-4o，国内的“扣子”等等，带你从AI小白进阶成为AI行家。

欢迎感兴趣的朋友扫描下方课程海报中的二维码，报名听课。

以上就是今天的内容，更多详细的产业分析和底层逻辑，我会在科技特训营里分享，欢迎关注全球风口微信号，报名加入。

王煜全要闻评论，我们明天见。

【回放地址】

长按扫描二维码加入科技特训营，可观看所有直播和回放。