7月14日 9个机器人开发布会，号称不会反抗人类！这事有点儿滑稽

【王煜全 要闻评论】粉丝群已经开通


欢迎加入前哨粉丝群，在这里你可以和科技投资人、创业者、各行业专业人士互动沟通，分享心得体会，也可以第一时间了解到前哨相关活动动态，结交志同道合的小伙伴。


入群方式：
微信扫码下方二维码即可入群

如果您想洽谈合作，请添加创新地图的微信：innovationmap ，并附上简介。

你好，我是王煜全，这里是王煜全要闻评论。

最近几个月，生成式AI的出现似乎开启了潘多拉魔盒，众多AI大佬和科幻作家都在提醒人工智能可能毁灭人类，有人更厉害，干脆让机器人们站出来自证清白。

7月7日，国际电信联盟在日内瓦召开了一场新闻发布会，主办方声称这是世界上首次由9个机器人担任发言人的发布会，目的是展示最先进机器人的能力和局限性。

这9个机器人分别有不同的功能定位，比如首位获得公民身份的机器人Sophia，医疗护理机器人Grace，艺术创作机器人Ai-Da、摇滚明星机器人Desdemona、仿真机器人Ameca等等。

记者们抛出的问题也很犀利，比如机器人会不会抢走人类的工作，机器人Grace说它将和人类一起工作并提供帮助和支持，但不会取代现有的任何工作。

还有人问AI驱动的人形机器人是否比人类更有领导力，言下之意是担心机器人取代人类成为领导者，Sophia说机器人有潜力比人类领导者更有效率，但前提是与人类合作，人工智能提供数据，人类提供情商和创造力。

最终，记者问Ameca是否会反抗它的创造者，Ameca微微皱眉说“我不知道你为什么会这么想，我的创造者对我非常友善，我对目前的状况感到非常满意。”

虽然他们没有说明机器人的答案是否是设定好的，但无论如何，大家都从机器人口中听到了想听的回答，对组织者来说也就达到目的了。

正因为这是世界首场机器人发布会，话题也颇具争议，就引发了国内外媒体热炒，有的说场面震撼，机器人答问时语句通顺、表情生动，但实况录像看了之后，却怎么也算不上震撼，甚至还略显尴尬。

虽然主办方提前打了预防针，说如果出现延迟是因为网络问题而不是机器人问题，结果在场大部分机器人的反馈都有些迟钝，甚至有只听到一半问题就开始回答的情况。

不过，这勉强算是技术的细节问题，此类活动还有更大的硬伤，因为让机器人站出来说不会对抗人类，本身就是一个悖论。

按理说，机器人回答问题无非是两种情况，一种是机器人智力水平不足，还未进化出自主决策能力，只能听从开发者的指令，实际上就相当于机器木偶，问他会不会背叛人类根本没意义；另一种是机器人已经跨过奇点，具备了自主决策能力，但如果它足够聪明，就不会在公共场合承认自己会背叛人类。

所以无论何种情况，人类得到的答案都是不会反抗，但从机器人的表现来看，距离奇点还有很大差距，所以，这场新闻发布会实际上只是一出蹩脚的木偶戏，以至于更像行为艺术。

然而，组织者利用这场发布会博得了媒体关注，厂商也宣传了自己的产品，媒体们有了报道题材，大家各取所需皆大欢喜。

但真正的问题是，人们从心底里依然担忧机器人有朝一日会淘汰人类，答案的关键是探究其中的机制与原理，而不是用作秀来寻求心理安慰。

实际上，人们对机器人反抗人类的讨论，可以追溯到阿西莫夫在《我，机器人》小说中提出的机器人三定律，简单的说是机器人不得伤害人类个体，必须服从人的命令，并且在不违反前两条的情况下要尽可能保护自己。

可以看到，现场的问题也参考了机器人三定律，这就像一场跨越了几十年的角色扮演cosplay，替阿西莫夫与机器人跨时空交锋。

机器人三定律看似从逻辑上避免了机器人伤害人类，却仍然存在很多问题。

首先，如何保证机器人遵守这三定律就是基本做不到的事情。如果AI经过不断迭代进化，跨越“奇点”成为超越人类的智能体，那它从理论上可以用更高超的技术手段摆脱人类设置的限制，所以不只这三条限制会失效，再加成千上万条限制都毫无意义。

但这并不意味着会出现满大街的“终结者”。我之前就提出，现有人工智能大多是单项智能超越人类，而有朝一日AI的综合智能超越人类单体智能，也就是大家最担心的“奇点”时刻，人类依然不会被淘汰。

因为大家的担心背后的假设是，机器人智力超越了人类个体，人类生存就会面临威胁。但实际上，人类生存繁衍的真正底牌是群体智能，也就是说，人类走到今天，靠的不是哪个个体的优秀，而是我们的群体优势，是我们的文明外化为的整体竞争力。现在可还没有任何迹象表明人工智能会进化出真正的群体智能和能与人类相媲美的多系统的复杂协作能力。

并且，机器人三定律的前提假设就有问题，其中潜藏的逻辑是，如果不做人为限制，机器人会主动攻击人类。

但是，我们从自然界不同智力水平的动物中可以看到，低智能动物就相当于一部行动机器，它们主动攻击也是因为触发了既定行为模式，而人类只要找到该模式就可以轻易躲避或者击败它们。

高智能动物做出自主决策时，遵循的不只是理性逻辑还有感性情绪，主动攻击是情绪的决定。

而人工智能并不具备情绪，它们做出的理性决策大多遵照人们给定的模式和逻辑，自主决定攻击人类的可能性非常非常微小，而且很容易被纠正，因为他们没有情绪，你纠正他的行为他也不会抵抗，更不会逆反。

但机器人确实可能被人类恶意驱使，进而做出有害他人的行为。所以，我们真正应该关心的，是如何建立一套完整的机制约束人类自己，避免利用智能化机器来互相伤害。

最后说一句，机器人发布会的9个发言人，有三个机器人都是Hanson Robotics的创始人David Hanson发明的。Hanson Robotics也正在准备上市的过程中，希望大家支持 Hanson Robotics，支持机器人产业的发展。

以上是今天的内容，更多详细的产业分析和底层逻辑，我会在科技特训营里分享。欢迎关注全球风口微信号，报名加入！

王煜全要闻评论，我们下周见！