7月7日 刘慈欣认为AI能够从某种意义上消灭人类，我有点不同意见

【王煜全 要闻评论】粉丝群已经开通


欢迎加入前哨粉丝群，在这里你可以和科技投资人、创业者、各行业专业人士互动沟通，分享心得体会，也可以第一时间了解到前哨相关活动动态，结交志同道合的小伙伴。


入群方式：
微信扫码下方二维码即可入群

如果您想洽谈合作，请添加创新地图的微信：innovationmap ，并附上简介。

你好，我是王煜全，这里是王煜全要闻评论。

自从GPT 3.5表现出超越预期的能力以来，警告AI有毁灭人类的威胁的人越来越多，其中不乏AI领域的专家学者与权威人士。

前段时间，刘慈欣发表了一个主题为《科幻文学中的可持续未来》的演讲，以科幻视角解读了人类未来，有人提问说：“自我迭代的人工智能有没有可能会取代或者消灭人类？”

刘慈欣说，人工智能是否会消灭人类，应该分两个层次来回答。

第一个层次就是字面意义上的消灭，即人工智能完全消灭人类或是统治世界。虽然人工智能经过迭代，有可能提高到人类智能的几百倍甚至上万倍，但人类的计算能力有限，也就难以支持其不断迭代，意思就是说，人类的算力瓶颈会制约人工智能的发展。

所以，他认为人类的无能反而会成为我们的最后一个屏障。

另一种消灭可能会更“符合”我们的意愿，因为人工智能可能会带来一个非常舒适的社会环境，让大多数人不再需要工作，大部分的任务都由AI完成，但也可能导致人类陷入前所未有的陷阱。

在科技安乐窝里面，人类文明将逐渐失去活力与开拓精神，最后的命运就是被人工智能所消灭，而这种消灭比字面意义上的消灭所需要的算力低得多，所以应该引起警觉。

刘慈欣从科幻视角做出的判断，更像一种寓言，是为了警示世人，不要因为技术进步就安于享乐，需要提前规避一些潜在风险，这是一种有益的倡导。

但是，如果从技术和产业视角理性地看，以上两个观点都有所偏颇。

第一个观点忽视了技术迭代的巨大潜力，未来无论在算力还是算法上，都有技术迭代的足够空间。刘慈欣在《三体》中就低估了计算机技术的发展速度，现在看，所谓“我们的最后一个屏障”，是又一次低估了技术的发展潜力。

在算力方面，英伟达CEO黄仁勋曾提出，CPU性能增长缓慢，但GPU性能每10年增长1000倍，并且，除GPU之外，未来仍然可能出现其他效率更高的AI芯片。

在算法需求上，OpenAI发布的一项报告显示，自2012年以来，将AI模型训练到ImageNet图像分类中相同性能所需的计算量每16个月减少2倍，共计减少了44倍，相比之下，摩尔定律在此期间所带来的成本改进为11倍，也就是说，算法进步比传统硬件改进带来了更多收益。

而且，基于AI算法的运算架构和逻辑，针对硬件做深层次优化，还能够进一步提升计算效率。除此之外，人们也在探索新型计算架构。

从更广泛的角度，我们都知道芯片能力指数级增长的摩尔定律，而提出了奇点理论的库兹韦尔还有个著名的库兹韦尔定律，认为摩尔定律只是库兹韦尔定律的子集，人类的技术能力会长期保持指数级增长。

所以，未来的技术能力不可限量，说人工智能未来会遇到算力瓶颈，制约了人工智能对人类智能的碾压，现在看起来可能性不大。

当然，即使人工智能比人类聪明成千上万倍，也不意味着末日到来。因为我们恐惧的根源是，大家认为智力才是人类的立身之本和在自然界中最大的竞争优势，如果人类单体智能水平被超越，那么我们就毫无优势可言。

但实际上人类之所以生存繁衍到现在，并不是完全依靠单体智力水平，群体进化才真正塑造了我们，也就是说，人类的优势不是靠任何一位神人，而是有储存大量人类经验的文化和深入协作的系统，保证了整体水平远远大于任何一个个体。

2022年，我在《人生的意义》课程中讲过，我们曾经的近亲尼安德特人比智人更强壮、脑容量更大，个体智力水平有可能更高，虽然他们灭绝的原因尚不明确，但学术界的普遍共识是，人类单打独斗不如尼安德特人，但人类的社会化程度大大超越了他们，也就是说，我们依靠的是群体的力量，是大范围的复杂协作。

我对我们人类群体能力的简单表述是：虽然没有一个人能够掌握登月所需的所有知识，但我们靠人类社会的知识积累和复杂协作，成功实现了登月。

其实，人工智能在单项技能上超越人类已经屡见不鲜，但人工智能仍然存在技术边界，GPT4可以单独完成各种人类能力考试，却不具备人类社会的大范围复杂协作能力。

从本质上说，人工智能是对人类行为进行模式化的抽象，再学习与复制，这就意味着人工智能之间需要共同的基础模式才能够协作，否则可能无法沟通，但能力专长、思维方式、乃至文化习惯都不同的人类依然可以广泛协作。如此来看，人工智能之间协作的多样化和复杂程度远不如人类，我们也不必担忧被整体淘汰。

这就涉及到第二个问题，人们是否会沉浸在AI带来的便利之中不思进取。计算机时代的伟大开创者之一Joseph Carl Robnett Licklider曾经提出人机共生理论：技术一直在为人类赋能，让我们超越生物体的极限。车是腿的延伸，但人们依然会锻炼身体，电话是耳朵的延伸，但人们依然需要跟身边人互动交流。

而人工智能是智力的延伸，不仅不会让人类懒惰，反倒有可能将人类从简单而繁重的脑力劳动中释放出来，激发更多的创造力。其实创造力、尤其是成年后依然保持创造力和探索的欲望，才是人类和其他动物最大的区别。未来大家一定会理解，人工智能是人类最好的帮手，因为它会帮助人类的真正优势最大程度地彰显出来。

虽然，每个时代都有因新技术而躺平或者玩物丧志的人，但人类大脑中有内生的奖励创新、奖励探索、奖励克服困难的机制，摆脱了日常琐碎工作的束缚，人类不但不会不思进取，反而会有认识世界和改造世界的更大的热情和冲动。

也就是说，确有小部分人会被替代，但AI并不会让全人类丧失进取心，反倒会极大地激发人类的创造力，拓展我们的能力边界。

我们一直强调，在人工智能时代，淘汰你的不是AI而是善于利用AI的人。我们真正需要关注的，不是世界末日会不会到来，而是要学会利用AI工具为我们的思维插上翅膀，在百年一遇的新机会中展翅翱翔。

以上是今天的内容，更多详细的产业分析和底层逻辑，我会在科技特训营里分享。欢迎关注全球风口微信号，报名加入！

王煜全要闻评论，我们下周见！