科幻丨《银河帝国：机器人五部曲》上：如何防止人工智能伤害人类？

如何防止人工智能伤害人类？“机器人三大定律”告诉你！

点击收听《银河帝国·基地》全本有声书>>>

精华笔记 

一，关于作者和本书

阿西莫夫是20世纪最著名的科幻作家之一，是美国科幻小说黄金年代的代表性人物，一生写过的科幻小说和科普作品等超过500部，获奖无数。他的代表作有《基地》，《神们自己》，以及这一期节目介绍的《机器人》系列。

这期节目介绍的《机器人》系列，是阿西莫夫最著名的作品。《机器人》系列一共是五本书：《我，机器人》《钢穴》《裸阳》《曙光中的机器人》《机器人与帝国》。在这里要提请你注意，这五本书并非一个连贯的、拥有相同角色和一条完整故事线的系列。《我，机器人》实际上是阿西莫夫关于机器人的一系列短篇的集合；《钢穴》《裸阳》《曙光中的机器人》则是三本主角相同的科幻推理小说；在最后一本《机器人与帝国》中，阿西莫夫则将《机器人》系列与整个银河帝国系列连接在一起。本期节目我们仅讲述《我，机器人》这个短篇集，下期节目我们将讨论后面的四本书。

二、故事解说

1.故事背景

在“机器人”系列的世界，人类在80年代发明了一种叫做“正子脑”的技术；这个发明打败了半导体和集成电路，变成了机器人的基础。由此这个世界不再存在由半导体构成的计算机，拥有智能和金属身体的机器人大行其道。为了保证这些机器人只是为人类服务而不是反过来伤害人类，人类在正子脑内部增加了底层逻辑：这就是机器人三大定律。在这里我们将三大定律重复一遍：

第一定律：机器人不得伤害人类，或坐视人类受到伤害；

第二定律：机器人必须服从人类命令，除非命令与第一定律发生冲突；

第三定律：在不违背第一或第二定律的情况下，机器人必须保护自己。

有了这三大定律，人类就可以任意使用机器人而不担心被机器人伤害了。然而，意外还是发生了。《机器人》系列的故事，就是围绕这些意外展开。

2. 故事梗概

《我，机器人》

《机器人》系列的第一本《我，机器人》实际上是阿西莫夫陆陆续续写下的以机器人为主题的科幻短篇集。在集成册子之后阿西莫夫进行了改写，增加了一个叫做苏珊·凯文的女性角色：她是最早发明机器人的“美国机器人公司”的科学家，而所有的这些短篇故事，实际上都出自她在研究机器人过程中的案例。

第一个故事《小机》讲述了机器人是如何普及开来的一段历史。小女孩葛洛莉雅很喜欢保姆机器人，但是她的母亲觉得女儿太过依赖机器人，决心将它送走。但是葛洛莉雅非常思念机器人，在旅游过程中也念念不忘。无奈之下，父亲提出了一个主意：带葛洛莉雅去机器人工厂参观，遇到意外，最终是机器人救了葛洛莉雅。这件小事证明了机器人的安全性，由此，机器人普及开来。

接下来的故事讲述的都是“机器人三大定律”出了意外该怎么办的故事。

《消失无踪》这个故事讲的就是第一定律被修改怎么办的故事。苏珊·凯文前往超空间基地调查一个机器人失踪的案件，这个机器人修改了第一定律，去掉“不得坐视人类受到伤害”的部分。于是苏珊凯文必须找出这个机器人与其他机器人在行为上的区别才能抓住它。

《转圈圈》则讲的是机器人的第二和第三定律冲突怎么办。在水星的矿场里两个工程师发现他们的机器人出了故障：它在矿点外不停的打转。原因是人类下达的命令和它自保的本能冲突了。两位工程师必须解决这一问题。

《理性》讨论的是这个问题：机器人如果有了自己的宗教呢？工程师测试新一代机器人的工作能力，才发现这个机器人自己发明了一个宗教，认为机器人比人类高等，存在一个主宰制造机器人。两位工程师要努力让机器人意识到它的信仰都是虚假的。

《骗子》讲的是第一定律中如何区分“伤害人类”的故事。苏珊凯文遇到一个难题：他们的一个新型机器人出现了一个bug：它能够透视人的心灵。于是这个机器人陷入了一个困境：心灵伤害算不算伤害人类呢？

《逃避！》这个故事讨论的是第一定律如何定义“死亡”这件事。此时人类已经发明了超空间跃迁技术，这种技术可以轻易的让宇宙飞船从一个星球跃迁到另一个星球，人类可以在银河系里随意的往返。负责建造超空间宇宙飞船的是一个超级电脑，叫做金。金发现，超空间跃迁会导致人类在物理世界中“消失”一个瞬间，对于电脑来说，这就相当于人类死亡，抵触第一定律，这会导致它无法处理这个情况。那怎么办呢？

《证据》这个故事则讨论的是机器人如何假冒人类。主角是一位著名人物，叫做史蒂芬·拜尔莱。他是一位检察官，正在竞选市长。他的政敌奎恩来到美国机器人公司，想要他们来调查一个惊人的事情：拜尔莱是否是个机器人！那么拜尔莱到底是不是机器人？

最后一个故事《可避免的冲突》发生在拜尔莱已经成为整个地球联合政府的元首之后。它讨论的是三大定律逻辑上必然的结论：机器人必须控制人类。

三、作品解读

1. 人形机器人真的会出现吗？

强人工智能，也就是人类级别的人工智能何时会出现一直是个巨大的问题。最新的chatGPT则再次将这个问题推到了风口浪尖：它能够非常逼真地模拟人类的语言和思考能力，但问题在于，这种能力能否变成一种通用的能力？实际上，我们所谓的“通用人工智能”，英文叫做Artificial General Intelligence，指的就是人工智能有没有解决不同领域问题的能力。比方说转移到计算机视觉领域，将自动驾驶的问题完全解决？现在还未可知。

2. 机器人三大定律真的可能实现吗？

长久以来，机器人三大定律只是被认为是阿西莫夫的思想实验，很难在现实的人工智能研究中实现；毕竟阿西莫夫自己在小说里也写了种种例外情况；最基本的，想要在人工智能里嵌入绝对的道德规则，比方说“不能伤害人类”，就必须首先对“什么是人类”“什么是伤害”下一个严格的定义。而这种定义本身就是伦理学的难题。但是很难不意味着没有意义。我们不但要发展出能够替我们完成任务的人工智能，还要让这个人工智能以不会伤害到人类、对人类友好的方式来完成任务。

书名：《银河帝国：机器人五部曲》

作者：[美]艾萨克·阿西莫夫

撰稿人：思故渊（科幻作者，科技行业从业者，代表作《先知机器》）

编辑：敏捷

主播：石头

制作：匀绮工作室

监制&运营：郑涵 崔新甜

总编辑：宋晨希