31.3实验|机器人三法则：如何防止机器人伤害人类？

大家如果喜欢看科幻电影，一定经常会看到这样一种恐怖的场景：未来机器人反过来奴役，甚至屠杀人类。例如，施瓦辛格演的电影《终结者》，就是这样的。最近对人工智能的讨论，更加加剧了这种担忧。所以，如何才能警惕和预防机器人和人工智能呢？

今天我们就要来谈一谈“机器人三法则”（ThreeLaws of Robotics）。这三个法则是著名的科幻小说家伊萨克·阿西莫夫，在1940年的一篇小说《我是机器人》中提出来的。

这三条法则分别是：

第一条：机器人不得伤害人类，或看到人类受到伤害而袖手旁观。

第二条：机器人必须服从人类的命令，除非这条命令与第一条相矛盾。

第三条：机器人必须保护自己，除非这种保护与以上两条相矛盾。

这三条法则，看上去不是不错？但是执行起来却有不少问题。

有必要说一下的是，英语中的Law这个词具有两种截然不同的含义：第一种是人类社会中的法律和道德律令。其目的是规范一个政治共同体中成员的基本权利与义务，甚至还要定义犯罪行为，并通过相应程序和机构对之进行审判和惩戒；

第二种含义是自然（科学）中的法则和定律。例如牛顿力学中的三大定律，它通常是用数学符号的方式来表达的。上述这两种涵义是根本的不同。法律在原则上是可以违反的。我可以尝试做坏事，例如偷东西，伤害别人等等。

与此相反，自然规律对人来说，是无法违反的。无论我怎么想，我在地球上都受到引力的作用。

阿西莫夫的机器人三法则，属于前者，它们类似于伦理与法律，而不是自然法则和定律。

有意思的是，阿西莫夫在写机器人三法则的时候，使用了不得（maynot）和必须（must）这样的语词，非常类似神学中的“神命”（divine command）。也就是好像上帝颁布给人的诫命。

但是正如人类经常忤逆神的诫命一样，人工智能为何一定要遵守这些命令呢？如果没有技术的落实和保障，这一切都仅仅是人类的一厢情愿而已。人类也面临“造物主”的烦恼。

从语义层面上来看，阿西莫夫的三大法则还有非常多不清楚的地方：以第一条为例，它并未明确定义“人类”和“伤害”。

我们可以设想，未来工程师设计了一种执行护士职能的机器人，它要给病患打针。打针这个行动是“伤害”吗？

按照我们通常的理解，打针这个行动显然要刺穿人的皮肤，并造成微量的出血。不过人类的一般常识告诉我们，这种轻微的伤害可以治愈病患的疾病，并且得到了病患的认可。

在疾病和打针之间，一般的成年人经过权衡比较，都会选择接受打针。但是要让人工智能进行这样的权衡比较，需要极为丰富的常识（commonsense）。

还有，如果阿西莫夫的第一条原则成立，那么机器人和人工智能都不得被用于执法和军事作战领域中。因为在这两个领域中，直接需要伤害特定的人。例如暴力犯罪分子和敌国的作战军人。

但显然根据我们的历史经验，最新科技往往首先被运用在军事领域中。人类自身能够坚守阿西莫夫的第一条法则吗？

我们再来看第二条：

第二条法则中语义存在的漏洞是“服从命令”（obeyorders）这个词。

不过我们可以设想，两个人的命令可能会出现矛盾。一个人说，你站着，另一个人说，你坐下。机器人到底应该听谁的呢？

还有呢，阿西莫夫使用了“人类”（humanbeings）这个词。服从一个特定的人（例如“我”），和服从（复数形式的）人类之间存在明显差异。

如何让人工智能定义和识别“人类”成为了关键问题。

第三条法则的核心词是“自己”（itsown existence）。

要明白这一表述的意指，是否需要“自我”（self）的观念。而产生这一观念的前提是人工智能具备自指（self-referential）能力。 这种自指能力其实对人类自己都是一个谜。

针对机器人三大法则存在的问题，

阿西莫夫本人后来增加了更有优先性的“第零法则”：机器人必须保护人类的整体利益不受伤害。

这是一个类似于边沁功利主义的原则，即保证机器人追求人类共同体整体的最大福祉。问题在于，如何定义“整体利益不受伤害”？这会面临传统功利主义的难题。

例如从宏观来看，目前地球上有70亿人口，我们可不可以为了70亿整体人类消灭当中的30亿呢？

从微观方面讲，我们可不可以杀死一个健康的人，把他的器官拿出来给那些等待急需器官移植的人？

这样杀死一个人可以拯救七到八个人，是否符合所谓“人类的整体利益”？

按照人类常识和良知，显然是不可以这么做的。因为除了人类的整体利益之外，还有许多需要考虑的问题，每个人的个体利益也必须受到尊重和保护。

所以啊，阿西莫夫的机器人三法则虽然算是未雨绸缪，但依然不能彻底杜绝一些基本问题。

那么，你能想出什么办法来，让机器人和人工智能不伤害、奴役人吗？