27【中文】第八章 | 偏见，还有种种错误预测

精华笔记 

喜马拉雅的听众你好！欢迎收听今天的课程。从本集开始我们将用四集内容关注人工智能的“黑暗面”，也就是那些对人工智能发展的担忧。这些忧虑是不是站得住脚，我们又将做什么来打消这些忧虑。今天我们要关注的是，人工智能是不是会歧视一些特定的人群。

一、人工智能的黑暗面

计算机没有情感，这是他们的一大优势。计算机只会孜孜不倦地执行算法。他们不会分心，不会疲倦，不会生气，也不会坠入爱河。他们只是完成自己的工作。当然了，他们也会备受指控，背上偏见和歧视的骂名。这一切又从何谈起呢？

亚马逊使用机器学习系统为求职者作筛选分类。经过严密的复查，亚马逊发现，这个机器学习系统对女性求职者充满了偏见，对待她们要比男性求职者更为苛刻。当然了，亚马逊当机立断关停了这个系统。但在这其中发生了什么？

亚马逊的机器学习系统训练有素，它们关注之前的数千次工作申请，从中评估求职简历。然而，机器学习的数据，却是人类评测之后的决策。不幸的是，亚马逊的招聘人员一度更青睐男性求职者，机器在从这些数据中学习的时候就倾向于得出结论：它们应该更看重男性求职者，一切遵循招聘人员的先例。

还记得人工智能系统是如何学习的吗？它们是从训练数据中挖掘洞见的。就亚马逊招聘员工这件事而言，机器学习系统赖以学习的训练数据却是重复了之前人工决策的偏见，还有对女性求职者的歧视。当然了，这并不是机器的意图，机器无意这么伤害女性。偏见是无意之中产生的，重复的是藏在水面之下的人类偏见。

人工智能是从训练数据中学习。这也就意味着，训练数据之中已有的全部偏见都会被机器重复一遍。机器思维并不能凌驾于人类导师之上，因为它没这个能力。机器可不懂得什么价值观，也没有评估自身行为的标尺，更不可能完成比较、鉴别、取舍。机器所做的一切，都是尽可能忠实地复现自己的训练数据。

二、人类偏见，底线问题

 人工智能的偏见，正是出于有偏见的训练数据。结果就是，糟糕的人类决策影响了机器，让后者也做出了糟糕的决策。这是一个真正的问题，但是这个问题并非源于机器。比这重要得多、也更让人困扰的问题是，这种情况反映了人类思维和决策的问题。这是我们的偏见，机器只不过模仿了而已。

这个问题本不应该困扰我们。人类决策存在认知偏见，这一点我们已经很久就知道了。有些认知偏见源于下意识的畏惧或是厌恶，另一些偏见则是人类思维里更为根本的问题。这也意味着，我们在试图从过往人类行为中学到什么的时候，就必须慎之又慎。不管机器学习是从人类决策中学习，还是从人类行为中学习，我们都必须清楚一点：我们从过往决策中学习的时候，我们自身的决策已经被不理性的思考和认知上的错误影响到了。

不过这也给我们抛出了一个关键的问题，也就是我们在评估人工智能系统时面对的问题。我们希望人工智能的表现能有多好？我们在比较评估人工智能系统的时候，应当遵循什么“底线”？问题就来了：从训练数据中学习的时候，工程师旨在让机器的思维与人类一样出色。对工程师而言，机器思维的底线就是人类决策。但是，许多外行的愿望是，机器不但要与人类一样出色，也不仅要比人类好一点，而是务必要做到最好。他们的底线是绝对完美，而不是相对卓越。

三、测试，确认，反事实

因此，在事先考虑偏见和其它认知谬误的前提下，我们测试人工智能系统的时候应当遵循哪一种实用方法呢？

我想在此提出两个简单实用的规则。第一，我们应当期待，人工智能系统至少与人类一样出色，而且会比人类出色得多。也许我们会希望在开始的时候让它与人类能打个平手，然后随着时间推移慢慢增加期待标准。因此，人工智能系统需要随着技术发展和人类能力的演进不断进步。但是重要的事情在于，我们要把自己的期待与相对的标尺绑定，这个标尺是相对于人类的成功率或是失败率，而不是什么希望中虚无缥缈的“绝对完美”。

我提出的第二大实用规则就是刻意测试人工智能系统，让它们经受我们已经否定的已知偏见和歧视的检验。人工智能系统从人工训练数据中学习的时候，训练数据里非常有可能出现大量隐藏的偏见。并非所有偏见都有问题，因此并不是所有偏见都需要曝光、消除。相应地，我们应当设定复杂的“偏见库”，纳入我们明显反对的偏见，比如那些导致种族歧视和性别歧视的偏见。我们应当集中精力研发这些可以测试评估并揭露偏见的工具，曝光那些招致严重歧视的偏见。

如前所述，偏见与歧视都是人工智能系统存在的真正问题，也是因为从人类训练数据学习导致的问题，我们必须严肃对待这个问题。但要想解决这个问题，我们必须只能想得更实际一些，我们评估人工智能系统的时候应当避免：相对精确，或是绝对完美。一旦我们设定了务实的底线，我们就能评估系统。我们的希望不是清楚所有可能的偏见，而是聚焦于那些我们最讨厌的认知谬误。如果我们保持这个着力点的话，我们就会实现进步，去除人工智能带来的一大威胁。