前言-3

为什么人们开车时会发短信？也许你认为这些人不知道这有多危险。然而，在一项调查中发现大多数人都清楚地知道这个行为十分危险。[注]问题不在于缺乏认识，而是缺乏自控。一名学生解释说：“当收到短信时，无论如何我都要查看。”自从平台引入通知、点赞和其他心理手段诱使用户盯着网站而不是周围环境后，自控就变得更加困难了。然而，人们如果在开车的时候，能抑制住查看手机的冲动，就可以避免诸如此类的危险。这不仅仅针对年轻人。一位伤心欲绝的妈妈说：“当你爱的人开车时，不要给他发短信。”她在重症监护室里见到了伤势严重的女儿，女儿脸上伤痕累累，还失去了一只眼睛，而这都是因为她给女儿发了一条“愚蠢的短信”。[注]智能手机是一项了不起的技术，但它需要聪慧的人来明智地使用。在这里，掌控技术的能力可以保护你和你所爱之人的生命安全。

大规模监控是问题，而不是解决方案

我们害怕恐怖袭击，而不害怕开车时盯着智能手机的司机，部分原因可能是媒体关注更多的是恐怖主义而非分心驾驶。同样，政客们也更关注恐怖主义。为保护其公民，世界各地的政府都在尝试使用人脸识别监控系统。在实验室对签证、工作申请照片或其他光线充足情况下拍摄且头部保持在特定位置的照片进行面部识别测试时，这些人脸识别系统表现得非常出色。但这个系统在现实世界中准确性如何？有一项测试就是在我家附近进行的。

2016年12月19日晚，一名24岁的恐怖分子劫持了一辆重型卡车，冲入繁华的柏林圣诞市场，那里挤满了享受香肠和热酒的游客和当地人，事件造成12人死亡，49人受伤。次年，德国内政部在柏林火车站安装了人脸识别系统，以测试其识别嫌疑人的准确度。为期一年的实验结束后，德国内政部在其新闻稿中自豪地宣布了两个令人兴奋的数据：识别率为80%，即每10名嫌疑人中，系统识别正确的有8名，识别错误的有2名；误报率为0.1%，即每1000名无辜路人中只有一名被误认为是嫌疑人。内政部部长称赞该系统取得了令人瞩目的成功，并得出结论：在全国范围内实施监控是可行且可取的。

新闻发布后便引发了激烈的争论。一部分人相信更全面的监控会使社会更安全，而另一部分人则担心监控设备最终会成为乔治·奥威尔著名小说《1984》中的“电幕”(telescreens)。然而，他们都理所当然地默认了政府宣称的系统识别率。[注]与其在情绪化的辩论中站队，不如思考一下，若广泛部署这种面部识别系统，会发生什么？每天约有1200万人通过德国的火车站，除了数百名通缉嫌疑人，大都是正常工作或外出游玩的人。0.1%的误报率意味着每天有近12000名路人会被误认为嫌疑人。他们会被强制拦截，搜查是否携带武器或毒品，并被管制或拘留，直到其身份得到证实。[注]本就紧张的警力资源将被用于审查这些无辜的公民，而不是有效预防犯罪。换言之，这样的系统实际上是以安全为代价的。最终，人们将建立一个侵犯个人自由且扰乱社会和经济生活的监控系统。

人脸识别可以提供有价值的服务，但必须用于特定的任务：个人身份识别而不是大规模筛查。在地铁站发生犯罪或汽车闯红灯后，录像可以帮助识别肇事者。在这种情况下，我们知道这个人犯了罪。然而，在车站对每个人进行筛查时，他们中的大多数并不是嫌疑人，与大规模医疗筛查一样，这会导致大量误报。人脸识别在某些任务中表现相对更好，比如，人脸解锁手机时，手机会执行一项名为“验证”的任务。不像在地铁里逃跑的肇事者，你得直视摄像头，将其靠近脸部，保持完全静止。试图解锁你手机的人几乎总是你自己。这种情况创造了一个相对稳定的世界：你和你的手机。这很少发生错误。

要讨论人脸识别系统的优缺点，需要区分以下三种情况：多对多、一对多和一对一。在大规模筛查时，许多人与数据库中的其他人进行比较；在身份识别时，一个人与其他人进行比较；在身份验证时，一个人与另一个人进行比较。如前所述，不确定性越小，系统的性能就越好，因此相比大规模筛选，身份识别时系统性能更优。回想一下，在2021年1月对美国国会大厦的袭击中，如果面部识别系统能迅速识别出一些强行进入大楼的人会怎么样。一般的观点是，人工智能没有好坏之分，只是对某些任务有用，对其他任务没那么有用。