献词&前言-1

献给智慧女神雅典娜

“爸爸，你小时候没有电子计算机，怎么上网啊？”

——一个来自波士顿的七岁孩子

“如果机器人什么都做，那我们该怎么办？”

——一个来自北京的五岁孩子，李开复《AI新世界》(Superpowers)

想象一下，有一个智能助理什么都做得比你好：不管你说什么，它都能准确理解；不管你决定做什么，它都能准确执行；你制订明年的计划后，它会提出一个更好的建议；甚至某些时候，你可能会放弃自己做出的决定而听从它的建议。现在是人工智能在管理你的财务、填写你的信息、选择你的感情伴侣，并建议你最好什么时候生孩子。包裹会被自动送到你家门口，甚至其中有些物品你都不知道正是自己所需要的。社区工作者可能会主动来访，因为数字助手预测你的孩子有罹患严重抑郁症的风险。当你还在为支持哪个政治候选人而苦恼的时候，数字助手已经洞悉并帮你投好了票……科技公司掌控你的生活只是时间问题，忠实的助手会变成一个卓越的超级智能。我们的孙辈将像一群羊一样，满含敬畏地对他们的新主人或是欢呼雀跃，或是瑟瑟发抖。

近年来，我曾在许多热门的人工智能论坛上发言，人们对复杂算法的无条件信任一次次让我震惊。无论是什么主题的活动，科技公司的代表都向听众保证，机器会更准确、更快速、更经济地完成任务，更重要的是，用软件代替人工很可能会让世界变得更美好。同样，听说谷歌比我们更了解自己，人工智能几乎可以完美预测我们的行为，或者很快就能做到这一点。在向广告商、保险公司或零售商提供服务时，科技公司就宣称它们具备这种能力。我们也倾向于相信这一点。即使是那些认为机器会带来世界末日的流行作家以及科技行业最直言不讳的批评者，也认为人工智能几乎无所不知，他们将人工智能称为邪恶的监控资本主义，对人类自由和尊严将被践踏感到深深的恐惧。[注]正是这种信念让许多人担心脸书（Facebook，现更名为Meta）是一个可怕的奥威尔式监控机器。数据泄露和剑桥分析丑闻则将这种担忧放大，让人害怕，让人敬畏。要么出于信任，要么出于恐惧，但故事情节却保持不变。情节是这样的：


人工智能在国际象棋和围棋比赛中击败了最优秀的人类。

计算能力每两年翻一番。

因此，机器很快就会在各方面比人类做得更好。

我们将此种论调称为“人工智能战胜人类”。它预测机器超级智能即将到来。这一论调的两个前提是正确的，但结论却是错误的。

因为对于某些类型的问题，计算能力还有很长的路要走，但对于其他问题却没有。迄今为止，人工智能还只是在具有固定规则、定义明确的游戏中获得了胜利，例如国际象棋和围棋，在相对不变的条件下人脸和语音识别也取得了成功。当环境稳定时，人工智能可以超越人类。如果未来和过去一样，那么海量数据将大有用处。然而，如果发生意外，大数据（都是过去的数据）可能会误导我们对未来的看法。大数据算法并没有预测出2008年的金融危机，但却预测出希拉里·克林顿在2016年能够获得压倒性胜利。

事实上，我们面临的许多问题并不是定义明确的游戏，而是充满了不确定性，比如寻找真爱、预测谁会犯罪，或者在不可预见的紧急情况下如何做出反应。在这些问题上，计算能力再强，数据量再大，帮助也是有限的。人类是不确定性的主要来源。想象一下，如果国王可以一时兴起违反规则，而王后可以在放火后跺脚离开以示抗议，那么国际象棋将会变得多么困难。在涉及人的情况下，信任复杂算法会对确定性产生错觉，从而成为灾难的根源。

复杂算法在情况稳定时可能会成功，但在不确定的情况下则比较难成功，这体现了本书的主题：

保持聪慧意味着了解数字技术的潜力和风险，以及在充满算法的世界中保持主导地位。

我写这本书是为了帮助你了解数字技术的潜力，比如人工智能，但更重要的是帮助你了解这些技术的局限性和风险。随着数字技术逐渐普及，并成为主导，我想为你提供掌控自己生活的策略和方法，不让自己被人工智能打败。

当软件替我们做出决定时，我们是否应该完全听从于它？当然不应该。保持聪慧并不意味着完全信任技术，也不意味着完全不信任技术，对此充满焦虑。相反，这本书旨在帮助读者了解人工智能可以做什么，揭示有关营销炒作和技术宗教信仰的幻想问题。同时，本书还讨论了如何让人类控制设备，而不是被设备远程控制。