第48集 大佬们对AI风险的担忧

【本集金句】斯蒂芬霍金：“人类受生物演化速度限制，不可能与智能机器竞争，如果我们全面发展人工智能，最终它将自行启动，并以越来越快的速度重新设计自己、不断进化。人类无可避免将被取代。”

第48集 大佬们对AI风险的担忧

对人工智能与人类未来的思考，让山姆奥特曼开始与人工智能领域的科学家、学者，以及人工智能商业应用相关的创始人、投资者进行了大量密集的交谈。在这个过程中，奥特曼进一步确定，人工智能对人类未来的影响不仅难以预估，并且这种影响并非全是正面的，稍有不慎，人工智能就可能毁灭人类现有的文明。

这可不是杞人忧天，奥特曼首先总结了人类历史上三次伟大的技术革命，包括农业革命、工业革命和21世纪前后正在发生的计算机革命。他认为，这些伟大的技术革命影响了大多数人每天所做的事情以及整体社会的结构。计算机革命似乎也是如此，在创造财富的同时，它摧毁了许多传统工作岗位，也创造了不少新的岗位或者需求。奥特曼在其中看到的两个最具风险的技术就是人工智能和合成生物学。这两项技术除了本身的失控风险，还有一个危险，也就是它们都可能会让少数人获得强大的能力，而对全人类造成伤害——先说合成生物学技术，它的发展，可以做到让一些人可以在小型实验室中设计和生产出可怕的疾病，发展蔓延到世界各个角落；而开发能够终结人类生命的人工智能，可能只需要全球任何一个办公大楼内的几百人，并且这些人需要的工具仅仅只有笔记本电脑。

怎么就会说到如此严重的，会终结人类生命的话题呢？

对科幻小说作家查尔斯斯特劳斯来说，人工智能的危险不在于它们将超越人类，或突然意识到它们可以取悦自己，而不是去取悦它们的人类主人，斯特劳斯说：“人工智能的最大威胁来自于为他们设定目标的人是谁，比如，无人机不会杀人，但指示无人机飞到某个坐标，并要求它释放地狱火导弹的人才会杀人，必须质疑控制人工智能的人的意图。”

还有人拿著名导演斯坦利库布里克的电影《2001太空漫游》举了例子，这部电影里讲述的是，在前往木星的路上，太空船发现一号上的第六位乘员——通用人工智能哈尔9000，试图杀死太空船上的其他乘员后自行接管飞船。而这一举动的背后原因不过是它在离开地球前接受过来自不同人类的不同指令，其中相悖的部分令它决心以杀掉人类来满足自己的终极飞行任务。

哈尔9000的形象概括了大多数人对人工智能的恐惧。尤其是，当现在的人工智能开始涉足人类生活的各个方面——它让我们的收件箱远离垃圾邮件，它帮助我们进行网络交易，它驾驶我们的飞机，并且也将驾驶我们的汽车——这一点在我们如今的生活中早已实现，比如我们经常在新闻里看到的特斯拉自动驾驶事故，人们被失控的“人工智能”害死。

那在2014年，当谷歌、IBM、Facebook等科技公司对人工智能的发展感到兴奋，拉起一轮又一轮的竞争时，其他专家是怎么看待此事的呢？

让我们先看看霍金的说法。作为第一个提出由广义相对论和量子力学联合解释的宇宙论理论之人，霍金是量子力学多世界诠释的积极支持者，一直走在科学技术最前沿，同时这位理论物理学家因为患有肌肉萎缩侧索硬化症，一直在使用英特尔开发的系统辅助讲话，英特尔在2014年公布了霍金用的这个交互系统工具包，名叫ACAT，也叫做辅助情境感知工具包，ACAT整合了滑动手势输入法SwiftKey，并支持用户通过眨眼、眉毛的动作等进行交互操作，可以说是人工智能的早期应用雏形。霍金在使用这套系统后，打字速度提高了一倍，从事普通活动的效率也提高了十倍，然而这套系统升级后也让霍金更加担心人工智能在未来的发展。在接受BBC采访时，霍金发出警告，迄今为止开发的早期的人工智能已经被证明非常有用，但他担心如果创造出能够与人类匹敌，甚至超越人类的人工智能，有可能带来严重后果，甚至导致人类灭亡。

早在2014年时，奇点大学人工智能负责人尼尔雅各布斯坦就做出预言：“人工智能融入了我们日常生活的结构，它们被用于医学、法律、设计和整个汽车行业。每一天，在幕后做出决策的算法都变得越来越聪明。这意味着现代世界最大的任务之一——让机器像人类一样聪明——可能离我们越来越近了。人工智能将在21世纪20年代中期超越人类智能。”雅各布斯坦认为，人类必须考虑自己正在创造的后果，并准备在社会和制度层面应对可能出现的巨变。他说：“最好在技术完全开发之前这样做，而人工智能和机器人当然还没有完全开发出来。当你不考虑这些可能的错误时，事情出错的可能性会增加。我认为我们有很大的机会主动预测可能的负面风险，并尽力为这些风险开发冗余的、有层次的思考控制。”

牛津大学的尼克博斯特罗姆教授表示，由人工智能引发的灾难可能会在一个世纪内降临。皇家理工学院的认知机器人学教授穆雷夏纳汉说：“目前正在积极从事人工智能的人，并没有真正建立起安全系统，来阻止他们的创造物失控。”Google的工程主管雷库兹韦尔也担心人工智能，虽然他的担忧原因更为微妙，他担心可能很难编写出足够强大的算法道德标准，来限制和遏制强人工智能程序。

总结来说，当一项天然就带着危机性的新科技以龙卷风般的速度和强度铺满生活，它会让一部分人觉得刺激，更会让另一些人感到恐慌。

甚至许多电影里，包括《黑客帝国》系列、《终结者》系列、《银翼杀手》等等，都写出了弱小的人类难以对抗强大的人工智能敌人。而在更多更新的电影里，创作者们也开始思考人类与人工智能除了对抗之外，是否有更多的主题，比如斯派克琼斯的电影《她》里，讲述了人与人工智能之间虚幻的爱情；亚历克斯加兰德的电影《机械姬》则探讨了机器人的人性；而漫威在2015年推出的《复仇者联盟2》则讲述了超级英雄们对抗超级人工智能奥创的故事，在面临超级人工智能的威胁时，如果没有超级英雄挺身而出，人类几乎没有任何胜算。

在这样特殊的时代中，两个都投身其中的天才，山姆奥特曼和埃隆马斯克相遇了。他们决定，一起设立一些安全阀。