第49集 埃隆马斯克的警告

【本集金句】瑞典哲学家尼克博斯特罗姆：“如果你告诉一个全能的人工智能，制造尽可能多的回形针，而没有给它任何其他指令，它可以开采地球上的所有资源来制造回形针，包括我们身体中的原子。”

第49集 埃隆马斯克的警告

在AI使用的争议上，太空探索技术公司SpaceX的创始人、特斯拉的CEO埃隆马斯克，同样在2014年，一次又一次地向公众发出自己的顾虑和警告。

8月，马斯克通过推特发表观点：AI可能比核武器还要危险。随后他与Google旗下人工智能公司DeepMind 的联合创始人穆斯塔法苏莱曼，以及26个国家的一百多名人工智能领域专家共同向联合国发表了一封联名信，希望能禁止有关杀人机器人的研究和使用。

10月，马斯克在麻省理工学院接受采访时，将人工智能描述为“人类最大的生存威胁”，他说：“有了人工智能，我们就在召唤恶魔。开发这一技术的风险永远存在，在实际尝试推进人工智能升级时，我们可能会创造出我们不想见到的东西。”马斯克担心人工智能的进步可能会损害而不是造福于人类，人类可能最终会在残酷而冷酷的人工智能脚下被迫进入最坏的结局。

2015年1月，埃隆马斯克宣布捐赠1000万美元来给未来生命研究所FLI，以资助所有“让人工智能造福于人类”的研究项目。生命未来研究所是一个非盈利组织，目标是减少人类面临的全球性灾难和生存风险，尤其是不断进步的人工智能带来的相关风险。未来生命研究所计划把马斯克捐赠的资金分配给相关的研究项目，优先帮助专注于人工智能研究的项目，同时着眼于伦理学、法律、经济学等相关领域，以及其他牵涉人工智能领域的研究。

马斯克在宣布这一消息的同时，还发表了一份新的公开声明，由他与多位著名的人工智能研究人员联合签署，呼吁支持未来生命研究所的工作。马斯克在声明中说：“这些领先的人工智能研究人员都认为，确保人工智能对人类是安全的这件事很重要，我同意他们的观点，所以承诺捐赠1000万美元，支持旨在保持人工智能对人类有益的研究。”

值得一提的是，未来生命研究所自2015年以后，间隔两年组织一次会议，邀请来自学术界和商界的所有AI研究人员，讨论人工智能的未来研究方向，以及人工智能安全相关问题。2017年，美国加利福尼亚州的未来生命研究所会议，被纽约时报称为“AI 重量级人物”的私人聚会，包括此前提到的AI教父之一的扬勒丘恩，以及瑞典哲学家尼克博斯特罗姆，还有埃隆马斯克纷纷出席，这次会议后发布了由众多AI研究人员签署的23条AI开发原则清单，这些原则影响至今，延伸出愈发完整的关于人工智能的监管举措，比如经合组织的人工智能原则。

在2023年ChatGPT流行后，同样是未来生命研究所起草了一封公开信，呼吁主要AI开发人员在六个月内暂停开发任何“比GPT-4更强大”的系统，以便利用这段时间建立一个确保人工智能安全的框架协议。

埃隆马斯克的连续发声和捐赠1000万美元的行动，引起了山姆奥特曼的关注。2015年，29岁的山姆奥特曼风头正盛，他在执掌YC公司一年后，以辍学者的身份重回斯坦福母校，背后是包括YC创始人保罗格拉厄姆、PayPal创始人彼得蒂尔在内的大佬支持者们和人数更加庞大的追随者团队。并且，在一年的时间里，奥特曼颁布了众多改革计划，将YC的投资风向转向硬科技公司和突破性技术领域，换句话说，山姆奥特曼与埃隆马斯克的很多想法不谋而合。

有趣的是，如果画出奥特曼和马斯克的相关人物关系图，可以发现他们其实早有渊源。山姆奥特曼在什么时候认识的埃隆马斯克？这就不得不提起之前提到的“仙童八叛逆”，在仙童帮投资人的列表里，有两家公司格外引人注目，它们分别是成立于1998年的软件公司confinity，和成立于1999年的在线支付平台x.com，两家公司的创始人均来自斯坦福，业务范围都与金融服务有关。

当20世纪末的互联网泡沫来袭时，x.com和confinity这两家公司在2000年3月时合并，抱团取暖，之后以confinity公司当时做的最好的产品命名了新公司，改名叫做PayPal。提到PayPal你应该印象深刻，之前多次提到的山姆奥特曼的好友亿万富翁彼得蒂尔就是这家公司的创始人之一，而埃隆马斯克则是x.com的创始人，两人带着各自的公司合并成了后来的PayPal。

因此，奥特曼和马斯克其实早就认识，同是斯坦福校友，并且认识彼得蒂尔、保罗格雷厄姆等人，但两人一直交际不深，毕竟山姆奥特曼在2014年成为YC公司的掌门之前，只是一个硅谷的后起新秀，不仅年纪小，而且创业项目也仅仅只有地理位置社交应用Loopt而已，和早已成为内业大佬、从互联网企业转向硬科技公司的埃隆马斯克根本不在一个级别上。早在2002年马斯克就创办了SpaceX，开始尝试制造火箭，试图在未来带着全人类殖民火星，之后又加入电动车制造商特斯拉，陆续担任董事长、产品设计师和首席执行官等职位，马斯克不仅自己投资人工智能方向的公司或者机构，同时也在特斯拉内部组建团队，研发人工智能相关的无人驾驶技术。

但在2015年，因为在人工智能、新能源、生物技术等各个领域都有着相同的理念，同时都非常关心人工智能的未来风险，山姆奥特曼和埃隆马斯克决定合作搞事情，Open AI的故事正式开启！