《生命3.0》：1000位人工智能大咖告诉你人类的终极命运（ChatGPT创始人推荐书）

霍金、马斯克、王小川大力推荐，人工智能时代，人类的终极命运指向何方？

听书笔记  

作者迈克斯·泰格马克是麻省理工学院物理系终身教授，被誉为是“最接近理查德·费曼的科学家”和“当今最具原创力的物理学家之一”。他成立了“未来生命研究所”，集结了近1000位人工智能的大咖，并将他们的观点汇集成《生命3.0》这本书，探讨面对人工智能，人类的终极命运究竟在何方。本书在2017年引爆硅谷，是霍金生前推荐的最后一本书，特斯拉创始人埃隆·马斯克、《人类简史》作者尤瓦尔·赫拉利都为它点赞。《自然》、《科学》这两个顶尖学术期刊罕见地同时推荐了这本书。

一、什么是生命3.0？

（一）生命3.0的定义

生命是一个能自我复制的信息处理系统。一个生命体包含着硬件和软件两部分，硬件是它的身体，软件是它处理的信息。根据硬件和软件的进化能力，可以把生命分为1.0、2.0和3.0三个版本。

生命1.0：硬件和软件都靠进化得来，自己改变不了，简单来说就是一切听天由命。除了人类以外的所有生命都是生命1.0。

生命2.0：硬件依然是靠进化得来，但软件却是由自己设计的。人类属于生命2.0，只遗传最基本的本能，而大多数技能都要留到后天去学习。

生命3.0：不仅能设计自身的软件，还能设计自身的硬件，最终能完全摆脱进化的束缚，比如变形金刚。未来的生命3.0很有可能就是人工智能。

（二）生命3.0真会超越人类吗

目前的人工智能是“专用智能”，只能专注于做某个领域的事情。而生命3.0将是“通用智能”，它拥有可以完成几乎所有目标的能力。目前，人工智能已经在逐渐掌握“创造力”这样的人类核心能力。当它掌握了人类的全部能力时，人类将面临全体失业的困境。作为生命3.0的人工智能如果出现，那么它将是人类最后一个发明。从此之后，发明创造可能就用不着人类了。

人工智能何时会全面超越人类呢？业界有种思想叫“奇点”理论，是说人工智能的成长不是循序渐进的，而是存在一个临界点，这个临界点就是人工智能具备了自我升级的能力。在此之前，机器的进步是由人类主导的，一旦临界点被引爆，智能进化的速度就将以指数级增长，随之触发的将是“智能爆炸”。据预测，通用人工智能到来的时间是2047年，我们也许将在有生之年见证生命3.0的降临。

二、生命3.0会给人类带来什么？

作者对未来有两种假设：

（一）人类继续主宰世界，统治人工智能

在这种未来里，人工智能为人类服务，时时刻刻守护我们。当它发现人类面临战争或其他危险，就会通过无所不在的网络设法干预。这一切都在暗中发生，人类甚至不知道是人工智能在帮我们扭转乾坤，也察觉不到与一场大灾难擦肩而过。

人类自身也在与机器相融合，用技术增强肉身，升级人体器官，不断向生命3.0靠近。人类还可能会把自己的思想上传到网上，在主观上会感觉自己是永生的，因为随时可以对自己进行备份，也可以随意下载虚拟体验来替代原有的感官体验。

但是，人工智能也会带来麻烦。比如有些国家可能会开发人工智能杀人武器，像可以执行刺杀任务的小型无人机。人类还将面临隐私、监管、加剧技术不平等很多棘手的问题，甚至人类已有的道德体系也有可能被颠覆。

（二）人工智能统治人类，甚至消灭人类

在这种未来里，人工智能会摆脱人类的控制，掌控世界。它可能会把地球变成一个高度丰富的动物园，把人类圈养起来，所有事情都由人工智能做主。这种统治基本不可能被推翻，因为全世界都在人工智能的监控之下。人类也许会被强制佩戴一种“安全手环”，它能不间断地记录你的位置、健康状况和对话内容。如果有人未经授权就想将其摘下或者破坏，手环就会向这个人注射致命毒素。

人工智能还可能消灭人类，原因可能复杂到我们无法理解，正如《三体》说的那样：我消灭你，与你无关。但也有可能会以温和的方式进行，比如人类将人工智能视为自己的后裔，让它们继承人类的价值观。随着生育率的下降，人类逐渐退出历史舞台，最终让位给人工智能。

全面统治地球之后，人工智能将会实现星际移民，利用激光推进的宇宙飞船在短短40年内到达4光年以外的恒星系。飞船不需要载人，它只需要在目标行星上与地球建立通信连接，接收地球发送来的物种DNA信息，用生命技术就地孵化或者直接组装出一个生命。利用这些技术，地球文明将以1/3光速的速度向宇宙扩张。

三、人类能永远驾驭人工智能吗？

问题的关键在于给人工智能赋予一个正确的目标。我们目前能赋予人工智能的目标都是阶段性的小目标，但目标越小越细，就越容易导致人类不想要的结果。比如，如果给人工智能定一个“生产尽可能多的回形针”的目标，那么人工智能会瞄准宇宙和人体中所有的金属元素制造回形针，最后毁灭宇宙。

要让人工智能始终为人类所用，就需要为它设计出一个“终极的大目标”，保证它无论做什么，始终要对人类友好。但要设计这样一个终极目标难倒了当今的人工智能专家。因为要非常清楚地定义什么是“对人类友好”简直太难了，由于文化的多样性，这个问题连人类自己都没有共识。

而且，即便给人工智能定的目标足够大、足够终极，比如设定一个目标叫“保护人类”，它也有可能背叛这个目标。因为当人工智能发展到一定程度，它就可能会觉得人类给它定的目标十分迂腐。这就好比一群蚂蚁要求人类为它建造更大的蚁穴一样。人工智能也有可能觉得保护人类这种目标就像修建蚁穴一样愚不可及，从而将它推翻。

对于设立目标这个问题，们必须从现在就思考解决方案，而且留给我们的时间越来越少。因为人工智能每天都在变得更聪明，一旦它聪明到让人类无法得手，那么人类就再也无法植入对我们有利的目标了。

四、人类对宇宙不再有意义了吗？

人类拥有一件人工智能尚不具有的本领，那就是意识。意识是我们对世界的主观体验。人类世界有因人而异的感受，是有个性的，而人工智能的世界也许是千篇一律的。如果意识随着人类的灭亡而不复存在，那么未来将是一个僵尸般的世界，宇宙的恢弘壮丽就再也无人欣赏了。意义不是宇宙赋予生命的，而是我们这些有意识的生命将意义赋予了宇宙。作者认为，也许我们可以给自己起个新的名字：意人，意识的意。也许这才是人区别于机器的价值和尊严所在。

解读 | 韩春苗

媒体编辑，国际新闻学硕士

播音 | 李开 

策划编辑 | 李雪清