【人工智能】1-1：《机械姬》—现实比电影更恐怖

更新提醒 

每周更新三期

点击右上角免费订阅↑↑↑

本期原文 

今天是我这档脱口秀节目的第一期，我想跟你聊一个非常有意思的话题。

过去的几年里，人工智能已经被谈得比较多了，但是关于人工智能的定义，关于人工智能与人的边界，行业里一直有争议，并且有不同的想象。我这期的内容，将从一部几年前非常热门的科幻电影《机械姬》讲起，这部电影里隐含了两个人工智能技术发展的大问题，一个是图灵测试可能存在缺陷，一个是人工智能与人脑的界限究竟在哪里。

听完这期内容，相信你在脑洞大开，了解人工智能前沿最新发展动态的同时，再看到科幻作品里的人工智能，也会有新的角度和感受。

《机械姬》：恐怖的机器人

不知道你有没有看过《机械姬》这部电影。我先帮你梳理下剧情。

电影的男主角迦勒是个程序员，一天突然被老板的程序抽中得了大奖——奖品是可以到老板的别墅去度假。男主来到别墅，才知道老板让他来度假的真正目的，是想让他帮忙测试老板最新研发的一个叫艾娃的机器人，看这个机器人是否具有自我意识。

你可能已经知道，科技界测试人工智能有一个基本的方法，叫图灵测试。所谓图灵测试，简单点说，就是让一个人隔着一个帘子和对面的物体进行聊天，这个物体可能是人，也可能是机器。如果这个聊天的人区分不出自己是在和人聊天，还是在和机器聊天，那就可以说这台机器通过了图灵测试，已经达到了以假乱真的人类智力。

那为什么用聊天做测试呢？就不能比比算术、动手能力、或者股票投资之类？这你就不懂了，我们人类的聊天啊，其实是非常非常高水平的智力活动。像“最强大脑”里的那些脑力比拼，是单一计算技能，相对来说，其实计算机比较擅长。但是聊天呢，需要灵活反应，要动用很多项综合技能，还要有丰富的常识，这反而是计算机学不会的。

迦勒带着任务跟这个艾娃见面了，发现这是个大美女。伽勒就采用图灵测试的方式跟她聊天。艾娃的反应非常的人性化，在跟伽勒聊天的过程中，她给迦勒画了几幅画，还换了一身好看的衣服让他看，说想要跟他约会。伽勒一开始就知道艾娃是个机器人。但即便如此，艾娃的表现和谈吐实在是太自然了，以致伽勒完全把它当做了一个正常的人类女人，经过几天的朝夕相处，不知不觉就喜欢上了她。

艾娃说老板内森非常无情，对待自己创造的机器人过于残酷。伽勒清楚，如果艾娃不能通过测试，她的记忆会和之前的那些机器人一样被清空。最终，在艾娃的恳求下，迦勒决定带着艾娃逃离这座别墅，到外面的世界去过幸福的二人生活。

好，有关电影的内容先说到这儿。回到我开头提到的那两个问题：一个是图灵测试能否真的探测智能，一个是，人与人工智能的界限在哪里。

可能有的朋友看见或听到过这样的新闻：国外某机器人公司造出了外观非常像人的人工智能机器人，还能和人类对话开玩笑。那问题就来了，随着技术的发展，这些机器人会真的变成人吗？想象一下，有一天，人工智能机器人真的变得和人类一样，人群里可能混着很多机器人，你会喜欢这样一天吗？

图灵测试可能存在缺陷

那么，这个很多电影里已经出现的场景，也已经成为很多人谈资的话题，科学家是怎么看呢？其实，科学家很早以前就想过“机器人会不会变得像人一样”这个问题，以及“如果有一天，机器人变得像人一样，该怎么办”的问题，可以说，对人工智能研究，科学家既想向前一步，探索一下这个未知的山洞，却又担心山洞里有危险。

那科学家是怎么探索未知山洞的呢？还记得前面介绍过的“图灵测试”吗？图灵测试就是被称为“人工智能之父”的英国科学家艾伦·图灵的伟大发现。他预言了创造出具有真正智能的机器的可能性，并给出了他的判断的依据：即如果一台机器能够与人类展开对话而不被辨别出其机器身份，那么就可以说这台机器具有智能。图灵的观点是：表面看不出差别，那就认为没有差别。

但是，用图灵测试就万无一失了吗？这恰恰是《机械姬》这部电影里提出的一个质疑。

在这部电影的结尾。就在伽勒爱上了艾娃，准备带着艾娃逃跑的那一天，老板内森告诉迦勒，其实艾娃是精心设计的一个机器人，彼此相爱原本也是他图灵测试设计中的一部分。艾娃对迦勒的爱情，原本——艾娃对迦勒的爱情，原来只是为了利用他去达成逃跑的目标。影片最后，艾娃还是切断电源杀死了老板，独自一个人逃了出来，无情地把迦勒抛弃在上锁的别墅里, 无情地把迦勒抛弃在上锁的别墅里。

你发现没有？艾娃对迦勒的情感从外表看上去天衣无缝，可是到了结尾，我们才毛骨悚然地发现，那些情感似乎根本不像人类的情感，它们好像是在“逃跑”的这个大目标下经过程序运算得到的行为。就算外表看上去没有破绽，可它们内里却没有一丝情感的温度。

讲到这里，相信你也发现了图灵测试的一个重大缺陷：那就是它只看机器人的外在表现，却没法判断机器人的内心是怎么想的。就算我们跟机器人聊天聊得很自然，我们甚至觉得机器人有了人类的情感，可是谁知道机器人内心在想什么呢？也许机器人根本就不知道自己是在聊天或者在表达情感，它只不过是在脑子里执行一些按部就班的程序运算罢了。

你怎么看这个问题？你觉得这种通过程序运算得到的情感能叫做情感吗？还是你觉得只要外表看上去一样就可以了呢？

人脑其实也是在某种程序下运营

其实对这个问题的争论也是由来已久了。有些人认为，人脑的工作流程本来就可以分解

成类似计算机程序的东西，这就是具有爆炸性的CRTT（TheComputational-Representational Theory Of Thought）理论，也就是人脑运算原理和计算机没区别。但是，技术所限，科学家现在对人类大脑的运行机理知道得还很有限，所以这个理论还没有被证明。如果这个理论最终被证实，那也就是说，连人的感情都是经过程序运行得到的。那么机器人依照程序表现出感情，就更没有什么问题了。

人类的大脑跟机器人的大脑其实一样，也是在一种程序的控制下运行。听到这个理论，你会不会又震惊，又不爽。美国哲学家约翰·塞尔（John Searle）跟你一样，他也对这个理论极度不爽。他是怎么反击的呢？他提出了一个著名的“中文屋”思想实验。说的是如果有一个人工智能在中文屋里，从左边一个小窗口递进来中文纸条，它根据对应规则从右边窗口递出去中文回答，那么在屋外会以为这个AI懂中文，但是它根本不知道纸条上写的是什么。

根据这个实验，一个只会执行程序的机器人，是缺少人脑思考时非常重要的“理解”这个步骤的，它所产生的所有情绪都要依靠程序这个工具，所以，即使它在行为上表现得和真人一模一样，它依然不能算是真正的智能。

不过，按照约翰·塞尔的这个说法，问题又来了。如果说人工智能不能只是模仿，还必须要真的“理解”人类，才算是真的智能。那人类的科技水平能达到吗？有可能真的造出一个完全像人类大脑一样思考的机器人吗？别着急，这个问题啊，是我们下一期要聊的话题。

好了，这一期的内容，我主要是通过《机械姬》这部电影，为你讲了两个问题，一个是，现在科学界经常使用的人工智能测试方法——图灵测试可能存在重大的缺陷，它只能用来测试人工智能的外在行为，而不能监测到人工智能的思想或动机。第二个，目前，关于人工智能的定义，关于人工智能和人的边界，以及人类大脑的运行原理等等根本性问题，其实科学界都还没有定论。

下一期的内容，我将带你理解当今最火的深度学习，分析它的优势和缺陷。欢迎继续走进《折叠宇宙》的世界，我是郝景芳，我们下一期分享再见。