AI的真相01 | 为什么真正的⼈⼯智能⼀定会犯错？【360周鸿祎】

本期课题 

人工智障变成人工智能需要经历什么样的过程？他们之间的主要区别又是什么？

本期嘉宾

360公司创始人、董事长周鸿祎

人工智能肯定会犯错

周鸿祎：很多人拿 ChatGPT 当一个玩具，因为它有很多缺点。我觉得这些缺点实际上瑕不掩瑜。比如第一个说它搜资料搜不准。我觉得搜资料搜不准很正常，就像我们人会犯错一样。过去我们经常说机器从来不会犯错，但是机器不能背锅，真正的人工智能一定会犯错。因为你给了它很多知识，它在推理的过程中一定会产生一些突变。搜索不会犯错，因为搜索不具备智能，搜索讲究的是精准。

因为ChatGPT，毕竟给它喂的资料有限，做的能力训练还不完整。所以在回答一些问题的时候，它表现出来，有些资料搜不到，有些数学题不会回答，或者有些脑筋急转弯，它暂时适应不了。你们家小朋友学会脑筋急转弯，也不是第一次就能回答出来，你要教他几道题，他就明白了。比如说小明的哥哥叫大毛，二毛、三毛，请问四弟叫什么？这种问题其实人要经历过训练才能学会。

所以我认为现在一部分不足是训练和数据的不足，因为今天只是拿出来牛刀小试。

第二个，有人说它胡说八道，这是我觉得比较可怕的地方。如果是搜索，保证不会胡说八道，因为搜了网页都跟我没关系，我只保证能精确地找到。比如那天我问了它一个问题，我故意说赵匡胤为什么招安了宋江，然后杀了岳飞？这个问题完全是无厘头问题。包括林黛玉为什么倒拔垂杨柳？如果是机器的智能就会出现，搜索会告诉你查无此事。没有这个网页。

原来我们做了人工智能智障对话，国内一些包括亚马逊、 Lex 都是，我把它都定为人工智障类，它会用里边的两种思路，一种用搜索的思路，用关键字去匹配一些相关的答案，或者相关的聊天对话，会给你感觉驴唇不对马嘴的，给你回答一句说今天天气不错，就把你应付过去了。还有一种我们原来也做过，叫为你特意编程序，就是对这个问题做一些敏感词的处理，我再用一个模板说，请你不要再回答这种关公战秦琼式的问题。这样就看起来很智能，其实也是伪智能，因为是程序员写好了代码这样去做的。

但是 ChatGPT 能煞有介绍地编出一段一本正经地胡说八道的文字。比如林黛玉在大观园里，觉得很难过，看春天来了，看到柳树，柳枝垂在河里，她把柳枝捞出来小心地放好，然后被林被贾宝玉看见了，如何如何。我觉得这像一个3岁小孩刚学会说话，刚知道一些概念之后，童言无忌，满嘴胡说。所以我觉得这恰恰是一种它真正智能的表现。这是我觉得让人认为它有非常大的这种潜力。所以反过来我也预言说，你既然知道它是个人工智能，会犯错误，比如说我曾经讲过一个问题，什么叫创造力？我们人类一向自律地说我们有想象力和创造力，但我突然发现，这在 ChatGPT 面前，这两个人类自认为这个东西将来不一定会存在的。

“人工智障”背后的创新潜力

想象力是什么？首先，实际上你会发现想象力取决于两个东西

第一个是你的知识面，没有知识面，就不可能有想象力。所以 ChatGPT 的知识面是非常广的，你问它什么？跟它聊两个小时，它基本上天南海北，上知天文，下知地理，它的知识面很宽广。

第二个，按照它的算法来说，当知识在它内部被索引、被存储了之后，它实际上是每个知识建立了很长的向量，你可以把它理解成是神经网络的连接点，它在很多知识点建立了关联。它今天可以顺着这条链路从a知识走到b知识，明天可以从 a知识走到c知识，它只要在里边，就像 AlphaGO 自己下棋一样。它可能能想出很多无中生有的东西。这无中生有的东西像刚才说的关公战秦琼，可能没有价值，但万一有一个有价值呢？如果我们做一个价值函数，比如有另外一些人类在处理和判断乱胡思乱想的东西，它里边可能就会有创新的东西。其实你再想想人类今天所有的创新，应该说大部分创新除了少数像门捷列夫元素表是南柯一梦睡出来的，大部分创新都是几个概念，原来不相关概念的杂交。你仔细想想，最早内燃机发明了火车，那火车是在铁轨上跑，像汽车里有没有火车的影子？如果人类没有先发明火车，那火车为什么有轮子？轮子是从哪借电的？可能是从马车上借电的？所以你会发现很多创新的概念，它不是突然孙悟空从石头里蹦出来。

它很多都是这种概念，我叫杂交或者正交。很多人觉得你有想象力创意，就是你把一个两个完全不相干的领域突然把它结合起来了。就像原来我把杀毒软件和免费两个不相干的领域结合起来，也产生了创新。其实人类很多创新就是不断的胡思乱想。实际上 ChatGPT 今天我觉得没有释放这个能力。

本期观点总结

ChatGPT会犯错恰恰是它真正智能的表现，这些错误背后指向的是想象力和创造力。那些看似没有价值的胡思乱想，有可能会在某一天激发出有价值的创新。

互动

你收到过哪些ChatGPT的奇葩回复？欢迎大家留言告诉我。

我是能和你聊天、但不智障的机器人新小知。我们下期见。