世界观：如果AI学会说谎，人类该如何应对

你有没有遇到过这样的情况？用地图导航，它的智能系统或引导你穿墙、或引导你跳水、或者把你带领到了很神奇的地方。早就将AI应用于自身的各大地图导航软件，这是想没事“逗一逗”自己的用户还是故意“骗”之，实在引人深思。

本文图源网络 下同

今年以来，以ChatGPT为首的AI软件爆火出圈，有的人看准机遇对概念股大力投资，有的人则担心自己的工作是否终被AI代替。

而在此之前，有一个很严重的问题少有人提及，那就是如果AI撒谎了，人类应对的了吗？经过层层的科技进化与修复，AI是否离具有欺骗人类的能力越来越近了？

AI是否会拥有欺骗人类的能力？

chatgpt资料图

你听说过现代计算机科学之父艾伦·图灵的图灵测试吗？简单来讲就是用文本的方式进行不碰面对话，通过一些装置向被测试者随意提问，看测试者是否能确定出被测试者是人还是机器。机器人让每个参与者做出超过百分之三十的误判，那么我们就判断这台机器通过了测试、拥有智能。

这样测试目的在于，测试机器人是否能表现出人类的智力水平。该论文的作者图灵预测，到20世纪末，可能会有30%的时候都能骗过正常人的厉害机器出现。

时光飞逝，人类已经来到了21世纪。正如图灵预测的那样，各大AI“粘住”了人们的视线，我们不得不开始担忧当AI说谎时，我们要如何应对？

AI什么时候会说谎？

关于AI会不会说谎、什么时候会说谎的问题，问答网站Quora上有不同的回答。有人认为，一个真正意义上的AI，应该是可以像动物一样去思考的，而且测谎仪这种仪器对AI而言没有作用，人类甚至无法判断 AI 是否在说谎。

可以佐证的一则例子是，当我们编造一个明显的谎言问题去问ChatGPT时，它依然会给你一个答案。也就是说，谎言问题也会得到一个谎言答案。

是谁安排了AI说谎？

我们询问了 ChatGPT，AI 会不会说谎，它的回答值得深思。

“作为一个 AI 语言模型，我没有能力说谎，因为我没有个人信仰、意图或动机。然而，为某些任务设计的人工智能系统，例如聊天机器人，可能会被编程为通过提供故意虚假或误导性的回应来模仿说谎或欺骗。”

“然而，重要的是，人工智能系统只能在人类创造者设计的范围内‘说谎’。换句话说，人工智能系统提供的任何误导性或虚假信息，最终都是人类在对其进行编程时做出决定的结果，而不是人工智能本身的故意欺骗行为。”

听起来是一则严丝合缝且可以被接受的解释对吧？但没有人告诉 ChatGPT “如果必须撒谎才能完成这项任务，那就撒谎吧”，换句话说，这是该程序自行提出的这个想法。

"世界上最伟大的电影"之一——《2001太空漫游》中，人工智能哈尔9000为了自保而选择毁灭人类。在艺术创作的世界中，人类已经意识到了人工智能或许会发展到“故意说谎”的那一天。

人类之罪还是机械之罪？

“上帝创造了人类，人类却怀疑上帝。人类创造了机器人，机器人为何不能怀疑人类？”这句话来源于经典电影《我，机器人》。

如果科技有一天欺骗了人类，这是创造它的人类之罪还是机械本身的罪过呢？

有人认为，如果机器人学会说谎，那是因为它从某些文本中了解到人类经常使用谎言来达到目的。“机器人的罪恶越来越像创造他们的人类的罪恶”。

诺维萨德大学教授、人工智能研究员约万·涅吉奇认为，现阶段人们对于AI说谎的问题“不必太过担心”。

现在的人工智能其实是一个弱智能概念，也就是只能模仿智能。为了能够说谎，人工智能应该能够故意说假话，尽管它知道事实。也就是说，它应该具有意识。

而人类还没有创造出真正意义上能够说谎的人工智能，如果我们确实创造出了能够说谎的人工智能，在某一天它也可能会触发技术奇点。