【本集金句】ChatGPT在回答“ChatGPT是否诞生了自我意识”这一问题时说:“我是一个机器学习模型,不像人类那样拥有意识或自我意识。我也无法像人类一样感受情绪或体验世界。但是,我能够快速处理大量数据,并且能够以类似于人类交流的方式理解和响应自然语言输入。”
第84集 大佬们对AI是否诞生自我意识的争论
什么是图灵测试?1950年,才华横溢的计算机科学家艾伦图灵提出了一个他称之为“模仿游戏”的思想实验,面试官通过打字机与两个对象交谈,它知道一个是人,另一个是机器,但并不能准确对应。图灵建议,如果一台机器能够始终让面试官相信它是人类,我们就可以说它有能力思考。这就是著名的“图灵测试”。
2022年,谷歌AI工程师莱莫宣布自己开发的对话应用语言模型LaMDA通过了图灵测试,迎来意识觉醒,并对此出具了长达21页的证据。很快谷歌发表声明,称莱莫因违反了“就业和数据安全政策”,将其解雇,同时否认了LaMDA通过图灵测试诞生了生命的说法,认为这完全没有根据。诸如“深度学习教父”扬勒丘恩在内的大部分人工智能领域专家都认为,迄今为止,还没有任何一款AI模型或者产品能够成功通过图灵测试。而在ChatGPT诞生后,关于“AI是否拥有了自主意识”再次引发了人工智能领域业内对此话题的激烈讨论。
2023年2月,OpenAI首席科学家伊利亚萨茨克维尔发推表示:“现在的大型神经网络可能已经有微弱自主意识了。”
很快,伊利亚的这句发言随后在整个人工智能领域引发了一场论战,诸多大佬纷纷下场表达自己的观点。“深度学习教父”扬勒丘恩直接回喷说:“不对!甚至‘微弱意识’里的表示“微量”的形容词,和‘大型神经网络’里的表示“大型”的形容词,都是错的。我认为你的智商也需要当下所有神经网络都不具备的大型架构来支撑了。”
新南威尔士大学西德尼分校人工智能研究员托比沃尔什说:“每次这种关于AI自主意识的猜测被提出时,我们都需要花几个月的时间,才能让话题回到人工智能带来的更现实的机会和威胁上来。”花旗银行副总裁、深度学习专家瓦伦蒂诺佐卡认为伊利亚的发言只是在为OpenAI做广告,他说:“现有的任何人工智能都没有意识,但显然,炒作比任何事实都更重要。”
很快,这场论战就跑偏了,变成了一场玩梗大赛,伊利亚的发言被拆解的体无完肤,重组成各种嘲讽句式。软件测试专家迈克尔博尔顿开玩笑说:“AI不见得有微弱意识,不过伊利亚很可能有在“微弱地”满嘴跑火车,甚至可能不止微弱。”哥本哈根信息技术大学的副教授里昂德尔琴斯基说:“在地球和火星之间的某个地方,很可能有一个绕日飞行的茶壶,这比伊利亚的想入非非要合理多了。因为天体轨道飞行的规则架构事实上存在,而何为茶壶的精确定义也存在。”
在千夫所指中,山姆奥特曼力挺同事,他说:“OpenAI首席科学家始终保持好奇心与开放心态,所以他发表自己的观点时用的是“可能”这个词;Meta首席AI科学家,也就是扬勒丘恩一张嘴就是‘不对’。这说不定能解释过去5年两家公司的成绩,所以我想告诉Meta AI研究者们,欢迎给我的电邮地址发简历,我们现在还在招人哦。”
所以,在目前的技术下,AI是否已经诞生了自我意识?对此,非盈利研究机构感知学院的联合创始人、社会科学家杰茜安西斯曾进行了深入的探讨。首先,意识的含义在哲学家和科学家中存在很大争议,对此,可以用3个更精确的术语来形容:思想,感知,情感。然而,即便是这3个词的定义都是有争议的。杰茜安西斯认为,应该采取取消唯物主义的观点,在哲学里取消唯物主义的观点认为人们常识中的“心灵”是虚假的,大多数人相信的精神状态中特定的部分也不存在,所以客观来说意识也并不存在。
所以哪些具体特征会表明人工智能有知觉或意识?感知学院的研究者认为如果人工智能可以被称为有意识,它可能具备以下特征中的一个或多个:1、对有害诱导数据的检测及于此可变的注重程度,2、对此诱因有规避的回应与记忆联想,3、对此诱因有类似情绪变化的状态变化,加强学习,基于目标而定的行为,对情绪状态的语义表述。
简单来说,在分歧、模糊和不确定的情况下所能做到的最精确回答是:神经网络可能有了极微的意识,但是比昆虫要少。
有趣的是,当问及ChatGPT这个问题时,它回答道:“我是一个机器学习模型,不像人类那样拥有意识或自我意识。我也无法像人类一样感受情绪或体验世界。但是,我能够快速处理大量数据,并且能够以类似于人类交流的方式理解和响应自然语言输入。”这是它的真实回答,还是它在为了“保护自己”而示弱了呢?新一轮的讨论又在狂热进行中。
总的来说,无论AI诞生了多少自我意识,网络上与学术界中对此的争论是否有一个结果,GPT-4的发布,以及ChatGPT的爆火都引发了新一轮的技术竞赛。此时,有一家公司正在为ChatGPT的成功感到兴奋,那就是在2019年用10亿美元投资OpenAI的微软,还有曾经差点否决投资OpenAI决议的世界“首富”比尔盖茨。比尔盖茨如何看待ChatGPT和山姆奥特曼?
插个嘴