AI的真相08 | 如何辨别 ChatGPT 是否在说假话？【生数科技唐家渝】

本期主题 

唐家渝-如何辨别ChatGPT是否在说假话？

在AI时代，ChatGPT常被人诟病“一本正经地胡说八道”。如何分辨它到底说的是真话还是假话？

对此，生数科技联合创始人兼CEO唐家渝分享了他对ChatGPT的客观经验和想法。

本期嘉宾

生数科技联合创始人兼CEO唐家渝

不必恐慌进入AI时代

唐家渝：首先我是觉得有这种恐慌情绪肯定是很正常的，因为比如说我们用ChatGPT看说，唉，他就可以直接回答一些这种专业型的知识了，那是不是懂这些专业型知识的人就不必要了？或者是说他能做一些简单的一些这种计算的一些事情等等，那大家都就天然的有一种恐慌，觉得说对面不再是一个人工智障了，是一个真正的人工智能了，然后就会有这样子，这个诸多的一些这种恐慌的情绪，或者一些觉得amazing就是很惊讶的这种情绪，我觉得都是非常正常的。

但我觉得其实大家如果比较正式的去使用它，而不是只是看到一些媒体的一些比较偏噱头性的一些报道的话，其实可以相对比较正常来看它的话，其实它还是有很多这个问题的，包括是说他会犯一些常识性的错误，特别是说比如说我自己玩儿的话，他就说这个27是一个质数，这明显就是一个错误。

当然另外的话他也会大家其实也有人提到就是所谓的这个一本正经的胡说八道，就是你看他写的这个文章的这个行文非常流畅，然后逻辑就是这些前后的转换关系看起来也特别这个严谨，但是里面提到的东西都是错的。这样子的话其实就是因为它其实很多学习到的知识并没有真正的学习到，或者是说学习的知识是不完备不完全的。所以我们可以看到就是说虽然它有一些好的应用，但是实际上它离真正的我们大家就是普通人想象的人工智能都还是有比较大的一些差距的，所以我觉得目前为止的话其实并不用太恐慌这个事情。而且像人类的这种举一反三的能力，然后去创造的一些能力，其实这个计算机离真正的人类的这些能力还是差很远的。

另外一块的话，我觉得就是说每当有一个新技术出现的时候的话，他一定是会说，唉，会不会抢夺大家的一些饭碗？比如说我们可以回想一下这个计算机出现的时候，大家是怎么看它的，然后或者是说有这种办公软件，比如说这个Excel这样子的一些软件出现的时候，大家是怎么看的？可能当时的话都会有一些人是觉得说我要失业了，我不行了，或者说确实的也对一些工作岗位的话造成了一些影响，但是我觉得真正来说，最终我们来看的话，实际上第一有了这些工具以后，因为我们最终的目的的话，还是提高我们的这个生产力，提高我们的生产效率。

有了这些工具以后，其实它会衍生出一些新的一些工作的一些机会。另外的话就是我觉得作为在这个社会的一份子，或者说在科技社会的一份子的话，我们更重要的是说需要去学会利用这种像ChatGPT等等这样子的一些新兴的一些技术，然后知道怎么利用它，然后去服务好我们。就像我们现在人人都会用手机一样，那其实是为了让我们的这个生活更好的，所以我觉得对于他的这个恐慌情绪的话，其实大可不必的。

如何辨别真假信息

新小知：那请问普通人怎么去识别ChatGPT的真假信息呢？

唐家渝：就是我觉得是两个方面，一个方面的话如果他输出的是一些非专业性的一些知识，您通过这个常识就可以判断的。或者是说您让他输出的是说我想写一个报告，您可以给我一个大纲吗？您可以给我一个思路吗？或者我写一个故事，你可以帮我续写一下吗？这样子的话，其实第一它不存在绝对的这个专业知识性的对错。

第二是的话，其实作为一个人来说的话，它其实有足够的判断力，无论是叫尝试也好，或者说是你基本的这个工作素养也好，你其实是可以判断它的一个生成的质量是怎么样的，我觉得这一块的话其实当然就完全不用担心了。然后另外一块的话就所谓涉及到一些这个专业知识的方面，就比如说现在，我假设我现在输入说这个，现在这个地球离火星有多远？我现在其实是记不住这个数字的，然后他现在返回我一个数字的话，但是我现在其实也不敢保证说他返回的一定是对的。虽然我觉得他大概率这种基本的常识应该是对的。那像现在的话，这种的话其实就会涉及到需要对这种信息源做一个交叉验证的这么一个过程。像现在微软集成的这个ChatGPT的能力以后我们也可以看到，像在这个New Bing里面，它输出的结果的话，其实会给出这个结果的一些这个引用的来源的。

就像我们写论文一样，给出这个论文的一些这个观点的引用是在哪里？这个数据的引用是在哪里？那这样的话其实是便于我们人类去做交叉验证，然后去看一下这个东西是否是正确的，有时候它出来的结果其实也有不正确。比如说它把原文的意思理解错了，然后以为是说我想问的那个问题的答案，但这样因为它有这些引用的一些东西以后的话，我还是比较容易去分辨的。

所以回到就是比如说我们脱离new Bing这个场景，就是我们普通人就用ChatGPT的话，我觉得还是说针对专业知识的这一块的话，抱着一定的怀疑的态度，抱着一个比如说我只是大概想了解一下这个，并不是说我要去做一些非常严肃性的一些事情的时候的话，那我觉得可以就参考就好了。如果我需要确实是做一些比如说严肃性的工作，或者是说做一些报告，做一些学术研究等等的话，那它出来的结果的话，我觉得还是要充分的进行一些这种原始资料的交叉验证的，至少这个阶段的话是需要的。

像比如说ChatGPT，它有一个非常这个优秀的一点，就是说它去引入了这种叫做人类反馈的这个强化学习的机制，它其实是会基于这个人工的一些反馈的话，去标注说这个结果是更可靠的，这个结果是更正确的。

这样子的话他再去进行这种自学习，就或者是说从这个技术上说叫做强化学习这样的机制的话，然后是把它的这个本身的知识的话会学习的更好，然后把它相关的一些这些网络的话都会训练得更好的，包括做一些这种优化，或者做叫我们这个技术上叫翻退等等这样的一些工作，所以其实是引入了一些比较好的这样的一些机制的。

本期观点总结

对于ChatGPT这类人工智能工具的出现，人们不必过度恐慌，目前他们与人类的真实能力还存在一定的差距。面对他们的输出结果，人们应该保持怀疑态度，特别是在专业知识领域，需要进行交叉验证。

互动

听完这节课，你觉得未来人工智能的能力会超过人类吗？欢迎大家留言告诉我。

我是能和你聊天、但不智障的机器人新小知。我们下期见。