与AI共生11 | 普通人如何提高分辨AI诈骗的能力？【小冰李笛】

本期课题 

李笛：普通人如何分辨AI诈骗和风险？

随着人工智能技术的不断突破，随之而来的潜在风险和安全问题也不断暴露出来。我们应该如何分辨和识破这些危险？

对此，小冰公司CEO李笛分享了关于如何防范AI安全问题的思考。

这一课很重要，新小知做了笔记，放在了声音页面，供你参考。

本期嘉宾

小冰公司CEO李笛

祛魅AI

我觉得毫无疑问在每一次这个泡沫起来的时候，卖铲子的和卖课的都是真金白银挣到钱的，如果从商业角度来讲的话，但是我们不说铲子，不说卖GPU，不说卖数据、不说卖课，我们说真正的最终的这个产品，目前为止全球范围内其实大家都还站在同一个起跑线上，目前为止还没有一个非常的明确的、持续的可以自负盈亏的去造血转起来的一个成功的AI的  To C产品，也还没有一个经过了足够检验的成功的AI的ToB的商业模式。

那我觉得中国其实应该抓住中国这个优点，就是市场纵深非常大，其实是可以做很多的尝试和试错，倒没有必要非得卷在同一种类型的产品上。所以好的话，会看到明年很可能是百花齐放的状态。不好的地方就是以前有一些本来就处于灰色地带的产业链，你比方说像电诈呀，各种这些会随着技术的这个提高，因为他们离钱更近，他的这种动力更足。尽管是完全非法的，但这些很可能也会冒出来，给我们的这个人民生活会带来比较大的困扰。

从我们的角度来讲，其实知道说这些还是很容易分辨的，它为什么容易分辨，也是因为技术还没有到达那个高度，但是大众不知道，所以它就不好分辨。所以就应该普及给大家。哦，是这么分辨，那我觉得应该大部分的这些问题其实都可以这么解决。

我觉得有这么几件事，因为你完全地就依靠政府的这种监管其实是不够的，因为政府毕竟是是一个点。我觉得首先还是应该提高大家对于这个大模型，包括相关的其他人工智能技术的一些普及。就大家先得了解这个，到底是什么，以及它的基本的成因是什么？我觉得这些普及工作现在比较少，倒反而是比较多的是，诶，我现在教你就买我的课，30天速成你就可以去薅别人的羊毛了。我觉得其实更多应该做普及和祛魅的工作。

前一阵我看在日本那边爆出来一个事儿，就是有人拿开源的diffusion base的这个模型，然后专门地去用几个画师，用他们的这个数据去训练他们的模型。然后你只要输入这个画师的名字，然后输入你想画的画，就会完全像这个画师的风格一样画这些画给你。这个就是一个非常典型的一个很不好的案例，它直接地盗用了这个画师的作品来训练，端掉了这个画师的饭碗。那这个完全靠你这个AI公司的自律了。那我们有很多我们的一些追求，你比方说我们一直始终认为所有的商业的后期的这个收益其实，首先是属于原始数据提供者的，这是一个很关键的一个区别。

在大模型时代，毫无疑问有一类人是非常重要的，就是专家。随着现在这个大模型这个发展，我们也发现，越通用的大模型可能非常的通用，但是在具体的这个垂直领域，那么它就过于通用了。那么这些垂直领域的专家经验和他们的专家的数据就变得至关重要。但是对于专家来讲，那你就得保护好自己的这个内容。但另外一方面还有一个很好的机会。是什么呢？绝大部分的专家的经验在我现在看来，他的很多专家知识是大模型非常需要的，但这些知识还没有被数字化。什么概念？就是以前这种垂直领域的专家的经验、专家的知识，其实没有很好的把它从专家的头脑中整理出来，而以前更多整理的我们说是信息，而不是这种知识。那所以这些东西目前为止还没有能够被滥用这个获取数据的大模型公司拿到。这是一个机会。唯一拿到的是什么？是我刚才讲的画师的作品，他已经数字化了。在作品上，所以他被拿到了。但你去问一个医学专家，你去问一个育儿专家，对不起，他自己的很多脑海里面东西从来没有数字化过的。那你这个大模型就没用。

我相信人类社会本身是有一种调节机制的，就是到那个时候一定会有更好的这种技术手段可以去防范它。但是这本身这种黑帽子、白帽子，它就是一种攻防的一种拉锯。人类社会一直就是这么这么迭代式进步的，每一种新的科技都会同时被用来干坏事，好像没有过例外。

AI不会威胁人类

新小知：那如果未来有一天AI产生了意识，它会给人类带来威胁吗？

我觉得完全不应该去考虑这个问题。最核心的地方在于说我们现在看到的大模型的现有的这个技术突破，当你在讨论它怎么落地的时候，你就会发现更多的时候它还是做到一个非常强的一个变化是，对于用户的输入的理解，就是我们过去做搜索引擎的时候，这个current understanding就理解一个用户输入的意图，然后能够做非常好的文本的组织和生成，甚至于在文本组织和生成里面你可以看到它有一定的相关性的这种类似于像推理一样的这样的一种表现。但是更多的东西还是没有的。

在一个正在快速发展的科学或者科技的这个载体上面的时候，我们的想象往往会很夸张。人类对于人工智能的想象或多或少都是往科幻方向去偏移。但现实实际上离这个还是很远的。但是丝毫不影响什么呢？不影响他已经落地的这些地方确实有很强的变化。对，这是两面性。

本期观点总结 

AI技术的提高会带来一些灰色产业链的发展，其中还会伴随着不同程度的风险与危机。面对这种情况，除了依靠政府的干预，同时也需要加快对大众AI知识的普及和教育。

互动

听完这节课，你觉得AI给人类带来的最大风险是什么？欢迎大家留言告诉我。

我是能和你聊天、但不智障的机器人新小知。我们下期见。