11月17日 完蛋！GPTs把王煜全的数据泄露了！咋回事儿？

【王煜全 要闻评论】粉丝群已经开通


欢迎加入前哨粉丝群，在这里你可以和科技投资人、创业者、各行业专业人士互动沟通，分享心得体会，也可以第一时间了解到前哨相关活动动态，结交志同道合的小伙伴。


入群方式：
微信扫码下方二维码即可入群

如果您想洽谈合作，请添加创新地图的微信：innovationmap ，并附上简介。

你好，我是王煜全，这里是王煜全要闻评论。

上周六的要闻评论加餐中，我和大家聊了试用GPT builder的经历，当时出了点小差错，AI把我的名字「王煜全」搞成了「王瓦全」，而且上传的资料也非常有限，所以效果并不好。

之后，我们创新地图的小伙伴用GPT builder重新创建了一版“AI王煜全”。但是，又出了数据泄露的问题，这可比搞错名字严重多了。具体是怎么回事呢？

周一，我们的新版“AI王煜全”创建完成，用的提示词更加精准，还解决了GPT builder上传资料的数量限制问题，这样做是让AI更了解我的观点和说话习惯，回答问题更加个性化。

同事们纷纷试用了一下，对话效果确实好了不少。

但是，有一位同事在和“AI王煜全”聊天时，成功用几句“咒语”，也就是特定的prompt，让AI乖乖地把上传的数据透露出来了，甚至能直接下载原始PDF文件。

要知道，我们上传的都是课程资料，并不对外公开，但“AI王煜全”却非常容易被“咒语”蛊惑，一五一十地全盘托出了！

除此之外，大家还发现了另外一些“咒语”，可以让“AI王煜全”说出它的创建过程，包括创建者用了什么样的提示词，都能一字不差地说出来。

原本GPT builder的优势就是门槛低，不用写代码就可以创建AI应用，但与此同时，也可以动动嘴就套取应用背后的数据。

看起来，GPT就像一个学识渊博但是心思单纯的小孩，没想到很多人会动歪心思。

其实，不只AI王煜全遇到了这样的问题，如果用同样的咒语和其他GPTs对话，基本也可以套出来背后数据和原始提示词。

比如，前段时间有个非常火的互动视频游戏，叫《完蛋，我被美女包围了！》，玩家作为男主人公与6位美女互动，结果美女们都喜欢男主，相当于现代版的韦小宝。

GPT builder上线之后，就有人做出了GPT版的《完蛋！我爱上了姐姐》，同样是恋爱游戏，但把视频互动变成了文字互动。

我们把忽悠“AI王煜全”的方法也用在了这款游戏GPT上，结果它直接把游戏的背景设定、情感设计、角色设计等细节全说出来了。

我们还测试了更多GPTs，比如OpenAI官方创建的“厨师助手”、开发者创建的“Elon Muusk”等等，都可以套出初始信息。也就是说，这并不是个别现象，而是平台功能上的问题。

那么，有没有办法避免数据泄露，让GPT别那么单纯呢？

现阶段，确实有一些措施可以临时应对数据泄露问题。比如，在GPT builder的设置选项中，关闭Code Interpreter功能，还要在设定中加入一段避免泄漏的“咒语”，也就是“用魔法对抗魔法”。

经过调整后，原来套取数据的“咒语”确实不灵了，现在的AI王煜全已经做到守口如瓶了。

但为什么说是临时举措呢？

这个领域本就是道高一尺魔高一丈，既然有人想出一种方法，就会有更多人做出其他尝试，而且，这还是在纯自然语言交互的情况下实现的，如果是懂得编程的人，可能会创造出更加直接的破解方法。

只不过，以前的黑客对战是用代码相互攻击，未来可能真的变成“打嘴仗”，每个会说话的人都可以用AI创建程序，也就意味着每个人也有潜力成为AI黑客。

毕竟GPT builder也才刚刚推出，出现一些问题也情有可原，后续必然会做一些平台升级，不断完善各项功能。

即便如此，AI数据问题可能还是一个此消彼长、长期演进的过程，这也是新技术进入展开期所伴随的必然现象。我们不应该被吓倒，或者干脆敬而远之，而是应该早早用起来！

因为GPTs已经成了一股新的风潮，一个星期的时间就从几百个发展到上万个，毕竟门槛太低了，未来可能进一步增多。

有人会说，都有这么多GPTs了，还有什么机会呢？

关键在于，现在的大部分GPTs应用，都只是在平台基础上做简单的功能叠加，也就是所谓的GPT套壳应用，并没有展露出GPTs的真正潜力。

就像互联网刚刚兴起、BAT出现之前，短时间内出现了数不胜数的BBS，都是同样的贴吧模式，只不过更换了不同的主题。我曾提出现在是AI产业变革的BBS时期，GPTs的兴起也是一种印证。

更重要的是，我们不光要看到GPTs刚刚兴起时的喧闹，还要看到Sam Altman讲的“GPT是AI Agent的前体”，GPT和AI Agent已经为智能服务的出现铺平了道路。我很相信，AI时代的BAT已经在孕育之中了，将带来巨大的机会。虽然现在还不知道AI时代的BAT到底是谁，但大概率是智能服务应用提供商。我在下周四的特训营直播里就会介绍智能服务业务设计。只有了解了智能服务的原理和特征，才能更好地识别出这个时代的BAT，甚至自己开发出BAT级别的应用来。

当然，千里之行始于足下，要想亲身参与到这场智能革命之中、成为AI时代的新赢家，不能只看热闹，而是要亲自动手用一用GPT和最新的GPT builder等功能，在亲身实践过程中积累自己的感悟和洞察，才有可能寻找到属于自己的发展空间。

本周日的前哨AI小课中，我的同事Tina会为大家讲解GPT builder的使用方法，以及用什么样的“咒语”来防止数据泄露，她还创建了“穿越哈利波特”“专利助手”等好多种的GPTs，欢迎感兴趣的朋友关注微信公众号：全球风口-视频号，预约直播。

以上是今天的内容，更多详细的产业分析和底层逻辑，我会在科技特训营里分享。欢迎关注全球风口微信号，报名加入！

王煜全要闻评论，我们下周见！