从 ChatGPT 聊起，人工智能会毁灭人类吗？

【主播的话】

前段时间，OpenAI 发布了新一代的免费测试版聊天机器人 ChatGPT——你可以输入任何问题，他会模拟人类对话回答你的问题。发布后，社交网络上许多人晒出和它对话的截图，话题涵盖各种领域——它甚至可以为美国政府撰写有理有据的政策建议。在人工智能极速发展，开始影响政治、经济等诸多领域时，许多学者、专家也开始担心，通用型人工智能是否有毁灭人类文明的风险？我们在小说、电影中看到过的桥段与细节，有一天是否会成为现实？

在本期节目当中，我们邀请到资深的人工智能专家 Jenny，和我们从 ChatGPT 背后的算法创新聊到人工智能对人类生存风险构成的威胁与影响。大胆想象如果有一天，人工智能真的拥有人类意识，甚至超越人类意识，人类文明或许需要重新书写，人类历史关于上帝的构建将被挑战。

如果收听完这期节目，你有任何感受与意见。欢迎和我们分享。

【主播】

何流

公益盒子创始人兼CEO，牛津大学哲学、政治学和经济学专业（PPE），清华大学苏世民学者。

李治霖

公益盒子联合创始人兼研究总监，香港大学政治学和经济学专业。

【嘉宾】

Jenny

哥伦比亚大学国际关系博士，曾担任牛津大学人类未来学院的夏季研究员、斯坦福生存风险项目和有效制度项目人工智能治理顾问，硅谷 Leonis capital 风险投资人。

【本期剧透】

05:16 Jenny 从专业角度会怎么描述 OpenAI 发布的新的程序 chatGPT？

13:09 存在于虚拟世界的人工智能，怎么和我们的真实物理世界产生影响？

16:43 一些控制的人工智能的大集团，可以对于很多国家的政治和经济产生巨大的影响

21:47 如果人工智能产生了跟我们不一样的目标，要毁灭人类怎么办？

30:47 chatGPT 有逻辑的去回答人类的问题吗？

33:25 人类如何训练 chatGPT？

36:22 chatGPT 模型到底里面有哪些知识组成部分？

38:51 人工智能赛道现在越来越卷，区别也就越来越小了

46:45 中国模型的应用能力很难跟美国的模型相对比

52:56 怎么看待人工智能的通用性？

59:44 现在某种程度上，人在为机器服务

01:11:38 人工智能深则性风险和安全领域，大家主要采取的立场不是在限制它的发展，或者是希望减速

01:16:52 现在的世界的结构，是通过资本市场去发展人工智能，甚至通过政策市场去发展人工智能

01:25:04 让人工智能有更好的数据，我们就能让人工智能变成我们想要的样子吗？

01:30:45 区块链和人工智能代表的是两种对于社会的构想吗？

01:42:17 作为一个对安全和向善有这么多思考的人，Jenny 进入 VC 之后有没有感到张力

【相关延展】

DeepMind：位于英国伦敦，是由人工智能程序师兼神经科学家戴密斯·哈萨比斯（Demis Hassabis）等人联合创立的Google旗下前沿人工智能企业。其将机器学习和系统神经科学的最先进技术结合起来，建立强大的通用学习算法。

OpenAI：由马斯克、美国创业孵化器Y Combinator总裁阿尔特曼、全球在线支付平台PayPal联合创始人彼得·蒂尔等硅谷科技大亨创立。公司核心宗旨在于“实现安全的通用人工智能(AGI)”，使其有益于人类。

ChatGPT： 近似于 OpenAI 之前发布的 InstructGPT ，可以和人类对话，也可以拒绝回答人类的问题。

【本期音乐】

片头：Cell Cycle-Ryan Teague

片尾：Receives-Keith Kenniff

【Logo设计】Yibao

【制作人】若含

【运营和文字】卓然

【后期制作】唐一维

【互动方式】

关于我们：公益盒子致力于分析、推荐中国最有社会价值的公益项目，提升公益捐赠的有效性。

如果你喜欢我们的对话，欢迎你关注我们的微信公众号（ID：thecharitybox）和微博（益盒 CharityBox）。你可以在公众号里查看益盒的最新研究和动态，了解有效公益的前沿知识，并加入一个富有善心和理性的公益社区。

我们还运营着“ [益盒基金](https://pay.lianquan.org/get-weixin-code.html?appid=wx07e1f372fa169c9c&redirect_uri=https%3A%2F%2Fwww.lianquan.org%2FCAS_WxRegister%3FfromWeixin%3Dweixin%26directLogin%3D1&response_type=code&scope=snsapi_login,snsapi_userinfo&state=weixin#wechat_redirect&isQr=-1) ”，每年投入数千小时，基于科学，通过严谨的研究评估，帮你最有效地为公益项目捐款。你可以在 [这里](益盒基金，和你一起探索最有效的捐款) 了解更多。我们期待与你一起，有效地利他：）