段伟文：想象AI的未来，也是想象一种我们希望构建的社会形态

【主播的话】
在 ChatGPT 占据了新闻头条之后，关于它的各种潜力、伦理隐患的讨论层出不穷。有人说这很像回到早年间在互联网普及前，人们谈论互联网时的情绪。有人认为 ChatGPT 深刻改变人类社会的潜力令人人兴奋，我们应该早做准备，也有人认为深度学习的革新，把势单力薄的个体放在了强大资本与科技联合的对面，亟需警惕。

本期节目，我们邀请到研究人工智能哲学、伦理的专家段伟文与我们一起探讨，在 ChatGPT 引爆讨论后，我们可以从哪些维度来重新思考人工智能的哲学。而这一思考过程，也是回顾人类发展，借由想象 AI 的未来，来重新想象人类期待的理想社会形态的过程。

如果对人工智能伦理感兴趣，欢迎给我们留言，期待在评论区与你互动：）

【主播】

何流
公益盒子创始人，牛津大学哲学、政治学和经济学专业（PPE），清华大学苏世民学者。

李治霖
公益盒子联合创始人兼研究总监，香港大学政治学和经济学专业。

【嘉宾】
段伟文
中国社会科学院哲学所科技哲学研究室主任、主要研究领域为科学哲学、信息技术哲学，近年来关注大数据与人工智能的哲学、伦理和社会研究。著有《信息文明的伦理基础》(2020)、《可接受的科学：当代科学基础的反思》(2014)《被捆绑的时间：技术与人的生活世界》(2001)等。

【本期剧透】

05:09 ChatGPT 认为 21 世纪会产生像爱因斯坦这样的伟大的科学家吗？
10:38 段老师认为 ChatGPT 中级阶段和高级阶段大概它会长成什么样？
15:38 通过大量训练，机器人会拥有人类一般的情感吗？
25:53 对于强大的科技力量来说，道德和伪善其实的边界是很难划分的
31:11 我们应不应该跨国协作去限制 AI 技术的发展？
39:14 在自动化的这个生态系统里面，首先自动化的是人类主体
47:33 在多元且冲突的人类价值面前，人工智能究竟该与谁的价值对齐？
52:16 我们到了深度科技化时代，科技关乎到每一个人的生活，社会的各种权利和认知
01:05:01 在普通人和很多社会大众看来，深度科技化还是一个跟自己很遥远的话题
01:17:11 科技伦理是什么，段老师是怎么走上这条研究之路的？

【相关延展】

第一个聊天机器人ELIZA：
 约瑟夫●魏岑鲍姆(Joseph Weizenbaum) 在1964年开发了一个名为ELIZA的机器人,是第一个聊天机器人。它实现了计算机与人通过文本进行交流,这也是人工智能研究的一个重要方面。

必应和Edge浏览器植入ChatGPT：
北京时间2月8日，微软推出由ChatGPT支持的最新版本人工智能搜索引擎Bing（必应）和Edge浏览器。

《生命3.0》：
作者马克斯·泰格马克(Max Tegmark)，未来生命研究所（Future of Life Institute）创始人，致力于用科技来改善人类的未来。书中，作者迈克斯·泰格马克对人类的终极未来进行了全方位的畅想，并澄清了常见的对人工智能的误解。

《监控资本主义时代》：
作者肖莎娜·祖博夫（Shoshana Zuboff），哈佛大学商学院荣誉退休教授。本书中作者剖析了大型企业预测与控制人类行为的企图，并提出了严重警告：工业资本主义会在20世界毁灭自然世界，跨国性行为会在21世纪威胁人性。

阿西洛马会议：
组织者保罗·伯格，是美国重组DNA技术领域的科学家。1975年，在美国加利福尼亚阿西洛马会议中心，召开了全球首次“重组DNA生物安全性”国际会议，形成了《阿西洛马会议建议书》，这是世界上第一次大范围深入讨论转基因生物安全性的正式会议，具有里程碑式的意义。2017年1月阿西洛马会议上来自全球各地的顶级行业领袖讨论制定了关于人工智能的23条原则。

《人工智能伦理建议书》：
 2021年11月，联合国教科文组织在法国巴黎发布了《人工智能伦理建议书》，这是全球首个针对人工智能伦理制定的规范框架，旨在促进人工智能为人类、社会、环境以及生态系统服务，并预防其潜在风险。

《文学机器》：
作者伊塔洛·卡尔维诺，意大利当代最具有世界影响的作家。从事文学创作40年，作品有《我们的祖先》三部曲、《命运交叉的城堡》、《帕洛马尔》等，本书是卡尔维诺的文学形态之书。

《科学、真理与民主》：
作者菲利普·基切尔，美国人文与科学院院士、哥伦比亚大学约翰·杜威讲席教授。本书是《决策科学化译丛（第二辑）》之一，针对当代社会流行的两种相对立的观念即科学主义和反科学主义，从作者所持有的温和实在论出发，既捍卫了科学的客观性，同时也揭示了科学的建构特征。

德尔菲法：
也称专家调查法，1946 年由美国兰德公司创始实行，其本质上是一种反馈匿名函询法，其大致流程是在对所要预测的问题征得专家的意见之后，进行整理、归纳、统计，再匿名反馈给各专家，再次征求意见，再集中，再反馈，直至得到一致的意见。

【本期音乐】

片头：湯ん - 2.人形水族馆

片尾：Risian - Undertow

【Logo设计】Yibao
【制作人】若含
【运营和文字】卓然
【后期制作】新岛阿七
【互动方式】
关于我们：公益盒子致力于分析、推荐中国最有社会价值的公益项目，提升公益捐赠的有效性。

如果你喜欢我们的对话，欢迎你关注我们的微信公众号（ID：thecharitybox）和微博（益盒 CharityBox）。你可以在公众号里查看益盒的最新研究和动态，了解有效公益的前沿知识，并加入一个富有善心和理性的公益社区。

我们还运营着“ [益盒基金](https://www.lianquan.org/ProjectPlus_ProjectInfo?guid=4B3404AB5390CC35D335DBAD6EA3878DE8FF681835CD0E49004204EDDA01381BE84FE32B4158C6A21F99FFAC8BA36285) ”，每年投入数千小时，基于科学，通过严谨的研究评估，帮你最有效地为公益项目捐款。你可以在[这里](<https://mp.weixin.qq.com/s/LMS5olWnEf-E8p7UGIBglg>)了解更多。(如果链接无法在应用内打开，可跳转浏览器打开）
我们期待与你一起，有效地利他：）