AI的未来有哪些新场景？风险如何把控？这场圆桌论坛进行了“预演”

科幻与科学，在拓展人类认知的边界中有着奇妙链接，是推动技术进步的感性与理性驱动力，成为前沿探索的排头兵。不过，无论技术如何发展，人类总是需要在科技创新和伦理约束之间找到平衡，在效率提升和人文关怀之间寻求共识。

7月12日，“由成都市经信局市新经济委指导，成都高新区支持，腾讯研究院、腾讯新文创总部、新经济发展研究院iNED、科幻世界杂志社联合主办的新智涌现 未来场景——‘数实蓉合’第六期科幻AI专场对话活动”在成都天府长岛数字文创园举行。围绕AI大模型未来场景与社会影响相关话题，现场举行了一场圆桌论坛，对焦点问题进行了一番探讨和“预演”。

作为中国第一座、亚洲第二座举办世界科幻大会的城市，成都持续推进科技创新发展，培育科幻产业成长，成为了科技科幻双产业高地。此次活动的举办，旨在推动数字经济背景下的政企学研对话，助力成都数字经济与实体经济融合发展。

AI在未来将发展成什么样？

人工智能一直是科幻小说永恒的主题，而大模型作为人工智能技术的重要发展方向，正在逐渐成为未来科技发展的重要方向之一。那么在未来，人工智能以及大模型将发展成什么样？

对此，著名科幻作家江波表示，大模型有三个基本要素：算力、算法、数据，因此在他看来，人类能够想象的东西，只要有数据积累，就有可能形成大模型。目前市面上已经涌现出了非常多大模型产品，并对人们的生活产生了重要影响。在他看来，未来人工智能以及大模型将发展成什么样，取决于人们能够在哪些地方把数据挖掘出来，只要有数据，场景就将非常丰富。同时他认为，在这个过程中科幻作家也受益良多，可以寻找这样的场景，写到科幻小说中。

圆桌论坛

电子科技大学出版社社长、总编辑田江认为，随着人工智能的发展，未来的场景将不断创新。在他看来，AI对于科幻创作是把双刃剑：一方面提供了便利，过去科幻作家需要花很多心血来创作，现在借助大模型可以快速生成提纲和内容；另一方面这就对科幻作家提出了更高要求。

“在大模型迅速发展的背景下，原创的、真实的作品越来越少，如何将AI与人更好地结合？”田江认为，二者应该是相辅相成的关系，AI可以做大量的提取和梳理等基础性工作。同时他认为，人才是真正的创造者，好的作品一定会体现人的智慧。未来不管怎样发展，一定是AI和人共生的生态。

机器越来越像人

如何重新定义人的价值？

以前，人们希望机器能够替代一些日常体力劳动，如洗衣服、做饭等，将人类解放出来。而随着大模型更多进入到人类智力创作领域，AI越来越“聪明能干”，甚至已经能够做科学研究。在这样的时代，机器越来越像人，甚至有可能会超过人，那么应该如何重新找到并定义人的价值？

针对这一问题，中国科普作家协会理事顾备表示，科幻是寻找高科技未来应用场景，以及预判危机的重要途径。他认为，不能简单地将科幻理解成“不可信”，相反，科幻为人们指引出了一个方向，它预示着所有事情都有可能发生。

“我们一直关注科学和科幻的结合，每当有一个新的科技出现，就要思考到底拿它来干什么？”顾备认为，要解答这个问题，可以倒过来观察：原本人们希望用机器人来做体力活，让人们的生活更加便捷。结果后来发现，AI在各行各业得到应用，甚至快要取代很多人的工作，包括一些白领，比如股票交易、金融分析等，这也促使人们必须要加强学习，不断转型转型。

在顾备看来，AI是软件，具身智能是硬件，只要把具身智能做起来，以后还有越来越多的人类劳动场景将被机器人替代，比如农田里种地、摘果子可能都不再需要人。她认为，当这种场景出现时，一定会回归到以人为本的状态，每个人都要思考，自己在社会上到底承担什么样的职责？对社会有什么价值？在她看来届时人应该回归情感，并为周围的人带来快乐。

如何防范AI发展带来的潜在风险？

当前，大模型的不断发展也让人们产生担忧，甚至引发了技术理念的分歧，许多科幻作品中都充斥着未来AI失控，甚至带来灾害性风险的描述。在现实中，这些场景发生的概率有多大？风险如何防控？

对此，江波认为，人工智能的不断发展是一个不可阻挡的趋势，同时，人工智能自我意识的诞生也是一种必然。“比如我们现在看到的机器狗，已经具备类似昆虫的自我意识，只不过记忆和预测的能力还不够。”他认为机器一旦拥有相应的预测和行动能力，就会像人一样思考诸如“为什么存在”这样的根本性问题，进而有可能不再听从人的指令。

如何应对这一状况？江波认为可以把人类的伦理道德通过某种方式灌输给机器，就像教育小孩一样，让机器不至于忽视人的利益，完全按照自我想法去做事。

复旦大学科技伦理与人类未来研究院教授杨庆峰表示，近日召开的2024世界人工智能大会暨人工智能全球治理高级别会议，发表了《人工智能全球治理上海宣言》，其中提到要以发展的眼光看问题，在人类决策与监管下，以人工智能技术防范人工智能风险，提高人工智能治理的技术能力。“也就是说，要通过技术来治理技术，这个思路将成为未来人工智能发展的主导思路。”杨庆峰认为这是一条可行的路径，但是最终效果还需要时间来验证。

红星新闻记者 王俊峰 实习生 百雅婷 摄影报道