AI一路狂奔，“安全阀门”不可缺

AI一路狂奔，“安全阀门”不可缺

半月谈评论员 杜康

2023年，ChatGPT聊天机器人程序火出圈，越来越多的人开始对人工智能（AI）的功能和使用产生兴趣。今年初，Sora一段“文生视频”再次爆火，通过一段文字描述，AI可以生成60秒钟的高清视频。人工智能的能力正在不断突破人们的想象。

然而，技术大爆发永远是一把双刃剑。不少科学家担心：在不久的未来，人工智能技术会超越人类的智慧，甚至会失控造成严重后果。他们呼吁，应该把防范人工智能带来的风险作为全球优先事项。

正如这些科学家所担心的那样，随着生成式人工智能技术的发展和普及，技术门槛大幅降低，为不法分子提供了机会。2024年6月，公安部网安局披露了多起涉及人工智能技术的深度伪造典型案例。其中一起案件为犯罪嫌疑人白某某利用人工智能软件，对被害人的图片进行所谓的“一键去衣”处理，批量生成了近7000张淫秽图片并通过网络进行贩卖。

目前人工智能带来的威胁大致可分为数据隐私与安全、虚假信息与虚假内容传播、知识产权侵权、模型偏见与歧视、安全漏洞与攻击等几类。以数据隐私与安全为例，生成式人工智能模型通常需要大量的数据进行训练，这些数据可能包括个人隐私信息，如医疗记录、个人照片、社交媒体内容等。这些数据一旦泄露或被不当使用，可能导致隐私泄露、身份盗窃等问题。

除了这些可以明显感知到的风险，未来，还可能有更多“未知风险”，乃至技术失控风险。面对AI的一路狂奔，应从法律、技术、伦理等多方面设置“安全阀门”，及时防范人工智能带来的风险。

在法律层面，我国已经先后出台了系列法律法规，包括《关于加强互联网信息服务算法综合治理的指导意见》《互联网信息服务深度合成管理规定》《生成式人工智能服务管理暂行办法》《科技伦理审查办法（试行）》《人工智能生成合成内容标识办法（征求意见稿）》《生成式人工智能服务安全基本要求（征求意见稿）》《生成式人工智能数据标注安全规范（征求意见稿）》等规章、标准或草案。

在上述规章标准的基础上，我国近年逐步建立起算法备案、大模型备案和伦理审查登记等制度，作为AI安全治理的主要抓手。未来，还需通过完善相关法规，加强对AI生成技术的约束和规范，督促服务提供者和网络平台承担起应有的法律责任，为AI生成内容添加显著提示标识，禁止生成和发布涉及违法违规、侵权欺诈的内容，从根源上消除可能造成的危害和不良影响。

人工智能这项技术的特殊性在于，其存在脱离人类控制等极端风险，因此，除了政策法规监管之外，安全技术的发展是让AI不脱轨的另一项重要保障。无论是从研究的体系化程度、人才密集度、商业驱动力、算力的投入度等方面来看，AI模型安全能力方面的提升，还远远落后于性能的提升。所以，技术层面上，要加大对AI安全方面的投入，强化数据安全、隐私保护等技术的研发，加强对人工智能算法与模型的可溯源研究和审查评估研究，运用技术手段反制和鉴别人工智能所生成的内容，努力打造安全可信的人工智能。

在伦理层面，要把严格的伦理规范贯穿技术研发全过程。科技伦理是开展科学研究、技术开发等科技活动需要遵循的价值理念和行为规范，人工智能技术的发展需要遵循伦理先行、敏捷治理的要求，加强伦理风险预警与跟踪研判，及时动态调整治理方式和伦理规范，以实现负责任的创新。人工智能技术研发人员要坚守科技伦理底线，发现违背科技伦理要求的行为，要主动报告、坚决抵制。

人工智能的未来充满不确定性。面对人工智能带来的风险，我们要保持理性和审慎的态度，既充分发挥人工智能的优势，又最大限度地减少其可能带来的负面影响，让人工智能成为推动人类社会发展的强大动力。

来源：《半月谈》2024年第20期  原标题《AI狂奔，安全监管莫气喘》

支部学习、时政教育，就用半月谈基层党建学习系统。更多半月谈基层党建学习系统详情，尽在主页橱窗。