世界人工智能大会热议大模型安全，多家机构联合发布“白皮书”

2024世界人工智能大会上，如何让大规模高价值数据可信流通成为不少业内人士关注的重点。为了确保数据要素流通合规、安全和高效，产学研界正积极推进一系列的技术标准制定，聚焦解决不同隐私计算技术产品的通用安全分级，受控环境下的数据匿名化，以及数据离开运维域后的有效管控等问题。与此同时，随着大模型能力的不断增强，其安全性、可靠性、可控性受到前所未有的挑战，如研发过程中引发信息泄露、价值对齐、机器幻觉等问题，以及落地过程中面临的数据、模型、算法及其运行的软硬件环境安全风险。

7月5日，在2024WAIC分论坛上，多家产学研机构联合发布多份白皮书，为数据要素流通行业当下普遍遇到的挑战和大模型安全实践，提供最新的技术思考和行业实践。

新京报贝壳财经记者注意到，本次发布的《隐私计算产品通用安全分级》白皮书逐一讨论隐私计算安全分级面临的诸多难点，包括技术路线特征不同难以进行统一分级、部分重要安全能力难以被分级和量化、安全是系统性问题涉及的维度多、范围广。针对以上挑战，给出通用安全分级的设计思路，包括按照攻防效果分级来屏蔽不同技术路线差异，在“可证安全”和“不安全”之间增加一个“抵御已知攻击”的分级水位，引入软件信誉度等更多维度量化“实现安全”，明确所有技术特征与安全分级的对应关系。

同日发布的《个人信息匿名化制度：技术与法律》白皮书由对外经济贸易大学、大数据技术标准推进委员会和蚂蚁集团共同发布。这是学术与产业界首次联合从技术与法律双重维度对个人信息匿名化问题做系统性梳理与阐释、探寻可落地技术方案与数据流通解决路径。白皮书建议，在数据基础设施的规划与建设过程中，应充分考虑个人信息匿名化相关处理技术与制度规范内容。为破解“个人信息匿名化”的困境，必须从单一的法律视角转向复合的“数据基础设施”的路径。匿名化条款可以拓展为一套融合法律和技术的基础设施，从而推动在不同行业、不同机构之间实现可信、安全的数据共享、开放、交易。

5日下午，由清华大学、中关村实验室、蚂蚁集团等机构联合撰写的《大模型安全实践》白皮书也在2024世界人工智能大会上正式发布。这也是国内首份“大模型安全实践”研究报告，为行业打造高价值参考体系。白皮书首次系统化提出安全实践总体框架，从安全性、可靠性、可控性等维度给到了技术实施方案，同时提供了金融、医疗、政务等领域的大模型安全应用案例，以及“五维一体”协同共治的治理框架。