AIGC标识办法征求意见稿发布 生成内容要包括显式及隐式标识

9月14日，国家互联网信息办公室发布关于《人工智能生成合成内容标识办法》公开征求意见的通知，还配套发布了国家标准《网络安全技术 人工智能生成合成内容标识方法》。

新京报贝壳财经记者浏览发现，《征求意见稿》共十四条，其中较为重要的条款包括要求人工智能生成合成内容标识包括显式标识和隐式标识。

北京师范大学法学院博士生导师、中国互联网协会研究中心副主任吴沈括在接受新京报贝壳财经记者采访时表示，这是全球范围内第一部关于人工智能生成合成内容的标识国家标准，是关于人工智能内容治理机制建设的重要探索，对人工智能内容产业的有序发展和业务规则具有重要的指引意义，也有助于人工智能良性生态的培育。

文本、音频、图片、视频、虚拟场景等均需添加显著标识

《征求意见稿》明确，人工智能生成合成内容是指利用人工智能技术制作、生成、合成的文本、图片、音频、视频等信息。而要求添加的标识的具体解释为，“显式标识是指在生成合成内容或者交互场景界面中添加的，以文字、声音、图形等方式呈现并可被用户明显感知到的标识。隐式标识是指采取技术措施在生成合成内容文件数据中添加的，不易被用户明显感知到的标识。”

根据《征求意见稿》第四条，服务提供者提供的生成合成服务属于《互联网信息服务深度合成管理规定》第十七条第一款情形的，应当按照下列要求对生成合成内容添加显式标识。

贝壳财经记者注意到，《征求意见稿》第四条几乎囊括了所有目前AI能够生产的内容，如对AI生成文本，要求在文本的起始、末尾、中间适当位置添加文字提示或通用符号提示等标识，或在交互场景界面或文字周边添加显著的提示标识；AI生成音频，要求在音频的起始、末尾或中间适当位置添加语音提示或音频节奏提示等标识，或在交互场景界面中添加显著的提示标识；AI生成视频，要求在视频起始画面和视频播放周边的适当位置添加显著的提示标识，可在视频末尾和中间适当位置添加显著的提示标识，等等。

《征求意见稿》还明确，提供网络信息内容传播平台服务的服务提供者应当采取措施，规范生成合成内容传播活动，如应当核验文件元数据中是否含有隐式标识，对于含有隐式标识的，应当采取适当方式在发布内容周边添加显著的提示标识，明确提醒用户该内容属于生成合成内容等。

专家解读：问题导向，破解人工智能生成合成内容新需求新风险

中国信息通信研究院人工智能研究所所长魏凯分析称，立足于生成式人工智能健康发展和规范应用，《征求意见稿》以问题为导向，通过系统性、创新性制度设计，全面回应了对人工智能生成合成内容标识的要求。

魏凯表示，《征求意见稿》根植于我国发展实践，通过标准完善补充生成式人工智能综合治理机制，有力支撑了科技向善的治理理念，为世界贡献发展与安全并行的人工智能治理中国方案。

据了解，早在2022年中央网信办等就发布了《互联网信息服务深度合成管理规定》，明确指出深度合成服务提供者应当在生成或者编辑的信息内容的合理位置、区域进行显著标识，向公众提示深度合成情况。

魏凯表示，《规定》主要明确了需要添加标识的情况，但对于添加标识的位置、字形和表达并未做出具体要求，因此各类企业在实施过程中出现了文本内容显式标识不明显、难察觉，音频、视频等内容显式标识未插入、浅提示，隐式标识少信息、难校验等问题，对于落实监管提出了挑战。

在他看来，出台《征求意见稿》加强了服务商生成合成内容标识的规范性，是进一步推进生成合成内容标识工作的必要举措，对规范互联网信息服务深度合成管理、解决生成合成内容标识突出问题、推进信息网络生态环境治理意义重大，影响深远。

魏凯认为，《征求意见稿》进一步完善生成式人工智能监管问责体系。生成式人工智能生成合成内容涉及多种类型的主体，清晰界定各主体义务更有利于压实主体责任，便利技术检测实施，进而落实精准问责。《征求意见稿》不仅界定了人工智能生成合成内容的基本概念，更针对服务提供者、传播平台、应用服务分发平台和用户分别规定了具体标识要求，为各相关主体落实合规指明了方向。由此，《征求意见稿》在现行责任制度作出补充，充分细化了《规定》提出的深度合成服务提供者和技术支持者行为规范，为促进新技术新应用的规范发展提供了有益范例。