国家标准计划《网络安全技术 人工智能生成合成内容标识方法》由 252(中央网络安全和信息化委员会办公室)提出,委托TC260(全国网络安全标准化技术委员会)执行 。
主要起草单位 中国电子技术标准化研究院 。
| 35 信息技术、办公机械 |
| 35.030 IT安全 |
| 编号 | 语种 | 翻译承担单位 | 国内外需求情况 |
|---|---|---|---|
| 1 | EN | 中国电子技术标准化研究院 | 为应对生成式人工智能带来的新风险新挑战,帮助社会公众分辨人工智能生成合成内容,降低人工智能生成合成内容被误用、滥用、恶意使用的安全风险、各国均在推动人工智能生成合成内容标识相关政策。我国、美国、欧盟等国家地区均已将为人工智能生成合成内容进行标识的相关要求正式写入法案、行政命令等法律法规文件,各国家地区表示相关的标准化工作需求迫切,有必要同步推进英文版,为全球人工智能安全治理贡献我国方案。 |
范围:本标准给出了人工智能生成合成内容在制作、展示以及对外提供时的标识方法,适用于面向公众提供的人工智能生成合成内容制作服务与传播服务。 主要技术内容:本标准主要包含两方面技术内容。 一是要求人工智能生成合成内容要有提示提醒用的“显著标识”。标准要求人工智能生成合成内容在制作时直接在内容中写入标识,包括在文本、视频、音频、图片等类型的内容中以对应方式加入标识,包括提示文字、提示语音等,以在后续内容传播时提示提醒用户该内容为人工智能生成合成,防止内容的误用、滥用、恶意使用。人工智能生成合成内容在展示时不仅要保留内容制作时的标识,还需要在交互对话等特定场景补充添加标识。 二是要求人工智能生成合成内容要包含“不影响用户使用的标识”以便于内容溯源。本标准要求在以文件形式对外提供内容时,需要在文件的元数据区域写入特定信息。写入信息主要包括6点:生成合成标签,代表是否为生成合成内容;制作平台单位代码;内容制作编号,代表制作单位对生成合成内容的唯一编号;内容提供单位代码;内容提供编号,代表内容提供单位对提供该内容的唯一编号;预留字段,可用于企业自主开展业务验证等功能。