国家标准项目《网络安全技术 人工智能深度合成安全规范》由 TC260（全国网络安全标准化技术委员会）归口 ，主管部门为国家标准委。

主要起草单位 中国科学院软件研究所 、中国电子技术标准化研究院 、蚂蚁科技集团股份有限公司等 。

本标准规定人工智能深度合成活动全生命周期的数据准备、模型开发、部署上线、运行监控、变更管理与退出等环节的安全要求，并给出相应的评价方法。 本标准适用于深度合成服务提供者、深度合成服务技术支持者开展人工智能深度合成技术研发、模型开发、服务部署、运行维护及相关安全管理活动，也可为相关主管部门以及第三方评估机构开展检查、评价和安全评估提供参考。适用范围覆盖涉及图像、音频、视频、文本以及多模态、跨模态内容生成、替换、修改、复刻、仿真等深度合成活动。 主要技术内容包括： 1）明确人工智能深度合成、深度合成全生命周期、深度合成服务提供者、深度合成服务技术支持者、深度合成内容使用者、深度合成数据提供者等术语和定义； 2）规定数据准备阶段的安全要求，包括数据采集与存储、数据处理与使用、训练数据涉及个人信息的特殊要求、生物识别信息编辑功能的特殊要求等； 3）规定模型开发阶段的安全要求，包括技术管理要求和安全评估要求； 4）规定部署上线阶段的安全要求，包括身份核验与访问控制、合成内容管理与处置等要求； 5）规定运行监控阶段的安全要求，包括反馈处理与处置留痕等要求； 6）规定变更管理与退出阶段的安全要求，包括变更备案与重新安全评估、终止服务的安全处置等要求； 7）针对上述安全要求，分别给出数据准备、模型开发、部署上线、运行监控、变更管理与退出等环节的评价方法、预期结果和结果判定； 8）给出抽样与测试数量要求等规范性附录，以及深度合成典型安全风险清单、人脸合成典型场景及安全风险等资料性附录。

《高风险领域生成式人工智能系统内容安全检测技术与标准研究》