国家标准计划《信息安全技术 互联网信息服务深度合成安全规范》由 TC260（全国网络安全标准化技术委员会）归口 ，主管部门为国家标准委。

主要起草单位 中国科学院信息工程研究所 、国家计算机网络应急技术处理协调中心 、中国科学院计算技术研究所 、中国电子科技集团公司第十五研究所 、中国信息通信研究院 、中国电子技术标准化研究院 、公安部第三研究所等 。

随着新一代信息技术的快速发展，深度合成技术作为人工智能领域的新应用、新实践，已在社交娱乐、影视制作、教育、广告营销等多个行业场景中被推广应用，发展出多元化的商业应用。

“元宇宙”“ChatGPT”等新思维的提出，也为深度合成提供了更广阔的应用场景。

然而在技术和应用发展的同时，从深度合成技术产生之初就如影随形的负面新闻与争议却从未停止，带来了政府选举冲突、国家政策干扰、虚假谣言泛滥、诽谤低俗内容肆意传播等一系列影响国家安全、社会稳定的风险问题。

由于深度合成产业发展时间较短，部分深度合成服务提供者和技术支持者安全责任意识不强，信息安全管理措施和技术保障能力缺失缺位，进一步加剧了深度合成信息内容生成存储传播过程中的安全风险隐患。

此类信息安全风险隐患不仅影响深度合成应用的安全健康有序发展，更是事关国家安全、政权稳定和社会发展，关乎广大人民群众工作生活的重大战略问题。

本标准规定了提供信息服务的深度合成服务提供者和技术支持者应满足的安全通用要求。本标准适用于指导互联网信息深度合成服务提供者和技术支持者开展安全建设和安全自评估工作，也适用于指导对深度合成信息服务进行安全评估和安全审查。 本标准通过对现有深度合成技术及其提供面向公众所提供的产品和服务进行分析，归纳了文本、音频、图像、视频等生成合成内容模态，针对模型生产环节的数据污染安全风险、数据跨境安全风险、模型开发失准风险、测试评估不充分风险；模型上线运行环节的上线攻击风险、模型核验失准风险、模型引导信息安全风险；内容制作环节的模板制作内容安全风险、恶意诱导输出风险、内容审核不充分风险、信息泄露风险；发布传播环节的溯源失效风险、虚假信息传播风险，提出深度合成安全要求。为了使深度合成信息服务安全通用要求有效实施，指导深度合成服务提供者和技术支持者开展安全建设和安全评估审查工作，将安全要求分为一般要求和增强要求，分别对应深度合成的两个安全等级，适应不同交互能力、影响力的深度合成信息服务的差异化安全要求。