国家标准计划《网络安全技术 生成式人工智能预训练和优化训练数据安全规范》由 TC260(全国网络安全标准化技术委员会)归口 ,主管部门为国家标准委。
主要起草单位 北京中关村实验室 、中国电子技术标准化研究所 、国家计算机网络应急技术处理协调中心 、清华大学 。
35 信息技术、办公机械 |
预训练和优化训练数据作为构建生成式人工智能服务的重要一环,存在数据泄露等安全风险,关系着生成式人工智能服务的安全性。
制定《网络安全技术 生成式人工智能预训练和优化训练数据安全规范》可以规范生成式人工智能预训练及优化训练的数据处理活动,防范数据投毒、个人信息泄露等安全威胁,提高生成式人工智能预训练和优化训练数据以及服务的保密性、完整性、可用性,促进生成式人工智能产业的规范化和健康发展。
本标准适用于面向我国境内公众提供生成式人工智能服务的组织或个人提高预训练及优化训练数据处理活动的安全水平,也可为生成式人工智能的预训练和优化训练数据提供者提供参考。 本标准的主要技术内容包括:生成式人工智能预训练和优化训练数据的基本安全要求、预训练数据处理活动安全要求、优化训练数据处理活动安全要求以及对应的检测方法。