国家标准计划《信息安全技术 人工智能计算平台安全框架》由 TC260（全国网络安全标准化技术委员会）归口 ，主管部门为国家标准化管理委员会。

主要起草单位 华为技术有限公司 、中国电子技术标准化研究院 、中国电信集团有限公司 、中国移动通信集团有限公司 、中国科学院软件研究所 、中国科学院信息工程研究所 、西安交通大学 、深圳大学 、上海商汤智能科技有限公司 、上海依图网络科技有限公司 、北京百度网讯科技有限公司 、蚂蚁科技集团股份有限公司 、上海市信息安全测评认证中心 、杭州安恒信息技术股份有限公司 、启明星辰信息技术集团股份有限公司 、北京数安行科技有限公司 、北京瑞莱智慧科技有限公司 、深圳致星科技有限公司 、深圳市洞见智慧科技有限公司 、北京数牍科技有限公司 、西安深信科创信息技术有限公司 、北京快手科技有限公司 、北京眼神科技有限公司 、中云网安科技有限公司 。

近年来，人工智能技术作为引领新一轮科技革命和产业变革的战略性技术获得了快速的发展，随之而来的人工智能安全问题也变得越来越凸显。

《新一代人工智能治理原则-发展负责人的人工智能》与《新一代人工智能伦理规范》中均提出需高度重视人工智能系统的安全，保障数据安全与隐私，增强系统安全透明与可控。

在AI系统中，模型与数据集是最为核心的关键资产，是数据提供方、AI模型提供方及模型使用方等参与方都会涉及的和关注的核心要素，具备高价值、高风险特点。

人工智能计算平台作为AI系统中的算力基础设施，提供支撑AI系统运行的软硬件资源，对模型和数据这些AI关键资产的保护也起到至关重要的作用，为相关参与方提供安全运行底座的同时，也解决了算法层面无法应对的安全问题。

不同于传统的通用计算场景，人工智能计算平台还需要考虑引入异构算力造成的硬件架构差异、引入模型资产造成的软件交付差异、以及人工智能技术本身对安全技术的影响等。

现有的标准没有考虑这些差异性，也因此难以直接适用于人工智能场景，解决关键资产面临的安全问题。

本项目以人工智能计算平台为对象，定义平台应具备的安全框架。

通过框架中定义的安全模块与安全机制，一方面保障平台自身的安全机制足以应对现有的安全风险，不会成为攻击模型和数据等关键资产的突破口，解决AI应用开发运行过程面临的底层硬件安全问题；另一方面，围绕上层应用面临的多场景基础共性问题，为AI模型及数据相关方提供必要的保护措施，保证运行或保存在平台上模型及数据等AI关键资产安全，减少应用方的重复投入，提供基于硬件增强的安全防护；此外，通过定义的标准化接口，实现不同的参与方使用统一的交互机制实现对AI关键资产的保护，减少适配成本，满足不同参与方的利益，进一步促进AI产业安全发展。

综上所述，本项目以保护AI模型、数据等关键资产为目标，充分考虑人工智能技术带来的新变化，定义人工智能计算平台安全框架，统一安全机制与交互接口，促进产业各参与方协同统一，共同完成对模型、数据等关键资产的保护，符合各方的利益要求，填补现阶段产业界的空白，对人工智能产业发展是有非常重要的价值和意义。

本文件规定了人工智能计算平台安全框架，包括整体的安全功能效果及安全功能效果实现涉及的安全模块和模块交互机制。 本文件适用于为人工智能计算平台提供方、平台使用方保障AI应用开发运行过程中的模型、数据等资产安全提供参考。主要内容如下： 1）人工智能计算平台概述。包括人工智能计算平台组成、相关参与方业务活动及关键资产识别以及相关参与方业务活动中面临的安全威胁分析。 2）人工智能计算平台安全框架。基于AI计算平台相关参与方面临的安全威胁，梳理AI计算平台应提供的安全功能效果，定义AI计算平台安全框架组成，细化安全框架实现所需安全模块及模块交互机制。 3）人工智能计算平台安全模块。基于安全框架所定义安全功能效果，细化分解安全功能效果实现所需的AI模块支撑，规范各安全模块所需具备的基本安全功能。 4）人工智能计算平台安全机制。基于安全框架所定义安全功能效果，细化分解各安全功能效果涉及的安全模块交互机制，具体内容包括安全机制中涉及安全模块之间的交互接口与流程、传递的信息内容、对平台相关参与方提供的服务接口等。