国家标准计划《智能体应用安全基本要求》由 252(中央网络安全和信息化委员会办公室)提出,委托TC260(全国网络安全标准化技术委员会)执行 。
主要起草单位 中国移动通信集团有限公司 、中国电子技术标准化研究院 、国家计算机网络应急技术协调中心 。
| 35 信息技术、办公机械 |
| 35.030 IT安全 |
涉及的产品和服务主要包括在手机、平板电脑、电脑(包括笔记本电脑、台式电脑)、可穿戴设备等终端设备或云端部署的,可调用系统或本地工具执行操作,最终实现用户需求的智能体应用。 涉及的过程包括智能体应用生产企业、研发者等主体在智能体应用的设计、开发、部署和运维全生命周期中实施有效的安全技术防护,保障产品和服务运行安全。
智能体应用正以前所未有的速度融入各类使用场景,一旦智能体应用被滥用或攻破,轻则影响用户安全,重则可以此为跳板发动大规模、复杂链式网络攻击,实施网络诈骗、发布有害信息,危害信息安全、网络安全、数据安全,甚至影响国家安全。
本标准一是防范智能体规模化应用带来的权限失控、网络暴露、数据泄露等问题,保障国家安全、社会稳定、公众权益不受侵害;二是通过规范智能体安全应用,有效提升用户信任度,充分释放智能体应用潜能,促进人工智能技术产业健康持续发展。
本标准规定了智能体应用安全基本要求。本标准适用于智能体应用的生产企业、研发者等在智能体应用设计研发、分发部署、上线运营等环节开展安全防护。 本标准主要技术内容包括身份标识、系统权限调用、工具调用、数据收集使用、高风险操作人工介入、输入输出安全防护、日志留存与动态监测、异常阻断与紧急关停等方面的安全要求。
国内外智能体应用正处于快速发展阶段,业界和用户对智能体应用的研发和使用需求日益强烈,这为制定智能体应用安全基本要求提供了良好的产业基础和实施契机。当前国内尚无针对智能体应用提出的安全要求。新加坡于2026年1月22日发布全球首个AI智能体治理框架,该框架聚焦具备自主决策、环境交互能力的AI智能体,从风险前置评估、人类责任体系性、全生命周期管控、利益相关方透明化四个维度明确治理要求。
强制理由:人身健康和生命财产安全,国家安全,经济社会管理基本需要