注册

国家标准项目《智能计算集群 算力利用率的评估方法》由 SWG32(全国智能计算标准化工作组)归口 ,主管部门为国家标准委。

主要起草单位 中国信息通信研究院 、之江实验室 、中国电信集团有限公司 、中国移动通信集团有限公司 、百度在线网络技术(北京)有限公司 、润泽科技发展有限公司 、京能数字产业有限公司 、华为技术有限公司 、曙光信息产业股份有限公司 、新华三技术有限公司 。

目录

基础信息

制修订
制定
项目周期
15个月
公示开始日期
2026-09-30
公示截止日期
2026-10-30
标准类别
方法
国际标准分类号
35.240
35 信息技术、办公机械
35.240 信息技术应用
归口单位
全国智能计算标准化工作组
执行单位
全国智能计算标准化工作组
主管部门
国家标准委

起草单位

涉及的产品清单

本标准涉及智算集群建设、运维等软硬件产品,包括但不限于:智能计算集群、人工智能服务器、AI加速芯片(GPU/NPU/TPU等)、智能网卡(NIC/DPU)、网络交换机(以太网交换机/InfiniBand交换机)、存储阵列(全闪存阵列/并行文件系统)、集群调度管理软件、深度学习框架(PyTorch、TensorFlow、MindSpore等)、任务监控与日志系统。

范围和主要技术内容

本文件规定了智能计算集群算力利用率的术语和定义,以及资源分配率、集群算力利用率、任务算力利用率三层指标的计算方法、数据采集要求、评估方法和评估报告内容。本文件适用于智能计算集群在验收阶段和运行阶段的算力利用率评估,覆盖模型训练和推理两类业务场景。 主要技术内容包括: 1. 术语和定义:界定智能计算集群、算力、理论峰值算力、计算单元活跃率、资源分配率、集群算力利用率、任务算力利用率、模型算力利用率、推理算力利用率等术语。 2. 三层评估指标体系: (1)资源分配率(RAR):统计周期内已分配给用户或任务的算力资源量占集群总算力资源量的比例,采用时间加权计算,数据来源于集群调度系统,采样周期不大于1分钟; (2)集群算力利用率(CCU):统计周期内各计算卡的计算单元活跃率按单卡理论峰值算力加权的时间平均值,数据来源于芯片级监控工具,采集频率不低于1Hz,原始数据在线存储不少于30天,降采样聚合数据存储不少于1年; (3)任务算力利用率:训练场景采用模型算力利用率(MFU),与GB/T 46346—2025对齐;推理场景采用推理算力利用率(IMFU),为统计周期内完成推理的理论浮点运算总量与所占用硬件理论峰值算力总量的比值。 3. 三层指标关系:RAR≥CCU≥MFU/IMFU,通过层间差值分析定位效率瓶颈。 4. 评估方法:规定运行阶段评估和验收阶段评估的适用条件、数据采集要求和指标计算要求,以及标准化评估流程。 5. 评估报告内容:规定集群概况、评估周期、三层指标结果、数据采集说明、异常说明、结论与建议等报告要素。