国家标准计划《人工智能 异构人工智能加速器统一接口》由 TC28（全国信息技术标准化技术委员会）归口，TC28SC42（全国信息技术标准化技术委员会人工智能分会）执行 ，主管部门为国家标准化管理委员会。

主要起草单位 中国电子技术标准化研究院 、华为技术有限公司 。

人工智能加速处理器是人工智能计算和应用的核心。

据2020年不完全统计，我国人工智能加速处理器研发机构多达2200多家，每种加速器都有自建软件及应用生态的任务。

这种现象将给人工智能计算企业和产业带来沉重负担。

存在的主要问题如下： 1)在技术生态层面，人工智能计算生态的严重割裂，加速器的技术生态林立，小且脆弱； 2)在兼容适配层面，众多加速器需与众多计算框架（如深度学习软件框架）一一适配，产业整体适配工作量巨大； 3)在用户使用层面，异构加速器整合、使用的复杂度很高。

加速器之间的两两互操作在如此大的规模上，较难实现和维护。

人工智能应用的建立，需要实现各种计算框架及各类加速器相对灵活搭配，但需尽可能少地侵入各类人工智能加速器的已有技术路线（各种加速器的已有指令级和算子实现库），不限制创新。

本文件旨在提出标准化解决方案，解决以上3个问题，实现如下目标： 1）为异构人工智能加速器提供接入方案。

在不要求异构人工智能加速器改动指令级或算子实现库的情况下，帮助人工智能加速器快速建立生态； 2）为机器学习软件框架提供统一接口，为多种加速器与多种框架的兼容适配提供方案。

降低产业整体的适配工作量； 为用户提供统一接口，屏蔽异构加速器的复杂度，降低使用、维护难度。

范围： 本文件定义异构人工智能加速器的统一接口及其语义和使用方法，提出各加速器为实现此接口所需的接入方法，以及接口符合性试验方法。 适用： 本文件适用于人工智能加速器技术栈的设计和实现，也可作为人工智能加速器构建技术应用的参考。 主要技术内容： 1.提出人工智能加速器统一接口，为每一个接口，标准化其调用语义、签名和上下文要求； 2.提出面向异构人工智能加速器的接入方法，含有编译器过程及后端实现要求； 提出人工智能加速器统一接口符合性试验方法，覆盖质量、性能等方面，为统一接口的实际应用提供实现、优化依据。