国家标准计划《人工智能 深度学习编译器技术规范》由 TC28(全国信息技术标准化技术委员会)归口,TC28SC42(全国信息技术标准化技术委员会人工智能分会)执行 ,主管部门为国家标准委。
主要起草单位 中国电子技术标准化研究院 、浪潮电子信息产业股份有限公司 、北京百度网讯科技有限公司 、上海人工智能实验室 、华为技术有限公司 、北京航空航天大学 、北京壁仞开发科技有限公司 、上海燧原科技有限公司 、上海商汤科技有限公司 。
| 35 信息技术、办公机械 |
| 35.240 信息技术应用 |
深度学习编译器将不同深度学习框架中描述的AI算法模型作为输入,然后为不同的AI加速硬件生成优化代码作为输出。
目前深度学习编译器技术并不成熟,各编译器产品都有自己独特的设计架构,且对上层深度学习框架和底层AI设备的支持各不相同,不仅增加了用户使用的复杂性,也限制了其市场应用。
当前深度学习编译器技术发展存在以下问题:① 对深度学习框架和计算硬件的兼容能力不同,业界缺少横向对比的统一参考指标,深度学习框架、AI设备厂商以及AI服务器厂商面临软硬件适配难的问题;② 功能差异大,各编译器产品独立发展自己的技术栈,没有统一基础能力要求;③ 对深度学习框架和计算硬件的可扩展支持能力较差,缺少统一的扩展性能力要求。
综上所述,为了减轻行业应用中软硬件适配、功能差异大以及扩展性差等问题,规范深度学习编译器的基础必要组件技术要求和测试方法,使其能够满足人工智能上层深度学习框架和下层AI硬件加速设备之间的统一映射需求,根据编译器通用设计架构,对深度学习编译器的技术要求和测试方法等内容进行规范,对深度学习编译器提出统一的基础能力要求,并规范相应的测试方法,为编译器产品的横向对比提供统一参考指标,有利于相关技术解决市场问题,为深度学习编译器技术发展提供参考规范和功能指引。
本文件定义了人工智能深度学习编译器的技术要求和测试方法,其中技术要求包含深度学习编译器的功能性、兼容性和可扩展性要求,测试方法包含功能测试、兼容性测试和可扩展性测试的测试方法和预期结果。 本文件适用于深度学习编译器的设计参考与测试评估,为深度学习编译器技术发展提供参考规范和功能指引。 本标准的主要技术内容: 1)规范深度学习编译器技术要求,包括一般要求、功能要求、兼容性要求、可扩展性要求等。 2)提出深度学习编译器标准符合性测试方法,包括功能测试、兼容性测试、可扩展性测试等,为标准实际落地应用提供依据。