国家标准计划《人工智能社会实验 评价指南》由 SWG35(全国智能技术社会应用与评估基础标准化工作组)归口 ,主管部门为国家标准委。
主要起草单位 中国标准化研究院 、清华大学 、浙江大学 、中移信息系统集成有限公司…… 。
35 信息技术、办公机械 |
35.240 信息技术应用 |
35.240.01 信息技术应用综合 |
1.贯彻落实国家顶层战略部署: 当前,国际社会正在积极探索智能治理问题,比如联合国教科文组织发布的《人工智能伦理问题建议书》20次提到标准问题,提出“会员国、国际组织和其他相关机构应制定国际标准,列出可衡量和可检测的安全和透明度等级,以便能够客观评估人工智能系统并确定合规水平。
”我国同样也在加速推进智能治理相关标准化工作。
2021年10月,中共中央、国务院颁布的《国家标准化发展纲要》要求,开展社会治理标准化行动,推动社会治理标准化创新。
2022年4月,中共中央、国务院颁布《关于加快建设全国统一大市场的意见》,明确要求深入开展人工智能社会实验,推动制定智能社会治理相关标准。
与此同时,人工智能社会实验也已写入《国家中长期科学和技术发展规划纲要(2021-2035)》和《“十四五”国家科技创新规划》。
探索智能社会治理中国道路,重构智能社会的文化与文明是一项重大而紧迫的时代命题。
研制《人工智能社会实验 评价指南》国家推荐性标准,利用人工智能社会实验探索智能社会治理的中国道路,是展现我国积极参与全球新兴科技治理新行动、新作为,促进我国负责任大国形象提升的新场域、新支点;是面向未来加强全球务实合作,深化世界各国政府、企业与社会交流沟通,推动包容性发展和全人类福祉提升的新路径。
目前我国已在人工智能领域形成了数据资源丰富、应用场景广阔的先发优势。
利用好这一优势,巩固人工智能社会实验的积极效应,提出可复用、可推广的有关智能社会治理的应用标准,形成对技术、产业与社会的反向回馈,可以为人工智能技术发展路径的优化和治理政策的完善提供科学的指导,可以为国家整体的人工智能标准化战略布局提供参考,为标准化相关政策及市场监管机制的建立提供理论依据,在国际社会创建一个新的供讨论的话语体系和话语空间,帮助我国抢占国际智能社会治理话语权和制高点。
2.满足人工智能社会实验实践工作的需求: 近些年来,为贯彻落实党中央的一系列指示精神,中央网信办牵头,联合发展改革委、教育部、民政部、生态环境部、卫生健康委、市场监管总局、体育总局8部委,在全国建立了10家综合基地和82家特色基地(统称“国家智能社会治理实验基地”,下称“实验基地”),开展人工智能社会实验,超前探索制定智能社会治理的拓扑结构、运行机理、治理模式。
科技部将人工智能社会实验列为国家新一代人工智能试验区(下称“试验区”)建设的一项基本任务,在北京、上海等18个试验区部署了多个应用场景。
各实验基地和试验区在构建人工智能社会实验场景、打造智能社会治理产业生态方面取得了重要进展。
但是随着人工智能社会实验的推进,实验流程的规范、实验成效的评价成为当前的突出问题。
针对人工智能社会实验结果难以采信,亟需从评价通则研究、评价工具研发等角度研制标准,以提高实验评价的结构化、科学性和规范性,提升实验成果测度的科学性。
研制《人工智能社会实验 评价指南》国家推荐性标准,可以为实验基地和试验区的实践工作提供有力支撑——能够更好地支撑全国各地的人工智能社会实验实践工作,以及国家智能社会治理实验基地建设、国家新一代人工智能创新发展试验区社会实验等专项工作。
解决各地实践操作中的人工智能社会实验缺少客观的评判依据的问题,供各国家智能社会治理实验基地、国家新一代人工智能创新发展试验区,开展人工智能社会实验的研究人员,以及各有关方面遵循开展人工智能社会实验的评价工作,有利于客观公正地评价人工智能社会实验的设计、开展和成果反馈等各阶段的科学性和规范性。
3.标准实施可能取得的经济、社会、生态效益: 研制《人工智能社会实验 评价指南》国家推荐性标准,实现人工智能社会实验评价的标准化,可以运用标准化理论和方法,构建人工智能社会实验评价的话语体系和技术解决方案,填补人工智能社会实验评价工作缺乏标准化规范化评价体系的空白,为实验评价提供量化评价工具,推动实验开展工作不断优化升级。
既符合开展社会实验本身的科学性要求,充分回应国家政策制度层面的要求,又能够为基于所有典型场景的具体个别的人工智能社会实验提供高层评价指引,构建人工智能社会实验评价的话语体系和技术解决方案,填补人工智能社会实验评价缺乏标准化规范化依据的空白,为人工智能社会实验提供可参照适用的评价工具,优化评价流程、提升评价效率,最终促进智能技术良性发展和广泛应用,推动建设有人文温度的智能社会,助力国家治理体系与治理能力现代化。
1.范围 本文件提供了人工智能社会实验评价的评价体系和流程,确立了评价人工智能社会实验的术语和定义、评价原则、评价指标体系,提供了评价指标的取值规则、评价结果的形成规则、评价流程等方法参考,为人工智能社会实验的评价提供通用方法和工具。 本文件适用于全国各地的国家智能社会治理实验基地、国家新一代人工智能创新发展试验区的建设者、管理者、实验研究主体开展实验评价。 2.主要技术内容 《人工智能社会实验 评价指南》国家推荐性标准,为全国各地的国家智能社会治理实验基地、国家新一代人工智能创新发展试验区,开展人工智能社会实验的研究人员,以及各有关方面客观公正地评价人工智能社会实验的设计、开展和成果反馈等各阶段的科学性和规范性,规定了术语和定义、评价原则、评价指标体系、取值规则、评价结果以及评价流程。 (一)术语定义。通过术语定义明确开展人工智能社会实验评价工作的常用概念。 (二)评价原则。明确评价人员在开展人工智能社会实验的评价工作应当遵循的一组基本方针和要求。 (三)评价指标体系。明确评价方在开展评价前确立评价指标时应当注意的事项,包括通则、评价指标体系框架、评价指标的设立方法,以及具体在实验场景建设、实验流程管理、实验结果反馈、实验组织保障等四个方面可以参考使用的评价指标的大致内容。 (四)取值规则。明确评价方可以根据人工智能社会实验具体适用场景选择适用的取值方法,包括统计数据法、试验/测量法、证据判断法、量表法、主观赋值法。 (五)评价结果。明确人工智能社会实验的评价结果的得出方法,以及评价报告的组成部分。 (六)评价流程。明确人工智能社会实验评价工作的基本流程,包括确定评价目标、制定评价方案、设计指标体系、设置指标权重、收集数据及支撑材料、分析论证、编制评价报告。