国家标准计划《生成式人工智能技术应用社会影响 评估指南》由 SWG35（全国智能技术社会应用与评估基础标准化工作组）归口 ，主管部门为国家标准委。

主要起草单位 清华大学；中国标准化研究院；中移信息系统集成有限公司；北京百度网讯科技有限公司；润泽智算科技集团股份有限公司；鄂尔多斯市委网信办；北京智谱华章科技有限公司；合肥清和智能科技有限公司 、…… 。

近年来，以Chat-GPT为代表的生成式人工智能（Generative Artificial Intelligence，GAI）技术高速迭代并在多领域广泛应用，带来重大而深远的社会影响。

相较一般的人工智能技术，生成式人工智能因其强大的文字、图片、音频、视频、软件代码等自主生成能力，正在对人类社会传统的信任机制、知识生成机制和权威生成机制带来前所未有的挑战，并显现出使用门槛低、社会风险大的特点。

一方面，对辅助个体决策、提升组织效能、改变组织运行模式以及提升经济社会系统运行效率等方面带来显著的赋能作用，但同时，更引致对高级劳动力就业替代、信任危机、意识形态引导、科学研究不端等一系列社会性问题。

如何确保生成式人工智能技术社会影响可预期、风险可防控，有效规范和引导技术应用产生良性、正向的社会影响，并在合规范围内推动技术创新和国际合作，成为重大且紧迫的时代命题。

国际国外标准化组织已开始关注人工智能技术的监管治理，其中，在算法设计、训练数据收集处理、模型生成优化、产品研发及提供服务过程中考虑对人、组织及社会的影响（societal impact）是一项重要内容。

目前，国内关于生成式人工智能的标准化工作，主要聚焦模型本身的技术要素规范以及输出内容的可信赖等基本安全要求，对生成内容具有的社会属性可能造成的潜在影响及技术应用过程中引致的社会性影响到底有哪些，还缺乏基本的认识和统一的评估框架，对如何提前辨识及有效监管生成式人工智能技术应用社会影响缺少规范。

党中央国务院高度重视智能技术社会应用的治理问题，2022年4月，中共中央国务院发布《关于加快建设全国统一大市场的意见》第十七条明确要求“深入开展人工智能社会实验，推动制定智能社会治理相关标准”。

2019年起，中央网信办等8部委设立92家国家智能社会治理试验基地，科技部18家国家人工智能创新发展试验区，探索智能社会治理中国道路，伴随实验走向深入，有关部门及基地应用主体广泛建议率先研制生成式人工智能社会影响相关标准。

2023年7月，中央网信办发布《生成式人工智能服务管理暂行办法》奠定了我国对于AIGC包容审慎、分级分类监管的主基调，明确生成式人工智能服务提供者应承担网络信息安全、个人信息保护等义务，提出需进行安全评估与备案、对生成内容进行标识等服务规范，并明确提出“鼓励生成式人工智能技术在各行业、各领域的创新应用，生成积极健康、向上向善的优质内容，探索优化应用场景，构建应用生态体系”，对生成式人工智能技术的应用及输出内容的社会属性提出了明确要求。

实施“生成式人工智能技术应用社会影响评估”相关国家标准，将为开发、提供和使用方在算法设计、训练数据收集处理、模型生成优化、产品研发、提供服务等过程中考虑社会影响提供参考，为监管部门、研究机构在监管过程中评估社会影响提供方案。

具有重要的经济、社会和生态效益： 有助于推动生成式人工智能输出内容质量提升，增强技术应用赋能作用，提升应用场景下组织与行业工作的运行速度和运作效率，降低多方利益相关者经济成本，拓展应用过程中还有助于社会税收、购买力、商业贸易水平提升及维护国家经济主权及区域经济安全； 有助于引导生成式人工智能输出内容、媒介及应用场景积极健康、向上向善发展，提升公众个人技术使用感受、技术信任及其引致的有关身心健康水平，跟踪相关领域就业替代等社会问题，提前防范和规避可能引致的群体极化、群体性行动、恶意攻击、暴力等负面群体认知或行为发生，增强社会对GAI技术信任，增强公众归属感、支持感及主动参与社会治理的意愿等； 有助于推进开发、提供和使用组织向资源可持续和环境友好方向改进，减少能源消耗，优化能源结构，及时推动相关领域资源集约管理。

本标准提供了生成式人工智能技术应用社会影响评估的总体原则、社会影响框架、社会影响表征与测度等方面的指导和建议，给出了部分方面的评估指标示例的有关信息。 本标准适用于监管部门、研究机构开展生成式人工智能技术应用社会影响的评估，并适用于开发、提供或使用方开展生成式人工智能技术应用社会影响的辨识和管理活动。主要技术内容包括： （一）术语定义。界定生成式人工智能技术应用社会影响评估的相关概念。 （二）总则。明确开发、提供或使用方，监管部门和研究机构应在何种情形下考虑和评估社会影响，评估结果的应用情况；明确生成式人工智能技术社会影响的内涵。 （三）社会影响框架。基于个体与群体、组织与行业、经济社会系统三个维度提供13个方面的社会影响，并提供各方面具体评估指标或需重点关注的要素。 （四）社会影响表征与测度。提供评估生成式人工智能技术应用社会影响的一般方法，并给出了社会影响表征的主要类型及可能的测度方法。 （五）附录：提供社会影响评估指标示例资料性附录。