国家标准计划《生成式人工智能技术应用社会影响 服务提供者合规管理指南》由 SWG35（全国智能技术社会应用与评估基础标准化工作组）归口 ，主管部门为国家标准委。

主要起草单位 中国标准化研究院；清华大学；中移信息系统集成有限公司；北京百度网讯科技有限公司；润泽智算科技集团股份有限公司；北京智谱华章科技有限公司；量安科技（北京）有限公司 、…… 。

近年来，人类社会正迅速迈向以人工智能为关键技术支撑的智能社会。

其中，智能技术的广泛应用将对个人生活、组织运行和社会发展等带来诸多新问题与新挑战。

当前，以Chat-GPT为代表的生成式人工智能（Generative Artificial Intelligence，GAI）问世、快速迭代，并迅速在教育、医疗、科研等生产生活各行业广泛应用。

如何确保社会影响可预期、风险可防控，有效规范和引导技术应用产生良性、正向的社会影响，并在合规范围内推动技术创新和国际合作，成为重大且紧迫的时代命题。

合规管理作为企业等组织预防、识别、分析、评价和应对数据合规风险的重要手段，能够更好推进生成式人工智能技术良性发展，防范应对生成式人工智能社会影响潜在风险： 一是为深入贯彻落实党中央、国务院决策部署夯实标准化工作基础。

习近平总书记历来高度重视以人工智能为代表的智能技术发展及其带来的社会挑战，对“开展人工智能社会实验、探索智能社会治理中国道路”做出重要批示，要求相关部委制定工作计划，超前探索智能社会治理的中国道路，服务治国理政。

2021年10月，中共中央、国务院印发《国家标准化发展纲要》（以下简称《纲要》），明确部署开展社会治理标准化行动，提出要加强人工智能等关键技术领域的标准研究，强调要加快数字社会、数字政府标准化建设。

2022年4月，中共中央、国务院印发《关于加快建设全国统一大市场的意见》（以下简称《意见》），进一步提出要深入开展人工智能社会实验，推动制定智能社会治理相关标准。

制定实施该项标准，是以标准化赋能智能社会治理的重要手段，通过提供生成式人工智能技术应用合规管理职责，生成式人工智能技术应用合规风险识别、评估与处置，以及生成式人工智能技术应用合规的管理运行和管理保障的相关指导和建议，进而更有效应对和解决社会性风险与治理性问题，更好建设有人文温度的智能社会。

二是为保障履行生成式人工智能法律法规义务优化标准化技术支撑。

目前，我国针对生成式人工智能等技术领域出台了《生成式人工智能服务管理暂行办法》等专门的管理办法，初步明确了生成式人工智能法律法规的合规义务以及要点。

目前国内关于生成式人工智能的标准化工作，主要聚焦模型本身的技术要素规范以及输出内容的可信赖等基本安全要求，对生成式人工智能服务提供者的合规管理缺少规范。

制定实施该标准，能够为所有类型的组织开展生成式人工智能技术应用合规管理活动提供合规体系建设方案，也可供有关部门开展生成式人工智能技术应用合规监管时参考，更好建立起法律法规和标准规范相协调的生成式人工智能技术应用合规监管制度体系。

三是为有效应对生成式人工智能的综合性影响提供标准化解决方案。

当前，生成式人工智能技术的广泛应用将对个人生活、组织运行和社会发展等带来诸多新问题与新挑战。

如精准算法产生“信息茧房”导致群体极化的发展风险等。

成为经济社会和产业发展亟需解决的关键问题。

制定实施该标准，能够充分发挥标准化解决实际的或潜在的问题的功能，从合规管理的角度，为企业等组织开展生成式人工智能技术应用合规能力建设提出明确要求，为引导企业等组织落实生成式人工智能技术应用合规主体责任，符合该领域法律法规等相关要求，提高生成式人工智能技术应用合规意识和管理水平，进而反向促进生成式人工智能稳定健康发展提供可行性方案。

制定实施该标准具有重要经济与社会效益： 可以促进释放生成式人工智能技术应用巨大效能。

能够强化前瞻预防与约束引导，最大限度降低风险，确保智能技术安全、可靠、可控发展，在培育壮大生成式人工智能技术等产业，为我国经济发展注入新动能的同时，实现生成式人工智能技术在基层治理、医疗健康、环境能源、教育、养老、体育、经济、政法等领域广泛应用，最大限度实现惠及全民的智能技术覆盖，保障全社会共享技术创新成果。

可以提高公众对生成式人工智能技术应用的信心。

能够为智能技术和社会治理的交叉融合构建共同话语体系，进而在生成式人工智能技术发展与应用中充分考虑社会各界多元需求，保障个人生命健康、人身自由、私人财产等权利不受侵犯，确保社会和智能技术的融洽和谐，降低生成式人工智能技术发展造成社会冲突的可能性，以技术进步促进社会发展，增强社会向心力、塑造社会凝聚力。

最后，可以贡献生成式人工智能技术应用治理中国方案。

可以筑牢我们在智能社会治理领域的国内标准化工作基础，为将来积极参与国际标准化活动，为国际社会贡献中国智慧奠定前提，进而更好促进我国负责任大国形象更好提升。

本文件围绕正向引导技术应用的社会影响，确保生成式人工智能服务提供者依法依规开展活动，给出了合规管理的原则、管理职责，提供了生成式人工智能技术应用的社会影响风险识别、评估与处置，以及合规管理运行和管理保障的指南，也为有关部门对生成式人工智能技术应用服务者进行监管提供参考。 本文件适用于生成式人工智能服务提供者，也可供有关部门对生成式人工智能服务提供者进行监管提供参考。主要技术内容包括： 1.术语和定义：生成式人工智能、服务提供者、生成式人工智能技术应用社会影响。 2.生成式人工智能技术服务提供者合规管理原则：尊重人的自主权原则、保护个人隐私原则、保障公平公正原则、提高透明度和可解释性原则、采取有效措施提供数据质量原则、负责任的创新原则。 3.生成式人工智能技术服务提供者合规管理职责：通则、管理机构和最高管理者、管理团队、其他业务部门管理者、关键岗位人员。 4.生成式人工智能技术服务提供者合规风险管理：生成式人工智能技术应用合规管理风险识别、生成式人工智能技术应用合规管理风险评估、生成式人工智能技术应用合规管理风险处置。 5.生成式人工智能技术服务提供者合规管理运行：事前准备、事中管理机制、事后管理机制。 6.生成式人工智能技术服务提供者合规管理保障：合规培训、管理队伍、合规文化培育、合规管理信息化建设。 7. 附录A：（资料性） 生成式人工智能技术服务提供者主要合规义务