《生成式人工智能服务管理暂行办法》

政策解读 · 人工智能领域
部门规章
深度解读 · 第 01 篇

生成式人工智能服务
管理暂行办法

这是我国第一部专门规范生成式人工智能服务的部门规章,自 2023 年 8 月 15 日起施行。它回答了所有做 AI 功能的企业最关心的一个问题:我做的事,算不算「向境内公众提供服务」?

概

一、政策概览

政策名称《生成式人工智能服务管理暂行办法》
发文机关国家互联网信息办公室、国家发展和改革委员会、教育部、科学技术部、工业和信息化部、公安部、国家广播电视总局(七部门)
文  号七部门令第15号
公布日期2023年5月23日经国家互联网信息办公室2023年第12次室务会审议通过;2023年7月10日公布(署名日期)
施行日期2023年8月15日起施行(见第二十四条)
效力层级部门规章 七部门令发布,具有强制约束力;处罚依据指向《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》等法律
适用范围利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务。行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式AI技术,未向境内公众提供生成式AI服务的,不适用本办法。
核 心 要 义

确立「谁对外提供服务、谁承担提供者义务」的责任主线。提供者须在训练数据合法性、内容价值导向、使用者输入信息保护、生成内容标识、算法备案与安全评估五个方面落实义务;未向境内公众提供服务的内部研发与内部应用,被明确排除在适用范围之外。

条

二、逐条解读对照

第二条适用范围 · 全文的第一道门槛
政策原文(逐字)
利用生成式人工智能技术向中华人民共和国境内公众提供生成文本、图片、音频、视频等内容的服务(以下称生成式人工智能服务),适用本办法。国家对利用生成式人工智能服务从事新闻出版、影视制作、文艺创作等活动另有规定的,从其规定。行业组织、企业、教育和科研机构、公共文化机构、有关专业机构等研发、应用生成式人工智能技术,未向境内公众提供生成式人工智能服务的,不适用本办法的规定。
白话解读
判断自己是否落入本办法,只需回答一个问题:是不是把生成结果给「境内公众」了?只要面向不特定公众提供生成内容,就适用。反之,仅在内部研发、内部试用、员工内部工具场景使用,未向公众开放的,明确不适用。
另注意第二款:新闻出版、影视制作、文艺创作另有专门规定的,适用专门规定,不适用本办法。
对 企 业 的 影 响

企业内部使用的AI写作助手、AI代码补全、内部知识问答,只要不对外提供服务,就不适用本办法——这是许多技术团队最容易误判的一点,避免了不必要的合规负担。反过来,一旦开放注册、开放试用、对外开放API,通常即落入向境内公众提供服务的范围,是否收费不改变这一判断(具体仍应结合服务的开放程度与实际面向范围认定)。

应 对 动 作
  1. 梳理公司现有AI功能的开放范围,明确区分「仅内部」与「对外提供」两类,逐项归类。
  2. 对外提供的功能,按提供者义务清单启动合规排查(见第三部分自查清单)。
以上为参考建议
第四条内容底线 · 五项禁止与要求
政策原文(逐字)
提供和使用生成式人工智能服务,应当遵守法律、行政法规,尊重社会公德和伦理道德,遵守以下规定:
(一)坚持社会主义核心价值观,不得生成煽动颠覆国家政权、推翻社会主义制度,危害国家安全和利益、损害国家形象,煽动分裂国家、破坏国家统一和社会稳定,宣扬恐怖主义、极端主义,宣扬民族仇恨、民族歧视,暴力、淫秽色情,以及虚假有害信息等法律、行政法规禁止的内容;
(二)在算法设计、训练数据选择、模型生成和优化、提供服务等过程中,采取有效措施防止产生民族、信仰、国别、地域、性别、年龄、职业、健康等歧视;
(三)尊重知识产权、商业道德,保守商业秘密,不得利用算法、数据、平台等优势,实施垄断和不正当竞争行为;
(四)尊重他人合法权益,不得危害他人身心健康,不得侵害他人肖像权、名誉权、荣誉权、隐私权和个人信息权益;
(五)基于服务类型特点,采取有效措施,提升生成式人工智能服务的透明度,提高生成内容的准确性和可靠性。
白话解读
五项要求可归为三类:内容红线(第一项,涉政治安全、恐怖极端、民族歧视、暴力色情、虚假有害信息);公平与竞争(第二、三项,算法反歧视、禁止利用数据平台优势搞垄断与不正当竞争);权利保护与质量(第四、五项,人格权与个人信息保护、提升透明度与准确性)。
关键在于:义务不止于「不生成违法内容」,还要求在训练数据、模型优化、对外服务全流程采取有效措施。
对 企 业 的 影 响

第二项的反歧视义务直接落在算法设计与训练数据环节,不是仅靠输出过滤就能满足。第三项对拥有数据或平台优势的企业尤为关键,使用数据爬取、接口调用、流量入口时需评估是否存在垄断或不正当竞争风险。第四、五项意味着产品需要有透明度机制(如告知用户内容由AI生成、说明能力边界)并对准确性有改进措施。

应 对 动 作
  1. 建立生成内容安全审核机制与违规内容拦截策略,覆盖五类红线情形。
  2. 检查训练数据来源与筛选流程,留存可追溯的数据来源记录。
  3. 在产品界面设置AI生成内容告知、能力边界说明等透明度措施。
  4. 审查数据使用与接口调用方式,避免被认定为利用数据或平台优势实施垄断、不正当竞争。
以上为参考建议
第七条训练数据处理 · 五项要求
政策原文(逐字)
生成式人工智能服务提供者(以下称提供者)应当依法开展预训练、优化训练等训练数据处理活动,遵守以下规定:
(一)使用具有合法来源的数据和基础模型;
(二)涉及知识产权的,不得侵害他人依法享有的知识产权;
(三)涉及个人信息的,应当取得个人同意或者符合法律、行政法规规定的其他情形;
(四)采取有效措施提高训练数据质量,增强训练数据的真实性、准确性、客观性、多样性;
(五)《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》等法律、行政法规的其他有关规定和有关主管部门的相关监管要求。
白话解读
这一条专门管「数据从哪来、能不能用」。合法来源是第一道门槛,数据和基础模型都要有合法来源;涉及知识产权的不得侵权;涉及个人信息的,要么取得个人同意,要么符合法律、行政法规规定的其他情形(如匿名化、去标识化等)。第五款把训练数据处理活动与三部基本法律的数据保护要求全面挂钩。
对 企 业 的 影 响

多数技术团队最容易忽略第一、五款。使用来源不明的第三方数据集,或直接抓取网络内容训练,是最常见的隐患点。涉及个人信息时,仅有「技术上不输出」不等于合规,需要有同意或其他法定情形支撑,并保留相应证据。

应 对 动 作
  1. 建立训练数据与基础模型的来源台账,保存采购合同、授权文件、开源许可证等证明材料。
  2. 对含个人信息的数据集,核查是否有个人同意或其他法定情形,并留存合规处理记录。
  3. 建立训练数据质量评估与提升机制,关注真实性、准确性、客观性、多样性四项要求。
  4. 如使用第三方基础模型,留存模型来源与使用授权文件。
以上为参考建议
第十一条使用者信息保护 · 三个「不得」
政策原文(逐字)
提供者对使用者的输入信息和使用记录应当依法履行保护义务,不得收集非必要个人信息,不得非法留存能够识别使用者身份的输入信息和使用记录,不得非法向他人提供使用者的输入信息和使用记录。提供者应当依法及时受理和处理个人关于查阅、复制、更正、补充、删除其个人信息等的请求。
白话解读
本条针对「用户在与AI对话过程中输入了什么」,这类信息常常含有姓名、电话、身份证号、账号、商业秘密等敏感内容。三个「不得」构成红线:不多收、非法不留、非法不给。第二句还要求建立个人权利响应通道,即需能受理并处理查阅、复制、更正、补充、删除请求。
对 企 业 的 影 响

为提升体验而「顺手」留存全部对话记录、保存用户身份关联关系,是产品设计阶段的常见风险点。同时,个人权利响应并非只有隐私政策文本就够,通常需要配套的申请入口与响应流程。

应 对 动 作
  1. 按最小必要原则梳理用户输入字段与日志留存字段,能不收的不收。
  2. 明确输入信息与使用记录的保存期限、访问权限与内部审批流程。
  3. 建立个人权利请求受理与处理通道,覆盖查阅、复制、更正、补充、删除。
  4. 对确需保存的输入信息,评估能否通过去标识化、匿名化降低识别性。
以上为参考建议
第十二条 · 第十七条标识 · 备案与安全评估
政策原文(逐字)
第十二条:提供者应当按照《互联网信息服务深度合成管理规定》对图片、视频等生成内容进行标识。

第十七条:提供具有舆论属性或者社会动员能力的生成式人工智能服务的,应当按照国家有关规定开展安全评估,并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
白话解读
第十二条讲内容标识,要求按深度合成规定对图片、视频等生成内容加标识;需要特别注意的是,本条针对的是生成内容标识义务的基础要求,而具体的标识做法(显式标识、文件元数据隐式标识、日志留存期限等)由后施行的《人工智能生成合成内容标识办法》及配套强制性国标 GB 45438—2025 细化,具体规则请见本专栏该政策解读页。
第十七条讲特定服务的前置义务:具有舆论属性或社会动员能力的服务,需开展安全评估,并履行算法备案及变更、注销备案手续。
对 企 业 的 影 响

第十七条是判定自身是否属于「高风险服务类型」的关键条款。若产品具备内容传播、话题聚合、用户规模大等特征,应主动评估是否具有舆论属性或社会动员能力,并提前启动评估与备案准备,避免服务上线后被要求补办。

应 对 动 作
  1. 评估产品是否具有舆论属性或社会动员能力,形成书面评估结论。
  2. 若属于,核实算法备案状态,按规定办理备案及变更、注销手续。
  3. 按《人工智能生成合成内容标识办法》及 GB 45438—2025 落实生成内容显式与隐式标识。
以上为参考建议
第二十一条 · 第二十四条罚则与施行时间
政策原文(逐字)
第二十一条:提供者违反本办法规定的,由有关主管部门依照《中华人民共和国网络安全法》、《中华人民共和国数据安全法》、《中华人民共和国个人信息保护法》、《中华人民共和国科学技术进步法》等法律、行政法规的规定予以处罚;法律、行政法规没有规定的,由有关主管部门依据职责予以警告、通报批评,责令限期改正;拒不改正或者情节严重的,责令暂停提供相关服务。

第二十四条:本办法自2023年8月15日起施行。
白话解读
罚则设计有两层:第一层,本办法本身不设独立罚款,而是指向《网络安全法》《数据安全法》《个人信息保护法》《科学技术进步法》等法律、行政法规处罚——也就是说,实际罚款金额按这些高位阶法律认定;第二层,法律、行政法规没有规定的,才由主管部门依职责给予警告、通报批评、责令限期改正,拒不改正或情节严重的责令暂停提供相关服务。
对 企 业 的 影 响

「责令暂停提供相关服务」对企业业务连续性影响极大,可能直接导致产品下线。同时须注意:因违反本办法而按高位阶法律处罚时,罚款额度可能相当高,建议不要把本办法当作「只有责令改正」的低风险文件看待。

应 对 动 作
  1. 不要以本办法无独立罚款为由放松合规,按高位阶法律的处罚标准倒推安全余量。
  2. 建立监管问询、约谈的应对预案,明确责任部门与响应流程。
以上为参考建议
查

三、合规自查清单

0/10
已完成自查项
建议由业务、法务、技术共同确认

自查提示:本清单为编写组依据公开条文整理的核查参考,仅供参考,不构成法律意见或合规承诺。勾选状态仅在当前页面本地保存,不代表已完成整改。正式合规结论请结合业务实际并咨询专业机构。

联

四、关联文件与专栏导航