国家网信办就《生成式人工智能服务管理办法（征求意见稿）》公开征求意见
为促进生成式人工智能技术健康发展和规范应用，根据《中华人民共和国网络安全法》等法律法规，国家互联网信息办公室起草了《生成式人工智能服务管理办法（征求意见稿）》，现向社会公开征求意见。公众可通过以下途径和方式提出反馈意见：
3.通过信函方式将意见寄至：北京市海淀区阜成路15号国家互联网信息办公室网络安全协调局，邮编100048，并在信封上注明“生成式人工智能服务管理办法征求意见”。
意见反馈截止时间为2023年5月10日。
附件：生成式人工智能服务管理办法（征求意见稿）
国家互联网信息办公室
2023年4月11日
生成式人工智能服务管理办法
（征求意见稿）
第一条为促进生成式人工智能健康发展和规范应用，根据《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规，制定本办法。
第二条研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的，适用本办法。
本办法所称生成式人工智能，是指基于算法、模型、规则生成文本、图片、声音、视频、代码等内容的技术。
第三条国家支持人工智能算法、框架等基础技术的自主创新、推广应用、国际合作，鼓励优先采用安全可信的软件、工具、计算和数据资源。
第四条提供生成式人工智能产品或服务应当遵守法律法规的要求，尊重社会公德、公序良俗，符合以下要求：
（一）利用生成式人工智能生成的内容应当体现社会主义核心价值观，不得含有颠覆国家政权、推翻社会主义制度，煽动分裂国家、破坏国家统一，宣扬恐怖主义、极端主义，宣扬民族仇恨、民族歧视，暴力、淫秽色情信息，虚假信息，以及可能扰乱经济秩序和社会秩序的内容。
（二）在算法设计、训练数据选择、模型生成和优化、提供服务等过程中，采取措施防止出现种族、民族、信仰、国别、地域、性别、年龄、职业等歧视。
（三）尊重知识产权、商业道德，不得利用算法、数据、平台等优势实施不公平竞争。
（四）利用生成式人工智能生成的内容应当真实准确，采取措施防止生成虚假信息。
（五）尊重他人合法利益，防止伤害他人身心健康，损害肖像权、名誉权和个人隐私，侵犯知识产权。禁止非法获取、披露、利用个人信息和隐私、商业秘密。
第五条利用生成式人工智能产品提供聊天和文本、图像、声音生成等服务的组织和个人（以下称“提供者”），包括通过提供可编程接口等方式支持他人自行生成文本、图像、声音等，承担该产品生成内容生产者的责任；涉及个人信息的，承担个人信息处理者的法定责任，履行个人信息保护义务。
第六条利用生成式人工智能产品向公众提供服务前，应当按照《具有舆论属性或社会动员能力的互联网信息服务安全评估规定》向国家网信部门申报安全评估，并按照《互联网信息服务算法推荐管理规定》履行算法备案和变更、注销备案手续。
第七条提供者应当对生成式人工智能产品的预训练数据、优化训练数据来源的合法性负责。
用于生成式人工智能产品的预训练、优化训练数据，应满足以下要求：
（一）符合《中华人民共和国网络安全法》等法律法规的要求；
（二）不含有侵犯知识产权的内容；
（三）数据包含个人信息的，应当征得个人信息主体同意或者符合法律、行政法规规定的其他情形；
（四）能够保证数据的真实性、准确性、客观性、多样性；
（五）国家网信部门关于生成式人工智能服务的其他监管要求。
第八条生成式人工智能产品研制中采用人工标注时，提供者应当制定符合本办法要求，清晰、具体、可操作的标注规则，对标注人员进行必要培训，抽样核验标注内容的正确性。
第九条提供生成式人工智能服务应当按照《中华人民共和国网络安全法》规定，要求用户提供真实身份信息。
第十条提供者应当明确并公开其服务的适用人群、场合、用途，采取适当措施防范用户过分依赖或沉迷生成内容。
第十一条提供者在提供服务过程中，对用户的输入信息和使用记录承担保护义务。不得非法留存能够推断出用户身份的输入信息，不得根据用户输入信息和使用情况进行画像，不得向他人提供用户输入信息。法律法规另有规定的，从其规定。
第十二条提供者不得根据用户的种族、国别、性别等进行带有歧视性的内容生成。
第十三条提供者应当建立用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求；发现、知悉生成的文本、图片、声音、视频等侵害他人肖像权、名誉权、个人隐私、商业秘密，或者不符合本办法要求时，应当采取措施，停止生成，防止危害持续。
第十四条提供者应当在生命周期内，提供安全、稳健、持续的服务，保障用户正常使用。
第十五条对于运行中发现、用户举报的不符合本办法要求的生成内容，除采取内容过滤等措施外，应在3个月内通过模型优化训练等方式防止再次生成。
第十六条提供者应当按照《互联网信息服务深度合成管理规定》对生成的图片、视频等内容进行标识。
第十七条提供者应当根据国家网信部门和有关主管部门的要求，提供可以影响用户信任、选择的必要信息，包括预训练和优化训练数据的来源、规模、类型、质量等描述，人工标注规则，人工标注数据的规模和类型，基础算法和技术体系等。
第十八条提供者应当指导用户科学认识和理性使用生成式人工智能生成的内容，不利用生成内容损害他人形象、名誉以及其他合法权益，不进行商业炒作、不正当营销。
用户发现生成内容不符合本办法要求时，有权向网信部门或者有关主管部门举报。
第十九条提供者发现用户利用生成式人工智能产品过程中违反法律法规，违背商业道德、社会公德行为时，包括从事网络炒作、恶意发帖跟评、制造垃圾邮件、编写恶意软件，实施不正当的商业营销等，应当暂停或者终止服务。
第二十条提供者违反本办法规定的，由网信部门和有关主管部门按照《中华人民共和国网络安全法》《中华人民共和国数据安全法》《中华人民共和国个人信息保护法》等法律、行政法规的规定予以处罚。
法律、行政法规没有规定的，由网信部门和有关主管部门依据职责给予警告、通报批评，责令限期改正；拒不改正或者情节严重的，责令暂停或者终止其利用生成式人工智能提供服务，并处一万元以上十万元以下罚款。构成违反治安管理行为的，依法给予治安管理处罚；构成犯罪的，依法追究刑事责任。
第二十一条本办法自2023年月日起实施。
来源：“网信中国”微信公众号
中国将强化生成式人工智能服务监管
人工智能领域的监管和执法活动发展非常迅速。继2023年4月11日国家互联网信息办公室（“网信办”）发布《生成式人工智能服务管理办法（征求意见稿）》（“《征求意见稿》”）以来，就在2023年6月20日，网信办发布了《深度合成服务算法备案信息》，该文件为深度合成算法的备案活动提供了官方渠道和具体指导，为《征求意见稿》中涉及的算法备案手续提供了进一步解释。
通过本文，我们梳理了《征求意见稿》的关键条款，提供我们对快速发展的立法动向的观察。
背景
生成式人工智能随着新技术和新产品进入市场，将在当下和未来的几年内引领一场深刻的生产力革命。在近期生成式人工智能产品被广泛使用的数月内，我们看到世界各地的监管机构都尝试跟进新技术的使用，一系列针对生成式人工智能创造的监管文件草案正在多个司法辖区发布。
我国监管机构对于人工智能和算法治理也非常活跃。早在2021年9月，多部委便已发文表示将在三年内建立互联网信息服务的算法监管框架。同年晚些时候，由网信办牵头的多部委联合发布了关于基于算法的在线推荐技术的法规（《互联网信息服务算法推荐管理规定》）。
2022年9月，中国颁布了关于应用深度合成技术的互联网信息服务监管法规（《互联网信息服务深度合成管理规定》）。除了上述有关人工智能和算法的特别法规外，《个人信息保护法》《数据安全法》和《网络安全法》也构成了生成式人工智能监管框架的重要背景。
关键条款与解读
I.征求意见稿的适用范围
《征求意见稿》规定其适用于研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的情形。生成式人工智能被定义为基于算法、模型和规则来生成文本、图像、声音、视频和代码等内容的技术。
目前，对于《征求意见稿》所使用的“公众”一词，尚需进一步解释，因其潜在含义既可以指面向个人提供服务，也可以指公开提供服务。在前一种解释下，《征求意见稿》可能不适用于只面向公司等法人实体提供生成式人工智能产品或服务的公司。
提供生成式人工智能内容生成服务的组织和个人（“服务提供者”）应当对使用该产品生成的内容负责。值得注意的是，通过提供应用程序接口（API）等方式支持公众自行生成内容的公司也被视为服务提供者。这可能意味着，自身不运营生成式人工智能服务但通过API提供生成式人工智能服务的公司，也适用于《征求意见稿》。
此外，对于中国境外的生成式人工智能服务提供者，如果其面向中国公众提供生成式人工智能服务，也可能适用于《征求意见稿》。
II.内容管理
《征求意见稿》要求服务提供者对生成式人工智能产生的内容负责，确保这些内容：
符合中国的法律法规、社会主义核心价值观、道德价值和社会经济秩序；没有歧视内容；以及是准确和真实的。如果生成了不符合规定的内容，服务提供者必须采取内容过滤等措施，并在三个月内通过优化模型的训练等方式防止此类内容被再次生成。
服务提供者必须以显著的方式向公众标识由生成式人工智能所生成的内容。
III.公开与透明
《征求意见稿》规定，服务提供者应根据监管部门的要求，提供可能影响最终用户信任和选择的必要信息，如数据集的来源、规模、类型和质量、人工标注的规则和类型、基础算法和技术体系。
此外，服务提供者必须公开生成式人工智能服务的适用人群、场合和用途。
IV.人工智能训练
《征求意见稿》也为生成式人工智能的模型训练提出了具体的合规要求，核心要求包括：
数据集合法：服务提供者需要对用于训练生成式人工智能的数据集的合法性负责，包括确保数据不侵犯知识产权，符合《网络安全法》《个人信息保护法》等相关法律法规，并且准确、真实、客观、多样。特别地，如果数据集包含个人信息，除非相关中国法律法规允许或服务提供者已取得相关个人同意，该个人信息不能被用来训练生成式人工智能模型。
人工标注：服务商必须制定清晰、具体、可操作的数据标注规则，培训数据标注人员，并通过抽样核实数据标注的正确性。
非歧视性：在设计算法、选择训练数据集、生成和优化人工智能模型以及提供服务时，服务提供者必须采取措施，防止产生基于种族、民族、宗教信仰、国别、地域、性别、年龄或职业的歧视性内容。
V.安全评估、备案、透明性和伦理审查
《征求意见稿》要求，服务提供者在向公众提供生成式人工智能服务之前，应当向政府申请安全评估和算法备案。这两项工作由网信办监督和协调。
虽然《征求意见稿》没有明确论及伦理问题，但中国政府也打算加强对技术的伦理审查。中央政府于2022年发布的《关于加强科技伦理治理的意见》指出，人工智能是政府在制定法律、法规、标准和指南时重点关注的三大关键领域之一。此外，我们也注意到，近期公布的《科技伦理审查办法（试行）（征求意见稿）》也要求，对于涉及数据和算法的科技活动，应审查其安全性、公平性、透明度、可靠性和可控性。
VI.管理生成式AI的服务
服务提供者需要管理其向用户提供的服务，包括：
要求用户提供其真实身份信息；采取措施，防止用户对其服务的过度依赖或沉迷；引导用户以合理的方式使用生成式人工智能产生的内容，避免侵犯他人的肖像权、名誉权和其他利益；以及如果发现用户有违反法律法规、商业道德或社会公德的行为，暂停或停止向其提供服务。VII.权利保护
服务提供者要公平竞争，尊重他人的权利，不侵犯他人的肖像权、名誉权、隐私权、个人信息和商业秘密。服务提供者还应建立相应的用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求。
如果他人的权利受到侵犯，《征求意见稿》还要求服务提供者采取措施停止生成有关侵权内容、防止危害持续。
VIII.法律后果
违反《征求意见稿》的行为将按照《个人信息保护法》《数据安全法》和《网络安全法》以及治安管理和刑事相关法律进行处罚。如果以上法律法规不适用，当违规的服务提供者在规定期限内拒绝整改或情节严重时，《征求意见稿》将对其处以最高10万元人民币的罚款并责令其暂停或终止服务。
《征求意见稿》规定的处罚并没有超出现有法律规定的范围。在不违反现行法律的情况下，其处罚规定仍值得注意。
结语
《征求意见稿》在此前关于深度合成和算法管理的规定基础上，全面规定了生成式人工智能的内容管理、数据隐私和安全、透明度等相关义务。服务提供者在其生成式人工智能产品和服务的开发、培训和运营过程中都要履行这些义务，并在必要时申请相关备案、评估和审查。
这是中国第一部关于生成式人工智能的管理办法草案，《征求意见稿》为生成式人工智能的服务提供者提出了非常高的要求，其后续更新或许能在监管和行业发展之间取得更多平衡。
生成式人工智能管理办法有望近期出台 数据安全受关注
据了解，国家互联网信息办公室此前起草了《生成式人工智能服务管理办法（征求意见稿）》，意见反馈截止时间为2023年5月10日，业内预期有望近期出台安信证券认为，伴随人工智能在大模型等技术的带动下向通用化迈进，相应的AI安全和监管问题将会愈发凸显。无论从产业技术角度，还是从政策法规角度，对于AI的安全监管必将进一步发展，从而带来新的产业需求，带动AI安全监管产业的发展。
川财证券此前梳理相关标的：1.算法算力：科大讯飞、浪潮信息等2.数据安全：北信源、启明星辰、奇安信等；3.数据要素：易华录等；4.底座硬件：拓维信息、四川长虹、神州数码、常山北明；5.信息安全：安恒信息，浩瀚深度，中新赛克，美亚柏科；6隐私计算：绿盟科技、星环科技。
生成式人工智能管理办法有望近期出台 数据安全受关注
生成式人工智能管理办法有望近期出台数据安全受关注
2023-07-0308:44:46来源：金融界分享到:分享到微信打开手机微信扫一扫
据了解，国家互联网信息办公室此前起草了《生成式人工智能服务管理办法（征求意见稿）》，意见反馈截止时间为2023年5月10日，业内预期有望近期出台安信证券认为，伴随人工智能在大模型等技术的带动下向通用化迈进，相应的AI安全和监管问题将会愈发凸显。无论从产业技术角度，还是从政策法规角度，对于AI的安全监管必将进一步发展，从而带来新的产业需求，带动AI安全监管产业的发展。
川财证券此前梳理相关标的：1.算法算力：科大讯飞、浪潮信息等2.数据安全：北信源、启明星辰、奇安信等；3.数据要素：易华录等；4.底座硬件：拓维信息、四川长虹、神州数码、常山北明；5.信息安全：安恒信息，浩瀚深度，中新赛克，美亚柏科；6隐私计算：绿盟科技、星环科技。
责任编辑：李欣 RF12607精彩推荐加载更多已经到底了全部评论