中国将强化生成式人工智能服务监管
人工智能领域的监管和执法活动发展非常迅速。继2023年4月11日国家互联网信息办公室（“网信办”）发布《生成式人工智能服务管理办法（征求意见稿）》（“《征求意见稿》”）以来，就在2023年6月20日，网信办发布了《深度合成服务算法备案信息》，该文件为深度合成算法的备案活动提供了官方渠道和具体指导，为《征求意见稿》中涉及的算法备案手续提供了进一步解释。
通过本文，我们梳理了《征求意见稿》的关键条款，提供我们对快速发展的立法动向的观察。
背景
生成式人工智能随着新技术和新产品进入市场，将在当下和未来的几年内引领一场深刻的生产力革命。在近期生成式人工智能产品被广泛使用的数月内，我们看到世界各地的监管机构都尝试跟进新技术的使用，一系列针对生成式人工智能创造的监管文件草案正在多个司法辖区发布。
我国监管机构对于人工智能和算法治理也非常活跃。早在2021年9月，多部委便已发文表示将在三年内建立互联网信息服务的算法监管框架。同年晚些时候，由网信办牵头的多部委联合发布了关于基于算法的在线推荐技术的法规（《互联网信息服务算法推荐管理规定》）。
2022年9月，中国颁布了关于应用深度合成技术的互联网信息服务监管法规（《互联网信息服务深度合成管理规定》）。除了上述有关人工智能和算法的特别法规外，《个人信息保护法》《数据安全法》和《网络安全法》也构成了生成式人工智能监管框架的重要背景。
关键条款与解读
I.征求意见稿的适用范围
《征求意见稿》规定其适用于研发、利用生成式人工智能产品，面向中华人民共和国境内公众提供服务的情形。生成式人工智能被定义为基于算法、模型和规则来生成文本、图像、声音、视频和代码等内容的技术。
目前，对于《征求意见稿》所使用的“公众”一词，尚需进一步解释，因其潜在含义既可以指面向个人提供服务，也可以指公开提供服务。在前一种解释下，《征求意见稿》可能不适用于只面向公司等法人实体提供生成式人工智能产品或服务的公司。
提供生成式人工智能内容生成服务的组织和个人（“服务提供者”）应当对使用该产品生成的内容负责。值得注意的是，通过提供应用程序接口（API）等方式支持公众自行生成内容的公司也被视为服务提供者。这可能意味着，自身不运营生成式人工智能服务但通过API提供生成式人工智能服务的公司，也适用于《征求意见稿》。
此外，对于中国境外的生成式人工智能服务提供者，如果其面向中国公众提供生成式人工智能服务，也可能适用于《征求意见稿》。
II.内容管理
《征求意见稿》要求服务提供者对生成式人工智能产生的内容负责，确保这些内容：
符合中国的法律法规、社会主义核心价值观、道德价值和社会经济秩序；没有歧视内容；以及是准确和真实的。如果生成了不符合规定的内容，服务提供者必须采取内容过滤等措施，并在三个月内通过优化模型的训练等方式防止此类内容被再次生成。
服务提供者必须以显著的方式向公众标识由生成式人工智能所生成的内容。
III.公开与透明
《征求意见稿》规定，服务提供者应根据监管部门的要求，提供可能影响最终用户信任和选择的必要信息，如数据集的来源、规模、类型和质量、人工标注的规则和类型、基础算法和技术体系。
此外，服务提供者必须公开生成式人工智能服务的适用人群、场合和用途。
IV.人工智能训练
《征求意见稿》也为生成式人工智能的模型训练提出了具体的合规要求，核心要求包括：
数据集合法：服务提供者需要对用于训练生成式人工智能的数据集的合法性负责，包括确保数据不侵犯知识产权，符合《网络安全法》《个人信息保护法》等相关法律法规，并且准确、真实、客观、多样。特别地，如果数据集包含个人信息，除非相关中国法律法规允许或服务提供者已取得相关个人同意，该个人信息不能被用来训练生成式人工智能模型。
人工标注：服务商必须制定清晰、具体、可操作的数据标注规则，培训数据标注人员，并通过抽样核实数据标注的正确性。
非歧视性：在设计算法、选择训练数据集、生成和优化人工智能模型以及提供服务时，服务提供者必须采取措施，防止产生基于种族、民族、宗教信仰、国别、地域、性别、年龄或职业的歧视性内容。
V.安全评估、备案、透明性和伦理审查
《征求意见稿》要求，服务提供者在向公众提供生成式人工智能服务之前，应当向政府申请安全评估和算法备案。这两项工作由网信办监督和协调。
虽然《征求意见稿》没有明确论及伦理问题，但中国政府也打算加强对技术的伦理审查。中央政府于2022年发布的《关于加强科技伦理治理的意见》指出，人工智能是政府在制定法律、法规、标准和指南时重点关注的三大关键领域之一。此外，我们也注意到，近期公布的《科技伦理审查办法（试行）（征求意见稿）》也要求，对于涉及数据和算法的科技活动，应审查其安全性、公平性、透明度、可靠性和可控性。
VI.管理生成式AI的服务
服务提供者需要管理其向用户提供的服务，包括：
要求用户提供其真实身份信息；采取措施，防止用户对其服务的过度依赖或沉迷；引导用户以合理的方式使用生成式人工智能产生的内容，避免侵犯他人的肖像权、名誉权和其他利益；以及如果发现用户有违反法律法规、商业道德或社会公德的行为，暂停或停止向其提供服务。VII.权利保护
服务提供者要公平竞争，尊重他人的权利，不侵犯他人的肖像权、名誉权、隐私权、个人信息和商业秘密。服务提供者还应建立相应的用户投诉接收处理机制，及时处置个人关于更正、删除、屏蔽其个人信息的请求。
如果他人的权利受到侵犯，《征求意见稿》还要求服务提供者采取措施停止生成有关侵权内容、防止危害持续。
VIII.法律后果
违反《征求意见稿》的行为将按照《个人信息保护法》《数据安全法》和《网络安全法》以及治安管理和刑事相关法律进行处罚。如果以上法律法规不适用，当违规的服务提供者在规定期限内拒绝整改或情节严重时，《征求意见稿》将对其处以最高10万元人民币的罚款并责令其暂停或终止服务。
《征求意见稿》规定的处罚并没有超出现有法律规定的范围。在不违反现行法律的情况下，其处罚规定仍值得注意。
结语
《征求意见稿》在此前关于深度合成和算法管理的规定基础上，全面规定了生成式人工智能的内容管理、数据隐私和安全、透明度等相关义务。服务提供者在其生成式人工智能产品和服务的开发、培训和运营过程中都要履行这些义务，并在必要时申请相关备案、评估和审查。
这是中国第一部关于生成式人工智能的管理办法草案，《征求意见稿》为生成式人工智能的服务提供者提出了非常高的要求，其后续更新或许能在监管和行业发展之间取得更多平衡。