《新一代人工智能伦理规范》发布
9月25日，国家新一代人工智能治理专业委员会发布了《新一代人工智能伦理规范》(以下简称《伦理规范》)，旨在将伦理道德融入人工智能全生命周期，为从事人工智能相关活动的自然人、法人和其他相关机构等提供伦理指引。
《伦理规范》经过专题调研、集中起草、意见征询等环节，充分考虑当前社会各界有关隐私、偏见、歧视、公平等伦理关切，包括总则、特定活动伦理规范和组织实施等内容。《伦理规范》提出了增进人类福祉、促进公平公正、保护隐私安全、确保可控可信、强化责任担当、提升伦理素养等6项基本伦理要求。同时，提出人工智能管理、研发、供应、使用等特定活动的18项具体伦理要求。《伦理规范》全文如下：
新一代人工智能伦理规范为深入贯彻《新一代人工智能发展规划》，细化落实《新一代人工智能治理原则》，增强全社会的人工智能伦理意识与行为自觉，积极引导负责任的人工智能研发与应用活动，促进人工智能健康发展，制定本规范。
第一章 总则
第一条 本规范旨在将伦理道德融入人工智能全生命周期，促进公平、公正、和谐、安全，避免偏见、歧视、隐私和信息泄露等问题。
第二条 本规范适用于从事人工智能管理、研发、供应、使用等相关活动的自然人、法人和其他相关机构等。（一）管理活动主要指人工智能相关的战略规划、政策法规和技术标准制定实施，资源配置以及监督审查等。（二）研发活动主要指人工智能相关的科学研究、技术开发、产品研制等。（三）供应活动主要指人工智能产品与服务相关的生产、运营、销售等。（四）使用活动主要指人工智能产品与服务相关的采购、消费、操作等。
第三条 人工智能各类活动应遵循以下基本伦理规范。（一）增进人类福祉。坚持以人为本，遵循人类共同价值观，尊重人权和人类根本利益诉求，遵守国家或地区伦理道德。坚持公共利益优先，促进人机和谐友好，改善民生，增强获得感幸福感，推动经济、社会及生态可持续发展，共建人类命运共同体。（二）促进公平公正。坚持普惠性和包容性，切实保护各相关主体合法权益，推动全社会公平共享人工智能带来的益处，促进社会公平正义和机会均等。在提供人工智能产品和服务时，应充分尊重和帮助弱势群体、特殊群体，并根据需要提供相应替代方案。（三）保护隐私安全。充分尊重个人信息知情、同意等权利，依照合法、正当、必要和诚信原则处理个人信息，保障个人隐私与数据安全，不得损害个人合法数据权益，不得以窃取、篡改、泄露等方式非法收集利用个人信息，不得侵害个人隐私权。（四）确保可控可信。保障人类拥有充分自主决策权，有权选择是否接受人工智能提供的服务，有权随时退出与人工智能的交互，有权随时中止人工智能系统的运行，确保人工智能始终处于人类控制之下。（五）强化责任担当。坚持人类是最终责任主体，明确利益相关者的责任，全面增强责任意识，在人工智能全生命周期各环节自省自律，建立人工智能问责机制，不回避责任审查，不逃避应负责任。（六）提升伦理素养。积极学习和普及人工智能伦理知识，客观认识伦理问题，不低估不夸大伦理风险。主动开展或参与人工智能伦理问题讨论，深入推动人工智能伦理治理实践，提升应对能力。
第四条 人工智能特定活动应遵守的伦理规范包括管理规范、研发规范、供应规范和使用规范。
第二章 管理规范
第五条 推动敏捷治理。尊重人工智能发展规律，充分认识人工智能的潜力与局限，持续优化治理机制和方式，在战略决策、制度建设、资源配置过程中，不脱离实际、不急功近利，有序推动人工智能健康和可持续发展。
第六条 积极实践示范。遵守人工智能相关法规、政策和标准，主动将人工智能伦理道德融入管理全过程，率先成为人工智能伦理治理的实践者和推动者，及时总结推广人工智能治理经验，积极回应社会对人工智能的伦理关切。
第七条 正确行权用权。明确人工智能相关管理活动的职责和权力边界，规范权力运行条件和程序。充分尊重并保障相关主体的隐私、自由、尊严、安全等权利及其他合法权益，禁止权力不当行使对自然人、法人和其他组织合法权益造成侵害。
第八条 加强风险防范。增强底线思维和风险意识，加强人工智能发展的潜在风险研判，及时开展系统的风险监测和评估，建立有效的风险预警机制，提升人工智能伦理风险管控和处置能力。
第九条 促进包容开放。充分重视人工智能各利益相关主体的权益与诉求，鼓励应用多样化的人工智能技术解决经济社会发展实际问题，鼓励跨学科、跨领域、跨地区、跨国界的交流与合作，推动形成具有广泛共识的人工智能治理框架和标准规范。
第三章 研发规范
第十条 强化自律意识。加强人工智能研发相关活动的自我约束，主动将人工智能伦理道德融入技术研发各环节，自觉开展自我审查，加强自我管理，不从事违背伦理道德的人工智能研发。
第十一条 提升数据质量。在数据收集、存储、使用、加工、传输、提供、公开等环节，严格遵守数据相关法律、标准与规范，提升数据的完整性、及时性、一致性、规范性和准确性等。
第十二条 增强安全透明。在算法设计、实现、应用等环节，提升透明性、可解释性、可理解性、可靠性、可控性，增强人工智能系统的韧性、自适应性和抗干扰能力，逐步实现可验证、可审核、可监督、可追溯、可预测、可信赖。
第十三条 避免偏见歧视。在数据采集和算法开发中，加强伦理审查，充分考虑差异化诉求，避免可能存在的数据与算法偏见，努力实现人工智能系统的普惠性、公平性和非歧视性。
第四章 供应规范
第十四条 尊重市场规则。严格遵守市场准入、竞争、交易等活动的各种规章制度，积极维护市场秩序，营造有利于人工智能发展的市场环境，不得以数据垄断、平台垄断等破坏市场有序竞争，禁止以任何手段侵犯其他主体的知识产权。
第十五条 加强质量管控。强化人工智能产品与服务的质量监测和使用评估，避免因设计和产品缺陷等问题导致的人身安全、财产安全、用户隐私等侵害，不得经营、销售或提供不符合质量标准的产品与服务。
第十六条 保障用户权益。在产品与服务中使用人工智能技术应明确告知用户，应标识人工智能产品与服务的功能与局限，保障用户知情、同意等权利。为用户选择使用或退出人工智能模式提供简便易懂的解决方案，不得为用户平等使用人工智能设置障碍。
第十七条 强化应急保障。研究制定应急机制和损失补偿方案或措施，及时监测人工智能系统，及时响应和处理用户的反馈信息，及时防范系统性故障，随时准备协助相关主体依法依规对人工智能系统进行干预，减少损失，规避风险。
第五章 使用规范
第十八条 提倡善意使用。加强人工智能产品与服务使用前的论证和评估，充分了解人工智能产品与服务带来的益处，充分考虑各利益相关主体的合法权益，更好促进经济繁荣、社会进步和可持续发展。
第十九条 避免误用滥用。充分了解人工智能产品与服务的适用范围和负面影响，切实尊重相关主体不使用人工智能产品或服务的权利，避免不当使用和滥用人工智能产品与服务，避免非故意造成对他人合法权益的损害。
第二十条 禁止违规恶用。禁止使用不符合法律法规、伦理道德和标准规范的人工智能产品与服务，禁止使用人工智能产品与服务从事不法活动，严禁危害国家安全、公共安全和生产安全，严禁损害社会公共利益等。
第二十一条 及时主动反馈。积极参与人工智能伦理治理实践，对使用人工智能产品与服务过程中发现的技术安全漏洞、政策法规真空、监管滞后等问题，应及时向相关主体反馈，并协助解决。
第二十二条 提高使用能力。积极学习人工智能相关知识，主动掌握人工智能产品与服务的运营、维护、应急处置等各使用环节所需技能，确保人工智能产品与服务安全使用和高效利用。
第六章 组织实施
第二十三条 本规范由国家新一代人工智能治理专业委员会发布，并负责解释和指导实施。
第二十四条 各级管理部门、企业、高校、科研院所、协会学会和其他相关机构可依据本规范，结合实际需求，制订更为具体的伦理规范和相关措施。
第二十五条 本规范自公布之日起施行，并根据经济社会发展需求和人工智能发展情况适时修订。
国家新一代人工智能治理专业委员会
2021年9月25日
高科技与产业化
人工智能作为新的数字疆界，正在成为经济发展的新引擎和新一轮产业变革的核心驱动力，它将引起科技、经济和社会的巨大变化，改变人们生产和分配商品及服务的模式，也将改变人们的工作和生活方式。近年来，中国人工智能产业化发展迅速，其企业数量、融资规模均居全球第二，成为人工智能产业化大国之一。
随着人工智能技术的广泛使用，专利、外观设计、文学和艺术作品等固有的知识产权概念已经在悄然发生改变，这是由人工智能技术和数字经济共同发展带来的。例如，生命科学产生的海量数据具有重要价值但不是传统意义上的发明；美联社将把人工智能应用到新闻写作中，微软公司的人工智能“小冰”写出《阳光失去了玻璃窗》这首诗。此外，人工智能创造出的绘画、音乐等作品也越来越多，这类作品在传统意义上具有著作权，但由人工智能创作产生的作品是否拥有著作权？与之相关的权利和义务有哪些？这些都值得探讨。
近年来，WIPO（世界知识产权组织）也在持续关注人工智能的知识产权问题，先后围绕“人工智能发明人的身份和所有权确定”“人工智能创造物的可专利性，以及可专利性指南如何修改”“如何判定人工智能的创造”“人工智能的专利公开”“人工智能是否需要授予专利”“人工智能的著作权及其权属”“人工智能的侵权责任”“人工智能的数据相关权利”等话题展开了多次对话和讨论。
事实上，这也是目前各个国家在人工智能的知识产权方面所讨论的核心话题。教育部人文社科重点研究基地武汉大学信息资源研究中心副主任、武汉大学信息管理学院教授冉从敬在中国科学院文献情报中心主办的“人工智能领域专利诉讼及高价值专利培育”系列培训上，从多角度剖析当前人工智能领域的知识产权问题。
人工智能知识产权获国际社会关注和重视
2016年10月，美国奥巴马政府颁布了《国家人工智能研究和发展战略计划》，从人工智能研究投资、人机协作开发、人工智能伦理法律以及社会影响、人工智能系统的安全、公共数据集、人工智能评估标准、人工智能研发人员等七个方面制订了发展规划；2019年，特朗普政府对该计划进行了更新，在重新阐述了上述七大领域的基础上，增加了“公司伙伴关系”这项战略。这两个版本的计划对人工智能的法律和伦理问题进行了不同的研究。
欧盟在2016年发布了《人工智能立法动议》，率先对人工智能的法律身份及其著作权、专利权等进行了讨论。2018年12月，欧盟发布了“人工智能协调计划”，涉及人工智能的投资、数据、人才和道德伦理问题，进一步关注和重视人工智能的知识产权。
英国在2013年已将人工智能列入国家级科研计划，2014年出台了《人工智能2020国家战略》，之后又相继出台了产业战略、人工智能领域行动等。英国知识产权局就人工智能和知识产权问题面向公众征集意见并发布了报告，报告中聚焦了很多有关人工智能和知识产权相关的议题，对其他国家来讲具有一定的借鉴意义。
日本于2016年提出了“社会5.0”战略，将人工智能作为实现超智能社会的核心，先后发布了《日本下一代人工智能促进战略》《人工智能技术战略》等。2019年，在人工智能的人才数据伦理问题的基础，日本提出了AI战略，设定了人才产业竞争技术体系国际化等战略目标。
据智慧芽数据观察，提及“人工智能”的专利在全世界有43万多件，其中中国有超过12万件。人工智能充分挖掘了知识产权大数据中的信息价值，促进了知识产权的发展和与时俱进，能够催生高质量的知识产权创造。
人工智能需要知识产权法律保护
清华大学人工智能研究院发布的《人工智能发展报告2020》显示，截止到2020年10月，我国人工智能专利申请数量达到了389571件，位居全球第一，其中2020年申请的专利超过23万件。目前，人工智能在客服、医疗、交通、家居、城建、连锁、金融等领域应用广泛，据权威机构预测，2035年，人工智能在全球范围内能将劳动生产力提升40%，经济总量增加值达7.1万亿美元。
目前，人工智能的知识产权侵权行为概括起来有以下几个方面：一是人工智能技术本身，或者人工智能创造物的专利权侵权行为。在应对这种侵权行为时，人工智能技术本身是否具有可专利性？人工智能创作物是否具有可专利性？人工智能创作物的专利权、著作权归属，相同类型人工智能服务商标权如何应对？二是如何应对人工智能在生产和使用过程中可能发生侵犯他人著作权、商标权和专利权的行为？三是在人机交互过程中，人工智能技术会用到大数据算法，这个过程将涉及很多相关数据，有可能会造成不正当竞争或其它知识产权问题。
很显然，人工智能需要法律保护。据了解，欧盟新出台的数字单一市场版权指令中增加了所谓义务性的过滤机制，即从在互联网上传作品被认定为侵权后才发出通知并要求删除的机制，已进化到通过自动过滤技术使该作品没有机会上传。从某种意义上讲，这改变了传统的通知移除制度的法律框架，通过自动过滤机制把责任转嫁给了网络服务平台。
加工后的数据更具有价值变现能力。新浪互联网法律研究院秘书长王磊曾指出：“进入大数据时代，数据巨大的价值逐渐为人所知，其中尤以个人数据的价值最为突出。”因此，在知识产权管理体系建立一套监管体系，防止无意识或潜意识使用他人加工之后的数据则显得尤为必要，一是充分尊重用户，保障个人信息权益；二是数据的收集和使用应当遵守现有商业秩序；三是充分尊重平台在数据收集中的权益；四是建立数据追溯和共享机制；五是技术中立应当具有合理边界。无庸置疑的是，基于平台的经营、投入、成本付出而积累形成的、可以为平台方带来市场竞争优势的合法海量信息，均应给予平台权益保护。
冉从敬指出，我国现行《专利审查指南》中对算法专利申请说明书的撰写要求也做除了明确要求：一是说明书要写明算法的技术特征，二是要介绍算法之间的相互联系和共同解决的问题；三是介绍该发明已收获的效果，四是应写明提升用户体验算法的技术特征等，这些要求从算法的角度做出了明确的法律规定。
对现有知识产权法律体系的挑战
冉从敬认为，人工智能的发展对现行的知识产权法律提出了一些需求，可以概括为需求性挑战。首先是对《著作权法》的挑战：一是人工智能创造物是否可以与《著作权法》中规定的作品相提并论？参照以往的相关案例，其作品属性需要确认；二是人工智能能否被定义为作品的创作主体？三是人工智能的著作权归属于人工智能还是人工智能的所有者？
《著作权法》将创作主体规定为“中国的公民、法人和其它组织”，由此可以看出，对于人以外的任何创作行为，著作权没有将其作为主体列出来。人工智能能不能被认为是自然人、法人和其它组织？冉从敬认为这个可能性有很大的争议，将成为认定人工智能著作权创作的第一道门槛。
从创作主体来看，有学者认为《著作权法》规定的创作过程包含了体会、情感、构思、逻辑和感情，而人工智能的创作过程不带有任何感情色彩和心理活动，不能简单地定义为受著作权保护的作品。人工智能被著作权排除在创作主体之外，否定了其创作物的行为。还有学者提出，人工智能虽不是获得创作物的权利主体，但人工智能的所有者能否享有其著作权？这个问题同样值得考虑和回应。
再者，算法本身也对著作权存在挑战和需求。如果说数据是人工智能的基础，那么算法则是人工智能的核心，可以说，对算法的知识产权保护，决定了未来在世界智能革命中的地位。冉从敬指出，我国目前在专利审查中对算法做出了一些规定，但还需要更细化，应明确建立有关算法知识产权保护的法律。“计算机软件也可以申请算法，也可以申请专利保护。但它的算法和代码本身还存在一个表面和核心的关系，所以对算法建立起思想上的独创性将成为著作权创造的关键。”冉从敬如是认为。
“各国在人工智能发明人身份的确认方面，态度也有所不同”，冉从敬介绍道，“比如沙特阿拉伯认为人工智能具有激励创新的作用，而这与知识产权设定的初衷是一致的，所以肯定了其机器人‘索菲亚’作为发明人的主体地位，为人工智能设置了公民资格；欧盟将人工智能身份设置为“电子人”，在某种程度上肯定了人工智能可以作为发明人享有专利权；我国目前没有特别依据去认定人工智能专利权的主体资格”。冉从敬认为，人工智能专利权的主体资格认定问题将会成为未来讨论的重点之一。
根据《专利法》第22条第一款规定，发明创造必须满足新颖性、创造性和实用性的要求，才能被授予专利权。“这时一个比较刚性的要求，”冉从敬说，“这是人工智能及其创造物的可专利性问题，我们要考虑到可专利性，首先是专利的商业性。”2017年，我国对《专利审查指南》进行了调整，允许硬件和计算机程序实现专利申请，这在一定程度上推动了人工智能以“程序产品”形式实现了专利保护；2019年11月，国家知识产权局再次对《专利审查指南》进行修改，在包含算法、商业规则和方法等智力活动的规则和方法特征的专利申请中，对专利客体的界定和创造性进行了说明。
冉从敬认为，虽然国家知识产权局对人工智能的知识产权问题日趋重视，但对其可专利性的判断还是要基于操作性较难的新颖性、创造性和实用性等因素。此外，人工智能知识产权的侵权主体如何认定？侵权发生后如何取证、如何执法？人工智能知识产权的法律体系是支撑行政执法和司法实践的基础，如果没有可靠的法律依据作为支撑，将会使行政执法和司法实践陷入困境。
也有学者认为，变现是建立知识产权保护意识的重要突破口。中国政法大学知识产权创新与竞争研究中心主任陶乾表示，在现有的法律体系之下，人工智能程序和人工智能程序设计本身不可作为主体，应当由开发者和使用者进行约定，未作约定的应是程序的使用权人，而且权利的行使要受到一定限制。
人工智能的发展，对其知识产权的权利归属、侵权、保护、判决等各个方面现有的法律体系提出了更高的要求和挑战，可以说催生了知识产权概念在新时期的全面演进和发展。如果固守传统理论，失去发展和迭代的眼光，将会导致更多知识产权难题无法破题。在人工智能视阈下寻找知识产权概念演进和发展的规律，并在此基础上探究知识产权所奉行的法律原则及其变迁方向，已成为当下亟需探索的问题。