人工智能的法律三问 人工智能侵权责任如何认定
原标题：人工智能的法律三问（数字化时代的法治问题②）“你怎么知道自己是机器人？”
“索菲亚”回答：“你不必担心我们机器人，你们人类又怎么知道自己就是人类呢？”去年，人工智能机器人“索菲亚”成为全球首位被赋予法律公民身份的机器人。
当前，科学技术巨大进步推动人工智能迅猛发展。人工智能带来的生产生活方式深刻变革，给法律制度带来哪些挑战？现行法治体系又该如何调整和应对？
人工智能生成物是否具有知识产权？
“微明的灯影里，我知道她的可爱的土壤，使我的心灵成为俘虏了……”这段诗句的创作者不是传统意义上的“人”，而是人工智能产品“微软小冰”。2017年5月，“微软小冰”创作诗集《阳光失了玻璃窗》出版，作为历史上第一部完全由人工智能创作的诗集，它的出版带来一个新问题――人工智能生成物是否具有知识产权？
中南财经政法大学知识产权研究中心主任曹新明认为，根据现行法律，知识产权成果是指“人类创造出来的成果”，人工智能并不能成为知识产权意义上的权利主体。“但是，如果将‘人工智能’创造活动类同于科学研究的‘电脑’，即把人工智能生成物视为通过人工智能创造的智慧成果，那么人工智能生成物又确实具备‘知识产权作品’的某些属性。”
“问题的关键在于对‘人工智能’的法律定性。”曹新明表示，目前学界对这一问题主要有“工具”和“虚拟人”两种观点。“工具”即把人工智能视为人的创造物和权利客体；“虚拟人”是法律给人工智能设定一部分“人”的属性，赋予其能够享有一些权利的法律主体资格。
“即便承认人工智能生成物具有知识产权，其权利归属也是一个亟待解答的问题。”曹新明认为，如果将人工智能视为“工具”，人工智能生成物的权利可归属于设计开发者，或者所有权人，或者使用权人以及多个权利人共有。如果将人工智能视为“虚拟人”，则可以把人工智能生成物看作民法意义上的“孳息”，比如将人工智能视为“母鸡”，那么人工智能生成物就是“母鸡”下的“蛋”，“蛋”自然归“母鸡”所有者拥有。
此外，创造人工智能生成物，往往会通过一些程序进行“深度学习”，其中可能收集、储存大量的他人已享有的知识产权信息，这就可能构成对他人知识产权的侵害。曹新明认为，“在这种涉嫌构成侵害知识产权的情形下，究竟应当由谁承担责任，也是一个新问题。”
人工智能可以替代司法者吗？
近年来，人工智能在司法领域的应用逐渐深入：2016年12月，名为“睿法官”的北京法院智能研判系统上线，为法官提供办案规范和量刑分析等精准信息，用大数据推进法律适用和裁判尺度的统一；2017年5月，全国首个“刑事案件智能辅助办案系统”在上海诞生，在对上海几万份刑事案件的卷宗、文书数据进行“深度学习”后，已具备初步的证据信息抓取、校验和逻辑分析能力……
“利用人工智能，可以帮助司法者得到类似案件的全部先例以及法律、法规、司法解释等裁判规则，从而减轻他们的工作负累、促进准确适用法律。”中国社会科学院法学研究所研究员支振锋认为，通过数据采集、整理、分析、综合，人工智能在促进司法者依法、全面、规范收集和审查证据，统一司法尺度、助力司法公正等方面，的确大有可为。
但是，这是否意味着人工智能将替代司法者，实现独立断案？显然不可以。
“人工智能只是实现司法正义的辅助手段，切不可本末倒置，这是我们始终应该铭记的一条基本原则。”在上海交通大学凯原法学院院长季卫东教授看来，如果过分依靠人工智能自动生成判决、根据大数据矫正法律决定的偏差等，难免形成审判主体的多重结构，事实上形成程序员、软件工程师、数据处理商等主体和司法者共执司法的局面。
“此外，如果让人工智能超出辅助性手段范畴，全面应用于审判案件，那就有可能把司法引入歧途。”季卫东认为，在案件事实曲折、人际关系复杂、掺杂伦理和感情因素的场合，如何依据法理、常识和人情做出判断并进行妥善裁决，其实是一种微妙的艺术，需要依靠法官的理性综合分析。“即使人工智能嵌入了概率程序，具有深度学习能力，也难以保证做出公正合理、让人信服的个案裁判。”
支振锋也认为，就目前的发展情形看，人工智能还没有取代司法者的可能，尤其是作为涉及情感与理性、规范与价值的法律诉讼，如果交给人工智能，这在法律和伦理上，都很难得到支持。“应防范对人工智能形成‘路径依赖’，人工智能越发达，越应强调司法者的职业伦理。”支振锋说。
人工智能侵权责任如何认定？
2016年11月，在深圳举办的第十八届中国国际高新技术成果交易会上，一台名为“小胖”的机器人突然发生故障，在没有指令的情况下，自行砸坏了部分展台，并导致一人受伤。
人工智能应用范围的日益普及，其引发的侵权责任认定和承担问题，是对现行侵权法律制度提出的又一个新的挑战。
“从现行法律上看，侵权责任主体只能是民事主体，人工智能本身还难以成为新的侵权责任主体。即便如此，人工智能侵权责任的认定也面临诸多现实难题。”在清华大学法学院教授程啸看来，侵权发生后，谁是人工智能的所有者，就应当由谁负责，在法律上似乎并不存在争议。“然而人工智能的具体行为受程序控制，发生侵权时，到底是由所有者还是软件研发者担责，值得商榷。”
与之类似的，当无人驾驶汽车造成他人损害侵权时，是由驾驶人、机动车所有人担责，还是由汽车制造商、自动驾驶技术开发者担责？法律是否有必要为无人驾驶汽车制定专门的侵权责任规则？这些问题都值得进一步研究。
“现实中，人工智能侵权责任的归责原则，可能更多涉及危险责任或无过错责任。”程啸认为，例如无人驾驶汽车致害，无论从产品责任还是机动车交通事故责任上看，都可以适用无过错责任。但未来需要考虑的是，人工智能技术的运用，其本身是否属于高度危险作业（如无人机），从而决定了是否适用高度危险作业致害责任。
“当前，人工智能侵权责任中的因果关系、过错等要件的判断也变得日趋复杂。”程啸还举例说，此前曝光的一些APP“大数据杀熟”和“算法歧视”，由于代码的不透明，加之算法本身的自我学习和适应能力，使得“将算法歧视归责于开发者”变得很困难。
在程啸看来，针对人工智能带来的新问题、新挑战，在法律制度的研究方面未雨绸缪，将为以后的司法实践赢得主动。“人工智能已经到来，只是在生产生活的各个领域分布不均。我们不应等到未来分布均匀、人工智能已完全融入生产生活的方方面面时，才想起来从法律进行规范。”程啸说。
(责编：赵光霞、宋心蕊)分享让更多人看到
三问ChatGPT如何影响人工智能的未来
学生们在长沙华夏实验学校和机器狗互动（2022年6月22日摄）薛宇舸摄/本刊
➤ChatGPT在技术路径上采用的是“大数据+大算力+强算法=大模型”路线，又在“基础大模型+指令微调”方向探索出新范式，其中基础大模型类似大脑，指令微调是交互训练，两者结合实现逼近人类的语言智能
➤据估算，此类大模型的训练一次的成本接近千万美元，运营成本一个月要数百万美元。“OpenAI为了让ChatGPT的语言合成结果更自然流畅，用了45TB的数据、近1万亿个单词来训练模型，大概是1351万本牛津词典。”
➤新一代网络操作系统和生态雏形初显，“英伟达+微软OpenAI”封闭生态有可能成为智能时代的“Wintel”联盟
文 |《瞭望》新闻周刊记者 朱涵 彭茜 黄堃
ChatGPT会带来一个不同的未来吗？
带着这个问题，记者询问了ChatGPT“本人”，它的回答是这样的：
“随着ChatGPT的普及，它开始被广泛应用于各种领域，从在线交流、信息搜索、机器翻译、文本生成，它的准确性和高效率使得许多工作变得不再困难。然而，人们也开始对它产生了担忧……”
ChatGPT正在成为我们生活中的一部分，ChatGPT会是人工智能通往未来的坐标吗？人工智能的发展，离不开人与人工智能的结合，技术与人类能无缝结合吗？
ChatGPT会是人工智能通往未来的坐标吗
与人类连续对话，拒绝不合适的问题，短时间内完成写邮件、文案、代码、诗歌，轻松通过工程师、MBA、研究生、医师资格等难度较高的专业级测试……推出2个月即拥有1亿月活用户，ChatGPT已成为史上用户增长最快的消费级应用程序。
在语言智能程度呈现跨越式提升的背后，ChatGPT是一场工程创新的“大力出奇迹”。
“ChatGPT的成功，首先是选择了合适可行的技术路径，然后就是数据和人力资源的巨大投入。”北京智源人工智能研究院院长黄铁军说。
黄铁军说，ChatGPT在技术路径上采用的是“大数据+大算力+强算法=大模型”路线，又在“基础大模型+指令微调”方向探索出新范式，其中基础大模型类似大脑，指令微调是交互训练，两者结合实现逼近人类的语言智能。
“OpenAI为了让ChatGPT的语言合成结果更自然流畅，用了45TB的数据、近1万亿个单词来训练模型，大概是1351万本牛津词典。”浙江大学人工智能研究所所长吴飞说。
业内人士表示，OpenAI的主要支持方微软构建了一个算力规模位居全球前列的超算平台以支持其研发，OpenAI在全球范围雇佣了近千名专人进行数据处理。据估算，此类大模型的训练一次的成本接近千万美元，运营成本一个月要数百万美元。
“ChatGPT是人工智能技术‘量变’引发‘质变’的代表，标志了目前机器学习大模型、大训练数据和大算力能够到达的新高度。”之江实验室副主任鲍虎军表示，ChatGPT在GPT模型基础上，采用人类反馈强化学习（RLHF）的训练机制和提示导引模式，促使模型越来越顺应人类的思考逻辑，更加符合人类认知和习惯，这是工程实现上的重要创新。
中国科学技术大学机器人实验室主任陈小平说，迄今为止，人工智能的所有理论和技术都没有解决真实性难题，都不能让机器本身拥有真实创造的能力，但创造效率的提高将产生巨大的效益和多方面的影响。
“目前，人类面临着前所未有的重大机遇。”陈小平说。
ChatGPT能否预示着一个新时代启幕
“ChatGPT的成功不仅是一个新一代聊天机器人的突破，它将为人工智能乃至整个信息产业带来革命。”黄铁军说，ChatGPT将成为点燃人工智能的“网景时刻”“iPhone时刻”。
“网景时刻”和“iPhone时刻”，分别是互联网和移动互联网发展的里程碑事件。网络浏览器诞生于1990年，但直到1994年网景导航者（NetscapeNavigator）问世，大多数人才开始探索互联网。第一部智能手机IBMSimon诞生于1993年，2007年苹果iPhone的横空出世，重新定义了智能手机并开启了移动互联网的新时代。
同样地，ChatGPT极有可能预示着又一个新时代的启幕：
——新一代网络操作系统和生态雏形初显。多位专家受访时表示，ChatGPT正在演变成新一代操作系统平台和生态，用户将能直接用日常语音或者文字与人工智能进行交互，大部分计算负荷由大模型为核心的新一代信息基础设施接管。
在微软算力支持下，OpenAI已相继研发出GPT-3、ChatGPT等通用泛化能力越来越强的闭源大模型，并通过微软云平台提供智能云服务，支持智能应用开发，这将成为智能时代的基础性“操作系统”。再加上在AI芯片市场已占领超主流市场份额的英伟达GPU芯片，形成的“英伟达+微软OpenAI”封闭生态有可能成为智能时代的“Wintel”联盟。
“大模型及其软硬件支撑系统的生态之争将成为未来十年信息产业的焦点。”黄铁军说。
——人工智能直接连接大众，个体深入参与技术发展。“从短期来看，ChatGPT正在从实验室基础科技向产业应用转变，一切还处于‘爆炸式创新’的前期，正如云计算催生了APP应用爆炸，基础模型很可能催生AI应用规模化。”人工智能资深研究专家、科技评论员田涛源说。
“人们将能够直接与我们最新、最强大的语言模型互动，作为搜索的伴侣，以实验和创新的方式。”谷歌CEO桑达尔·皮查伊（SundarPichai）说。
“相较于以AlphaGo这一现象级产品针对于某一个特定领域、其算法模型需要附着在某一个产品中才能赋能使用的模式，ChatGPT能直接面向大众使用者，且具备盈利模式，这将改变很多人工智能企业高成本、低回报的经营模式。”吴飞说。
——重构传统互联网商业模式，催生数字经济新突破。北京瑞莱智慧科技有限公司副总裁唐家渝认为，ChatGPT的应用除了聊天机器人外，还包括涉及文字生成和信息查询的智力工作、低难度的编程等内容创作领域，从而普遍提高这些行业的生产力。也能够与其他生成式技术融合，比如提高数字人的语义交互水平等，打造更具象化的形象，提升交流中的情感链接。
田涛源表示，从中长期发展趋势上预测，“生成式AI+决策式AI”很有可能重构传统互联网的搜索、广告、社交、游戏、电商模式，部分程度上颠覆原有的互联网平台，同时遵从数实融合、以虚强实原则赋能科研、制造、能源、交通等实体企业做强做优做大。
国家超级计算成都中心科研人员在巡检机房设备（2023年2月14日摄）刘坤摄/本刊
技术与人类能无缝结合吗
ChatGPT引发的全球关注，令许多人回忆起2016年AlphaGo战胜人类围棋世界冠军的时刻。当时社会上同样兴起了一场人工智能大讨论。
在这场热潮中，我国抢抓人工智能发展的重大战略机遇，在2017年发布《新一代人工智能发展规划》，推动人工智能一业赋百业。
目前，ChatGPT已引发全球科技公司的新一轮人工智能竞赛。谷歌发布了下一代对话AI系统Bard，微软发布了整合了ChatGPT的全新必应Bing和Edge浏览器，宣布旗下Office、Azure云服务等所有产品都将全线整合ChatGPT。百度表示将在今年3月完成人工智能聊天机器人“文心一言”的内测，随后对公众开放，阿里巴巴达摩院预训练语言模型体系已开放内测。
回顾历史，人工智能的发展并非一帆风顺。自1956年诞生以来，人工智能发展经历三次浪潮，期间充满波折。在人工智能深度学习迅速发展的近10年里，产业上也还没有出现里程碑式的爆发。
事实上，ChatGPT在带来惊艳体验的同时，也有明显“缺陷”。比如，它的知识存在事实性错误、知识盲区、常识偏差，也将面临着隐私泄露、技术滥用、造假、社会公平等伦理问题。因其模型能力出众、用户众多，这些风险隐患还会被放大。
“ChatGPT的应用离不开人的‘提示’，性能的持续提升离不开研发者的算法改进和设计，风险隐患的应对离不开人的引导和治理。”业内人士表示。
人工智能的发展，离不开人与人工智能的结合，我们的未来，也将是人与人工智能共同进化的时代。
正如ChatGPT描绘的人工智能未来世界：
机器人们像人类，
思想智慧已涌动。
在这梦幻的世界里，
技术与人类无缝结合。
生活如同一首诗，
平静而美好，永不停歇。
“人工智能驱动的科学研究”专项部署工作的重点有哪些专家解读
近期，科技部会同自然科学基金委启动“人工智能驱动的科学研究”（AI for Science）专项部署工作，布局“人工智能驱动的科学研究”前沿科技研发体系。
“人工智能驱动的科学研究”专项部署工作的背景是什么？相关重点有哪些？具体将如何推动我国在人工智能领域的理论研究与应用？新华社记者采访了中国科学院院士、北京大学国际机器学习研究中心主任鄂维南，科技创新2030-“新一代人工智能”重大项目实施专家组组长、中科院自动化研究所所长徐波，科技创新2030-“新一代人工智能”重大项目实施专家组成员、北京科学智能研究院副院长张林峰，对“人工智能驱动的科学研究”专项部署工作进行详细解读。
人工智能已成为科学研究新范式
问：推动“人工智能驱动的科学研究”专项部署工作的背景和意义是什么？
徐波：随着新一代人工智能技术的蓬勃发展，科学研究范式正在发生新变革，推动基础科学的重大发现和突破。人工智能已成为继实验、理论、计算之后的科学研究新范式。
目前，人工智能技术已在很多科学研究领域展现出超越传统数学或物理学方法的强大能力，但在“人工智能驱动的科学研究”体系化布局、重大系统设计、跨学科交叉融合、创新生态构建等方面仍有提升空间。
近年来，我国人工智能技术发展快速、科研数据和算力资源日益丰富、科学研究领域应用场景不断拓展，为加快推动“人工智能驱动的科学研究”发展奠定了坚实基础。
为了抢抓人工智能驱动科学研究的新机遇，科技部会同自然科学基金委启动“人工智能驱动的科学研究”专项部署工作，将进一步加强对其创新工作的统筹指导、系统布局，充分发挥我国在人工智能方面优势，加速科学研究范式变革和能力提升，推动人工智能走向高质量应用新阶段。
鄂维南：我们正在迎来新一轮的科技革命，有很重要的一点是科学研究从“作坊”模式转变到“平台科研”模式。
在科研活动中，如材料研究、生物制药研究等，存在很多共性，理论上用的物理模型和基本原理，是有限的、有共性的，研究中用的实验手段亦如是。人工智能技术发展至今，能让我们将这些共性的工具串联起来，从整体角度看待科研，大幅提高科研效率。“人工智能驱动的科学研究”有可能推动我们在下一轮科技革命中走在前沿。
学科与知识体系大重构的“人工智能驱动的科学研究”
问：“人工智能驱动的科学研究”的特点是什么？我国在相关方面研究水平如何？
张林峰：“人工智能驱动的科学研究”最大的一个特点是，它以一种前所未有的方式，将不同学科、不同背景的人们联系在一起。
“人工智能驱动的科学研究”既需要计算机、数据科学、材料、化学、生物等学科的交叉融合，同时也需要数学、物理等基础学科进行更加深入的理论构建和算法设计，是一个学科与知识体系大重构的过程。
鄂维南：“人工智能驱动的科学研究”是以“机器学习为代表的人工智能技术”与“科学研究”深度融合的产物。
借助机器学习在高维问题的表示能力，人类可以更加真实细致刻画复杂系统的机理，同时可以把基本原理以更加高效、实用的方式应用于解决实际问题中，可帮助将复杂的基础研究成果构建为更有逻辑的知识决策体系或更实用的工具，提升科研、原始创新效率。
近年来，国内多所高校、科研机构都在科学智能领域积极布局，国内企业也在投入巨大力量来推动科学智能发展和产业落地。我们率先意识到人工智能方法对基础科学研究可能产生的影响，全面布局人工智能驱动的科学研究和培养科研团队，将人工智能方法、高性能计算与物理模型相结合，并已走在了国际前沿。
紧扣基础学科关键问题，紧抓重点领域科研需求
问：本次专项部署工作结合的学科与围绕的领域有哪些考虑？
徐波：数学、物理、化学、天文、地球科学、生命科学等基础学科为科技发展提供了重要理论基础，紧密结合这些基础学科关键问题，布局“人工智能驱动的科学研究”前沿科技研发体系，是增强基础科学研究竞争力的重要保证。
药物研发、基因研究等领域，是人工智能与科学研究结合需求迫切、进展突出、具有代表性的重要方向。例如，基于生物学机制、疾病和用药相关数据、药物的各种药学性质等建立的人工智能模型可预测新药的安全性和有效性，通过人工智能辅助，减少研发过程中的人力、物力、时间投入，提高药物研发成功率。
值得注意的是，科学研究中的人工智能方法不能简单照搬我们现在所熟知的，如计算机视觉和自然语言处理等领域的现有模型和算法，而是需要根据每个基础科学具体情况，将人工智能技术与自然科学和技术科学的领域知识深度结合，研发针对性的智能算法、模型和软件工具。
加强体系化布局，打造智能化科研创新生态
问：“人工智能驱动的科学研究”未来还有哪些规划与建议？
徐波：科技创新2030-“新一代人工智能”重大项目将在第二个五年实施阶段（2023-2027年）持续加强体系化布局和支持力度，推动研究新理论、新模型、新算法，研发软件工具和专用平台，推进软硬件计算技术升级，打造智能化科研的开源开放创新生态。
后续，将在国家《新一代人工智能发展规划》的指导下、新一代人工智能规划推进办公室的协调下，加快人才、技术、数据、算力等要素汇聚，形成推进“人工智能驱动的科学研究”政策合力。
在平台支撑方面，科技部正在加快推动国家新一代人工智能公共算力开放创新平台建设；在机制创新方面，科技部鼓励用户单位围绕业务深度挖掘技术需求和科学问题，深度参与模型研究与算法创新，积极开放数据、资源。
鄂维南：着眼未来“人工智能驱动的科学研究”发展，首先要把资源真正配置到做实事的一线科研人员手里。同时要有有效的人才培养体系，培养对于基本原理和实际问题都有充分了解的人才。
此外，要有有效的组织形式，构建垂直整合的团队。“人工智能驱动的科学研究”对科研团队提出了全新要求，真正让人工智能的研究人员与基础科学领域研究人员一起工作，进行高频率的日常学术交流，同时引入工程化人才，从行业需求出发，开发出可实际应用并持续迭代的新工具与软件。