人工智能时代的教育挑战及应对
今年5月，国际人工智能与教育大会在北京召开。来自全球100余个国家和地区、10余个国际组织的500余位代表就未来教育、教育政策、教育管理、教学评估、课程开发、终身学习等多个议题开展了深入探讨，提出许多关于人工智能时代背景下发展未来教育的新观点和新思路，并通过了《北京共识》。代表们一致认为，各国应制定相关政策以促进人工智能与教育教学、教育系统改造相适应，建设更加公平、优质的教育系统，为每个人提供终身学习和终身发展的机会。
人工智能是研究使用计算机模拟人的某些思维过程和智能行为（如学习、推理、思考、规划等）的学科，主要包括计算机实现智能的原理、制造类似于人脑智能的计算机，使计算机能实现更高层次的应用。人工智能将涉及计算机科学、心理学、哲学和语言学等学科，涵盖了自然科学和社会科学的所有学科，其范围已远远超出了计算机科学的范畴。正因为如此，人工智能已经成为各国核心竞争力的重要组成部分。
当前主要发达国家的人工智能战略
为在未来人工智能发展浪潮中占据领先地位，美国、英国、日本、法国先后出台了人工智能战略，将发展人工智能技术作为优先事项。实际上，人工智能作为新一轮技术革命的重要支撑，对人类社会诸多领域都有深远影响，也为未来社会的发展提供了重大机遇。人工智能技术在教育领域的应用不仅为教育系统变革、教育技术发展、教学方法改进提供了重要机遇，也给学校、教师、学生带来了挑战。
•美国：让所有劳动者都能在智能时代转换角色
美国在人工智能领域占据了巨大优势，这不仅受益于美国雄厚的研发资金和大批高精尖的科研人才，也受益于美国在人工智能领域已经建立起完善的战略规划体系。众多战略规划以美国白宫科技政策办公室2016年10月发布的《为人工智能的未来做好准备》和《国家人工智能研发战略规划》影响较大。二者为人工智能领域的研究与发展提供了战略性指导。
《国家人工智能研发战略规划》提出，为人工智能时代培养劳动力，不仅应为预备劳动力提供相关领域的教育机会，还应该为现有劳动力进行再培训，以让所有劳动者都能在人工智能时代迅速转换角色。该“战略”区分了硬技能和软技能，主张培养目标应体现国际性、时代性和全面性。所谓硬技能是指语言、艺术、数学、计算机、化学等与专业、学科相关的认知技能；软技能则包括合作、管理、情境、决策等认知性技能，主要通过个人的情商、人际能力、行为等体现。“战略”提倡在基础教育、高等教育、继续教育等各阶段均应以培养软硬技能兼备的人才为目标，加强对劳动者的数字素养和人工智能领域的相关素养的培训。
针对人工智能技术可能对教育带来的影响，“战略”指出：一方面，可以通过将人工智能技术应用于教学环节，为学生提供个性化教学服务，提升教育的影响；另一方面，人工智能的发展为人才培养设定了基本目标。教育系统应该培养面向人工智能时代的劳动者，为所有劳动者提供终身学习的机会。此外，“战略”还针对人工智能人才培养的规模、结构等进行了说明。
2016年12月，美国发布了《人工智能、自动化与经济》的报告，提出制定相关政策发展企业和工人创造力。2017年7月，美国又通过《人工智能与国家安全》的文件，提出通过人工智能推动军事、信息和经济领域的变革以维护国家安全。2019年2月11日，美国总统特朗普签署了《美国人工智能倡议》，提出应重点发展计算机科学，培养公众对人工智能技术的信任与信心，通过学徒制等方式培养人工智能领域的研究人员和用户，开设科学、技术、工程等技能课程，以确保所有美国工人有自如利用人工智能的本领。
•英国：在人才培养规模、投入等方面发展人工智能教育
英国早在2013年就将人工智能列为国家级科研计划。2014年出台了《人工智能2020国家战略》。2015年制定了《机器人技术与人工智能图景》。2016年发布了《人工智能：未来决策制定的机遇与影响》，提出充分发挥英国在人工智能领域的优势，增强国家竞争力。2017年出台了《现代工业战略》和《在英国发展人工智能》两份文件，为发展人工智能提供详尽的指导。2018年出台了《英国人工智能发展的计划、能力和志向》以及《产业战略：人工智能领域行动》，针对发展人工智能制定了具体措施，并于2018年4月启动了以人工智能技术为核心的“现代工业战略”。
为推进“现代工业战略”实施，英国政府积极发展人工智能教育，在人才培养规模、投入等方面进行了重要调整。首先是调整人才培养的结构、层次及数量，扩大人工智能硕士、博士招生规模，调整学科结构，改进培养模式，鼓励大学和企业为人才培养提供支持。其次是加大人工智能教育的投入。英国政府拟计划对人工智能教育投入1.15亿英镑，并鼓励企业和大学投入相应比例的资金，为人工智能教育提供资金保障。再次是鼓励校企合作，开展员工在职培训，为校企合作提供平台，为学生提供数字技能及编码等领域的技能培训。最后是吸引和留住外国优秀人才。通过设立奖学金、提高工作和定居待遇、简化签证手续等吸引人工智能领域优秀人才定居英国，开展相关研究。
•日本：鼓励高校完善人工智能人才培养机制
日本机器人产业在世界处于领先地位，在人工智能领域也占有非常大的优势。2015年1月，日本发布了《日本机器人战略：志愿、战略、行动计划》，提出机器人发展战略。2016年1月，日本制定了《第五期科学技术基本计划（2016-2020年度）》，提出建设“超级智能社会”，并组织了多次面向民众的对话会议，提出以人工智能技术为核心，在大数据、物联网和网络安全领域开展融合研究。2017年，日本制定了《人工智能产业化路线图》，提出利用人工智能技术大幅度提高制造、医疗、护理效率。2018年，日本出台了《科学技术创新综合战略2017》的报告，再一次强调了人工智能的重要性，提出应针对信息技术和人工智能领域面临的人才短缺问题大力发展信息技术和理工科教育，加强大学相关学科人才培养。针对当下日本人工智能人才不足的情况，基金会为人工智能领域研究提供了充分的资金支持，并鼓励高校完善人工智能人才培养机制。此外，日本政府制定了一系列科研奖励计划，吸引外国人才来日本进行研究。
•欧盟：致力于推动人脑研究和机器人智能研究
欧盟在推进人工智能领域也制定了一系列战略规划。2013年1月，欧盟提出了《人脑计划》，致力于推动人脑研究和机器人智能研究。2014年5月，提出了《机器人研发计划》。2015年12月，发布了《机器人技术路线报告》，为机器人技术开发与市场化提供了通用框架。此外，法国于2013年公布了《机器人发展计划》，并在2017年3月发布了《人工智能战略》将人工智能作为国家创新举措之一。德国于2018年公布了《联邦政府人工智能战略要点》和《联邦政府人工智能战略》，将发展人工智能上升到国家战略高度。
当前世界许多国家迫切希望在人工智能发展浪潮中获得竞争优势，并为此制定了较为完善的战略规划。这些规划立足于国家需求，涉及社会领域的多方面，深入分析了国家发展人工智能的优势和不足，并就进一步参与人工智能领域的竞争提出了具体的行动要求。
虽然各国的人工智能战略各不相同，但是就人工智能时代的人才培养与开发、教育培训等领域各国的举措大同小异：（1）以培养面向人工智能时代的劳动力为目标，关注学习者认知与非认知能力的培养；（2）加大人工智能领域投入，大力发展工程、信息科学技术研究；（3）鼓励校企合作，促进人工智能技术转化；（4）扩大人工智能人才培养规模，完善人才培养结构、层次；（5）设立专项奖学金，吸引和留住国际优秀人才；（6）搭建实践平台，推动国际人才交流。
从本质上看，人工智能技术发展的关键在于劳动者素养的提高，劳动者素养的高低直接影响技术的使用，而教育在培养预备劳动者和劳动者再培训过程中都发挥着至关重要的作用。因此，不少国家的人工智能战略将教育作为推动其发展的重要推动力和优先发展事项，主张在培养目标、教学内容、教学方式、教学手段等进行变革。
当下，人工智能技术的进步既为教育发展提供了重要机遇，也给整个教育生态系统带来了不小的挑战。
学校将走向“智慧型校园”
大数据、云计算、深度学习、图像识别、语音识别、虚拟现实等人工智能技术，让人类的学习活动得以突破传统的时空结构，颠覆了教育者与受教育者的关系。学生可以在任何时间、任何地点接入学习平台，这给传统的、以学校为主体的、较为封闭的教育生态带来了巨大挑战。因此，传统的学校应变革为面向未来的“智慧型校园”。智慧校园是物理环境、虚拟环境和混合环境的整合，在对校园基础设施、教学资源、教学内容、教学活动等进行的数字化改造的基础上，构建智能化的教育生态系统，最大化地提高学生学习、生活质量，促进师生全面提升。此外，智慧校园还为家庭、学校和社会协同发展提供了重要条件，有助于提升学校治理水平。
教师成为构建者、协助者
人工智能技术也给教师带来了重大挑战。传统的教学模式以教师为中心，教师作为学习活动的组织者和控制者，在学习过程中占主导地位。而在人工智能时代，学生可以很方便地从网络上获取丰富的信息资源，学生处于学习活动的中心。因此，教师应从传统的知识传授者转变为帮助学生建构知识体系的协助者、教学活动的组织者。教师更应重视激发学生自主学习，充分调动学生积极性。
首先，人工智能时代知识获得更加便利，学生认知方式也会发生根本变革，因此教师应更加关注学生的认知特点，着重通过多样的教学活动和教学过程将能力培养与知识获得结合起来，促进学生认知和非认知能力的养成。
随着人工智能技术在教育领域的应用不断深入，教师工作的环境将逐步智慧化。智能备课、智能阅卷、智能评估和反馈系统成为可能，教师能够更加准确、快捷地把握学习者的学习特点和情况开展个性化指导。
人工智能时代，教师不仅需要掌握学科专业知识、教学方法，还应具备“数字化能力”。这就要求在教师专业发展过程中，不仅要重视学科知识的掌握，更应重视教师专业发展的情境性和实践性，强调过程体验和参与，在教师专业发展的不同阶段确立不同的能力目标以适应课程教学的新要求。
学生面临的挑战与应对
人工智能技术的快速发展也给学生带来了巨大挑战。首先是学习内容变化带来的能力培养上的挑战。与传统学习相比，人工智能时代的信息获取更加便捷，对于信息的处理能力将会是未来学生必须培养的核心能力。学生不仅需要具备认知能力，还需要具备全球素养、开放心态、自主管理能力、数字素养等。其次是学习方式变化带来的自主管理的挑战。人工智能时代的学习将以学生为中心，学生在学习活动中处于主体地位，可以根据智能教学系统生成个性化学习方案，自主选择学习内容，安排学习进度，开展小组合作学习等。个性化学习方式对学生的自我调节和管理水平有更高的要求，在实际教学过程中也应重视对学生自我管理能力的培养。
总之，随着经济与科技全球化的深入发展，人工智能技术的重要作用日益突出，各国纷纷将发展人工智能技术视为国家优先事项，各国人工智能人才竞争日益激烈。教育在劳动力培养、人才开发过程中发挥着至关重要的作用，不少国家将教育视为推动人工智能发展的重要力量。大数据、云计算、图像和语音识别、虚拟现实等技术极大改变了整个教育供给、管理、实现模式，有助于构建共享、开放的新型教育生态系统。这种新型教育生态系统的主要特点就是教育服务和管理的精准化、个性化和适应化。在构建新型教育生态过程中，学校、教师、学生面临着技术变革带来的各种挑战和问题。要解决这些问题，实现技术与教育的无缝衔接，还需要教师、家长、学生以及其他教育生态系统成员的共同努力。
来源：中国教师报（2019年06月19日）
如何认识人工智能对未来经济社会的影响
原标题：如何认识人工智能对未来经济社会的影响人工智能作为一种新兴颠覆性技术，正在释放科技革命和产业变革积蓄的巨大能量，深刻改变着人类生产生活方式和思维方式，对经济发展、社会进步等方面产生重大而深远的影响。世界主要国家都高度重视人工智能发展，我国亦把新一代人工智能作为推动科技跨越发展、产业优化升级、生产力整体跃升的驱动力量。在此背景下，我们有必要更好认识和把握人工智能的发展进程，研究其未来趋势和走向。
人工智能不同于常规计算机技术依据既定程序执行计算或控制等任务，而是具有生物智能的自学习、自组织、自适应、自行动等特征。可以说，人工智能的实质是“赋予机器人类智能”。首先，人工智能是目标导向，而非指代特定技术。人工智能的目标是在某方面使机器具备相当于人类的智能，达到此目标即可称之为人工智能，具体技术路线则可能多种多样，多种技术类型和路线均被纳入人工智能范畴。例如，根据图灵测试方法，人类通过文字交流无法分辨智能机器与人类的区别，那么该机器就可以被认为拥有人类智能。其次，人工智能是对人类智能及生理构造的模拟。再次，人工智能发展涉及数学与统计学、软件、数据、硬件乃至外部环境等诸多因素。一方面，人工智能本身的发展，需要算法研究、训练数据集、人工智能芯片等横跨整个创新链的多个学科领域同步推进。另一方面，人工智能与经济的融合要求外部环境进行适应性变化，所涉的外部环境十分广泛，例如法律法规、伦理规范、基础设施、社会舆论等。随着人工智能进一步发展并与经济深度融合，其所涉外部环境范围还将进一步扩大，彼此互动和影响亦将日趋复杂。
总的来看，人工智能将波浪式发展。当前，人工智能正处于本轮发展浪潮的高峰。本轮人工智能浪潮的兴起，主要归功于数据、算力和算法的飞跃。一是移动互联网普及带来的大数据爆发，二是云计算技术应用带来的计算能力飞跃和计算成本持续下降，三是机器学习在互联网领域的应用推广。但人工智能技术成熟和大规模商业化应用可能仍将经历波折。人工智能的发展史表明，每一轮人工智能发展浪潮都遭遇了技术瓶颈制约，导致商业化应用难以落地，最终重新陷入低潮。本轮人工智能浪潮的技术上限和商业化潜力都大大高于以往，部分专用人工智能可能获得长足进步，但许多业内专家认为目前的人工智能从机理上还不存在向通用人工智能转化的可能性，人工智能大规模商业化应用仍将是一个长期而曲折的过程。人工智能的发展尚处于早期阶段，在可预见的未来仍将主要起到辅助人类工作而非替代人类的作用，同时，严重依赖数据输入和计算能力的人工智能距离真正的人类智能还有很大的差距。
作为继互联网后新一代“通用目的技术”，人工智能的影响可能遍及整个经济社会，创造出众多新兴业态。国内外普遍认为，人工智能将对未来经济发展产生重要影响。
一方面，人工智能将是未来经济增长的关键推动力。人工智能技术的应用将提升生产率，进而促进经济增长。许多商业研究机构对人工智能对经济的影响进行了预测，主要预测指标包括GDP增长率、市场规模、劳动生产率、行业增长率等。多数主要商业研究机构认为，总体上看，世界各国都将受益于人工智能，实现经济大幅增长。未来十年（至2030年），人工智能将助推全球生产总值增长12%左右。同时，人工智能将催生数个千亿美元甚至万亿美元规模的产业。人工智能对全球经济的推动和牵引，可能呈现出三种形态和方式。其一，它创造了一种新的虚拟劳动力，能够解决需要适应性和敏捷性的复杂任务，即“智能自动化”；其二，人工智能可以对现有劳动力和实物资产进行有力的补充和提升，提升员工能力，提高资本效率；其三，人工智能的普及将推动多行业的相关创新，提高全要素生产率，开辟崭新的经济增长空间。
另一方面，人工智能替代劳动的速度、广度和深度将前所未有。许多经济学家认为，人工智能使机器开始具备人类大脑的功能，将以全新的方式替代人类劳动，冲击许多从前受技术进步影响较小的职业，其替代劳动的速度、广度和深度将大大超越从前的技术进步。但他们同时指出，技术应用存在社会、法律、经济等多方面障碍，进展较为缓慢，技术对劳动的替代难以很快实现；劳动者可以转换技术禀赋；新技术的需求还将创造新的工作岗位。
当前，在人工智能对经济的影响这个领域，相关研究已经取得了一些成果，然而目前仍处于研究的早期探索阶段，还未形成成熟的理论和实证分析框架。不过，学界的一些基本共识已经达成：短期来看，人工智能发展将对我国经济产生显著促进作用；长期来看，人工智能的发展路径和速度难以预测。因此，我们需对人工智能加速发展可能导致的世界经济发展模式变化保持关注。
（作者单位：国务院发展研究中心创新发展研究部）
(责编：赵超、吕骞)分享让更多人看到
::王利明：人工智能时代对民法学的新挑战
【中文关键词】人工智能智能人；隐私权；个人信息；民法典
【摘要】我们已经进入了人工智能时代，人工智能技术的发展深刻地改变了我们的生产和生活方式，也对我国民事法律制度提出了新的挑战。人格权制度、数据财产保护、知识产权保护、侵权责任认定和承担等，都需要随着人工智能技术的发展而作出必要的调整。我国正在制定的民法典也需要与时俱进，积极回应人工智能时代的各种挑战，妥当设置相关规则、制度，在有效规范人工智能技术的同时，也为新兴技术的发育预留必要的制度空间。
【全文】
1956年夏，在一场关于机器模拟智能的研讨会上，首次提出了“人工智能”这一概念。人工智能作为一门新兴学科，其与基因工程、纳米科学共同被称为21世纪的三大尖端技术。作为引领新一轮科技革命的技术，人工智能系统在替代人类从事简单性、重复性以及危险性工作方面存在广泛的应用价值，目前在金融、安防、客服等行业领域已实现应用，并且在精确度和效率上确实已远超人工。[1]半个世纪以来，伴随着现代科技的发展，特别是移动互联网、大数据、脑科学等新理论、新技术的发展，人工智能近些年的发展极为迅速，已经成为国际竞争的新焦点和经济发展的新引擎。[2]从某种程度上而言，人工智能以信息技术为核心，“信息主权”话题[3]的探讨一定程度上也决定了人工智能未来在国际竞争中的地位。人工智能技术以信息技术为核心，直接造就了信息主权话题的探讨。[4]
我们已经进入人工智能时代，机遇与危险并存。美国电影《终结者》曾预测人工智能机器人超级战士击败人类的结果；科学家霍金生前始终认为，人工智能的发明可能是人类历史上最大的灾难。如果管理不善，人工智能确实可能成为霍金所预言的“最糟糕的发明”，会思考的机器人可能会为人类文明画上句号，这样的论断绝非危言耸听。“问题就是时代的口号”，借助于大数据的人工智能，在改变我们生产与生活方式的同时，也给我们带来了诸多法律上的新问题、新挑战。正如国务院《新一代人工智能发展规划》所言：“人工智能是影响面广的颠覆性技术，可能带来改变就业结构、冲击法律与社会伦理、侵犯个人隐私、挑战国际关系准则等问题，将对政府管理、经济安全和社会稳定乃至全球治理产生深远影响。”这些问题亟待我们予以回应并加以解决。目前对于人工智能的研究有从伦理学层面、[5]认知哲学层面[6]展开的，笔者拟就人工智能对传统民法学理论及司法实务造成的如下挑战谈下自己的看法，以期能对人工智能法律规范体系的形成有所裨益。
一、人工智能对民事主体制度的挑战
人工智能的发展催生了各种类型的机器人，这也带来了一个非常重大的法律问题，即是否应当将机器人视为法律上的人？换言之，机器人究竟应当作为法律关系的主体还是客体出现？应当将其等同于普通的机器或者动物对待，抑或将其作为“人”来看待？
人工智能研究的创始人之一明斯基指出，人工智能是“让机器从事需要人的智能的工作的科学”。2016年，世界机器人大会在北京召开，一些机器人公司展示出了各种智能机器人，智能机器人能够识别人的面孔、表情、年龄、性别，并且能够表达与人类相似的情绪和面部表情。智能机器人的智力目前虽然还不能和人类相比，但也具备了独立处理相关信息的能力和智力，有的机器人甚至已经基本达到了人类智慧的水准。2017年，沙特阿拉伯宣布授予机器人索菲亚以公民资格，由此也进一步推动了法学界对于人工智能主体地位的思考。
从智能机器人的发展现状来看，人工智能机器人已经逐步具有一定程度的自我意识和自我表达能力，可以与人类进行一定的情感交流。有人估计，未来若干年，机器人可以达到人类50%的智力。从实践来看，机器人可以为我们接听电话，从事语音客服、身份识别、翻译、语音转换、智能交通等工作，甚至可以进行案件分析。有人统计，现阶段23%的律师业务已可由人工智能完成。机器人本身能够形成自学能力，能够对既有的信息进行分析和研究，从而提供司法警示和建议。甚至有人认为，机器人未来可以直接当法官，[7]可见人工智能机器人已经不完全是一种工具，而在一定程度上具有了自己的意识，并能作出简单的意思表示。有观点甚至主张，应当承认人工智能具有法律人格。[8]这就提出了一个新的法律问题，即我们将来是否有必要在法律上承认人工智能机器人的法律主体地位？
笔者认为，从目前人工智能的发展来看，其尚未对传统民事法律主体理论提出颠覆性的挑战，我们在短时期内仍然应当坚守传统民事主体理论，而不宜将智能机器人规定为民事主体，主要理由在于：一方面，智能机器人是人类创造出来的，其产生之初即作为民事法律关系的客体而出现，其虽然可能代替人类从事相关的活动，但本质上是受其自身的算法而决定的，尚不具备人类所具有的自主思考的意识和能力。另一方面，智能机器人尚不能独立享有权利、承担义务。在智能机器人造成他人损害时，仍然应当依据《产品质量法》《侵权责任法》确定相关法律责任的承担者，即应当由其创造者或管理者承担责任。也就是说，在一定时期内，既有的法律制度和规则体系仍可有效解决智能机器人所带来的挑战，[9]而不需要承认机器人的民事地位。智能机器人进入民事主体的范畴在未来或许是可行的，因为随着未来科技的发展，智能机器人可能也会不断“进化”，不排除将来智能机器人的思维能力会进一步发展，具备与人类相当甚至超越人类的意识和思考能力，并可以在一定范围内独立地享有权利、承担义务，但在目前人工智能机器人还不能也没有必要成为民事主体。
二、人工智能对人格权保护的新挑战
人工智能的发展还涉及人格权保护的一系列问题，至少包括如下几个方面：
第一，人工智能对隐私的保护提出了新挑战。例如，伴随着人工智能技术的发展，无人机技术也蓬勃发展，无人机被形象地描述为“冰冷的观测技术产品”，可以以各种方式“进入”人们想要到达的区域。童话小说中描述的在苍蝇身上绑上摄像机去他人房间窥探他人隐私的设想，目前已经由无人机技术得以实现，这就对隐私权的保护提出了新的挑战。美国已经发生了多起无人机侵犯他人隐私的纠纷。在无人机窥探他人隐私的情形下，受害人往往难以进行举证，甚至难以确定具体的行为人，[10]这就需要法律进一步强化隐私权的保护，以更好地应对人工智能技术的发展。
第二，人工智能对个人信息的保护提出了新挑战。已经身处大数据时代，大数据记载了我们过去发生的一切和现在发生的一切，并能准确地预测我们的未来。现代社会的人就好像“裸奔”一样，我们的一切都有可能被他人“监视”，都时刻可能暴露在“第三只眼”之下，“亚马逊监视着我们的购物习惯，谷歌监视着我们的网页浏览习惯，而微博似乎什么都知道，不仅窃听到了我们心中的‘TA’，还有我们的社交关系网”。[11]无论我们走到哪里，只要携带手机，相关软件借助于Cookie技术，就可以时刻知道我们的准确定位。借助于大数据分析技术，人工智能也会对个人信息权利的保护带来威胁，一些智能机器人大规模地收集个人信息，并将其植入程序之中，也会对隐私等个人信息构成重大威胁。如何从技术层面、法律层面规范智能机器人搜集个人信息的合法性问题，将是人工智能时代的一项新挑战。例如，在全国首例利用人工智能技术侵犯公民个人信息案中，行为人即利用人工智能技术识别验证码，破解了相关的技术防范措施，并获取受害人个人信息，人工智能技术对相关技术防范措施的破解速度快至毫秒级，令人极为震惊。[12]除收集个人信息外，人工智能技术还可能被用来研究和开发以大数据为基础的各种产品，并凭借大数据无穷的潜力获取利益，从而刺激人们进一步采集、分析人们的大数据信息。随着个人信息收集和分析方式越来越先进，成本也越来越低廉，大规模的数据收集已成为常态，并会越来越普遍，这就进一步加剧了对个人信息和隐私的威胁。[13]我国《民法总则》对个人信息权利的保护作出了规定，但并没有专门规范利用人工智能收集、利用个人信息的行为，未来立法有必要专门设置相关的法律规则，防止人工智能应用过程中的数据非法收集、泄露、贩卖等问题，以有效保护个人信息的安全。[14]
第三，人工智能对肖像权的保护提出了新的挑战。人工智能技术可能借助光学技术、声音控制、人脸识别技术等新型技术，收集他人肖像，并传播、模仿他人的肖像。例如，借助于光学技术和摄像技术，人工智能可以拍摄高分辨率的照片，使得夜拍图片具有与日拍图片同等的效果，这样就使得对肖像权的获取与利用更为简便，这也对肖像权的保护提出了新的挑战。近年来，利用大数据的人工智能人脸识别技术在各领域都开始了实质性运用，从刷脸支付、整治闯红灯到抓捕逃犯，甚至公共领域的发厕纸管理之中，该技术都得到了实质利用。[15]
第四，人工智能对自然人声音、表情、肢体动作等人格利益的保护提出了新挑战。现在很多人工智能系统把一些人的声音、表情、肢体动作等植入其中，使得所开发的人工智能产品可以模仿他人的声音、形体动作等，甚至能够像人一样表达，并与人进行交流。但如果未经他人同意而擅自进行上述模仿活动，就有可能构成对他人人格权的侵害。
此外，需要指出的是，如果将来承认了人工智能机器人的主体资格，还会产生人工智能机器人人格权的保护问题。目前，刑法学理论已经开始探讨毁坏他人机器人是构成故意杀人罪还是故意毁坏财物罪。近来媒体报道，机器人伴侣已经出现，如果机器人伴侣受到虐待，其能否主张人格权受到侵害等，也需要进一步探讨。
三、人工智能对数据财产保护的新挑战
产权清晰是市场经济的基本要求之一，然而大数据和人工智能使得这一传统命题迎来新的挑战。“数据+算法”被视为人工智能技术开发的核心，数据的收集和分析技术的发展成为人工智能进行机器学习和开发的基本方法。目前，大数据已经是人工智能的一种重要分析工具，其得力于传感器与微处理器的硬件支撑。[16]借助于大数据分析技术，人工智能可以进行相关的演练和操作。从人工智能的技术原理来看，其也有赖于大数据分析系统的支持，人工智能功能的强弱在很大程度也取决于其所包含数据库的多少，人工智能需要依赖大量来自不同主体的数据，数据的抓取和利用在人工智能行业无处不在。数据在人工智能技术开发中的应用价值越来越高，但数据的开发和利用都需要明晰数据的产权主体和内容，规范数据的移转和利用。因此，人工智能的发展需要解决财产法面临的新问题。
人工智能利用的数据主要有三类，分别是个人所有的数据、私人企业和组织所有的数据和公共机构管理的数据。有观点认为：数据财产权的基本原则是谁的数据归谁所有，没有任何主体指向的数据是公共资源。[17]但是人工智能不仅会储存收集的原始数据，而且可以对收集的各种数据进行加工，产生衍生数据。与此同时，数据的占有和转移占有是无形的，同时也是没有有效的权属证明。所以，在大数据时代，法律所遇到的一个严峻挑战即应当如何确认数据的权利归属，既要保护被搜集人的个人信息权，又要保护数据开发者、合法利用者的数据财产权，迄今为止，如何对数据进行确权并且构建起权利内容和权利转移制度尚未解决，需要法律予以尽快完善。
现行《物权法》把物权分为动产和不动产，而数据难以按照此种方法进行分类，故而学界一直争议数据属于物权还是债权。我国《民法总则》第127条对数据的保护规则作出了规定，一方面，数据在性质上属于新型财产权，但数据保护问题并不限于财产权的归属和分配问题，还涉及这一类财产权的转移、利用、保管等法律问题。在利用人工智能时如何规范数据的收集、储存、利用行为，避免数据的泄露和滥用，并确保国家数据的安全，也是亟需解决的重大现实问题。[18]另一方面，人工智能的应用方式和应用范围在很大程度上取决于其算法，如何有效规范这一算法，避免侵害他人权利，也需要法律制度予以应对。例如，人工智能通过分析在网络交易中取消订单的频繁程度，可以得出关于一个人社会信用状况和交易能力的评价结果，此种评价结果可能对个人的经济生活产生重大影响。目前，人工智能算法本身的公开性、透明性和公正性的问题，是人工智能技术发展的核心问题，但目前并未受到充分关注。
四、人工智能对知识产权保护的新挑战
人工智能的发展也涉及知识产权保护的问题。一方面，机器人已经能够自己创作音乐、绘画，机器人写作的诗歌集也已经出版，这也对现行知识产权法提出了新的挑战。例如，百度已经研发出可以创作诗歌的机器人，微软公司的人工智能产品“小冰”已于2017年5月出版人工智能诗集《阳光失了玻璃窗》，在日本，机器人创作的小说甚至还通过了日本文学奖的初审，有的机器人甚至会谱曲、作画，这些作品已经可以在市面上销售，这就提出了一个问题，即这些机器人创作作品的著作权究竟归属于谁，是归属于机器人软件的发明者，还是机器的所有权人，还是赋予机器人一定程度的法律主体地位从而由其自身享有相关权利？正如前文已经论述，现阶段的人工智能技术的发展尚不足以被承认为民事主体，故而现阶段也不适合承认机器人完成的作品可以归一个实践工具所有，只能承认由机器人的所有者享有知识产权。当然，在未来人工智能在创作领域可能技术更加成熟，已经达到了类似人类或者超越人类的能力，那么可否在创作领域承认人工智能的民事主体地位和权利能力，这也是可以进一步讨论的。
另一方面，智能机器人要通过一定的程序进行“深度学习”“深度思维”，在这个过程中有可能收集、储存大量的他人已享有著作权的信息，这就有可能构成非法复制他人的作品，从而构成对他人著作权的侵害。人工智能机器人能够存储大量的信息，而按照一些国家的规定，存储他人享有著作权的信息本身，就构成对他人著作权的侵害。人工智能实际上就是一种机器模仿人的智力活动的技术，但如果人工智能机器人利用获取的他人享有著作权的知识和信息创作作品，如创作的歌曲中包含他人歌曲的音节、曲调等，也可能构成剽窃。
在人工智能侵害他人知识产权的情形下，究竟应当由谁承担责任、如何承担责任，本身也是一个问题。如果认为机器人具有主体资格，那么其承担责任的财产又来自何处？如果认为机器人不具有主体资格，究竟应当按照产品责任追究生产者、销售者的侵权责任，还是应当由机器人的主人来承担相应责任？这些问题均值得进一步研究。
五、人工智能对侵权责任认定的新挑战
人工智能的发展还涉及侵权责任的认定问题。人工智能引发的侵权责任问题很早就受到了学者的关注，随着人工智能应用范围的日益普及，其所引发的侵权责任认定和承担问题将对现行侵权法律制度提出越来越多的挑战。[19]无论是机器人致人损害，还是人类侵害机器人，都是新的法律责任。
在实践中，机器人致人损害的案例已经发生，2015年7月，德国大众汽车制造厂一名21岁的工人在安装和调制机器人时，被机器人“出手”击中胸部，并被碾压在金属板上。无独有偶，2016年，Google无人驾驶汽车在美国加州山景城测试时，与一辆公交大巴相撞，后经法院认定，Google公司在此次事故中负有责任。我国也出现了人工智能机器人伤人的事件，据报载，2016年11月，在深圳举办的第十八届中国国际高新技术成果交易会上，一台名为小胖的机器人突然发生故障，在没有指令的前提下自行打砸展台玻璃，砸坏了部分展台，并导致一人受伤。[20]表面上看，机器人是人制造的产品，在造成他人损害时，应当由机器人的研发者负责，似乎在法律上没有争议。但机器人又不同于普通的产品，对普通的产品而言，追踪产品的生产者较为容易，而对人工智能机器人而言，其是依靠自身的算法在运作，有其自身独特的运作程序。因此，在人工智能机器人造成他人损害时，不能简单地认定由该机器人的生产者承担责任，而应当由该程序的发明者承担责任，而人工智能机器人的运作程序可能是由多个主体共同开发的，很难确定具体的程序研发个人或者组织，这就给确定人工智能机器人的责任带来了困难。
人工智能的发展催生了无人驾驶技术，这也对道路交通事故责任提出了新的挑战。[21]伴随着无人驾驶技术在各国的运用，这一问题已经显现。前不久，深圳已经测试无人驾驶公交线路，引发了全球关注。浙江省拟于2022年建成支持自动驾驶的首条超级高速公路。但值得我们考虑的问题是，一旦无人驾驶汽车发生交通事故，应当由谁承担责任？能否适用现行机动车交通事故责任认定相关主体的责任？法律上是否有必要为无人驾驶机动车制定专门的责任规则？这确实是一个新问题，但已经现实发生，美国时间2018年3月20日，UBER无人驾驶汽车在美国亚利桑那州发生了全球首例无人驾驶撞死行人的案件，案发地州政府紧接着宣布该州范围内永久性停止UBER无人驾驶测试，该案最终以和解方式结案，并未形成相应的裁判规则。笔者认为，对此应当区分不同情况，分别认定相关主体的责任：如果无人驾驶的汽车是因为汽车本身的技术故障引发交通事故，此时，受害人应有权根据《侵权责任法》《道路交通安全法》的规定要求驾驶者承担侵权损害赔偿责任。如果交通事故是因驾驶操作系统程序出现问题，发生交通事故，此时完全由驾驶者承担责，可能有违公平，也过于苛责。究竟如何分配责任，值得进一步探讨。在无人驾驶技术日益普及的情形下，还有必要引入保险制度，即规定新类型的“无人驾驶强制责任保险制度”，为受害人提供必要的权利救济。[22][23]
此外，有一个问题值得考虑，就是未来可能出现的飞行汽车所带来的道路事故责任，应当如何加以认定？根据媒体的相关报道，有谷歌飞行之父之称的塞巴斯蒂安-特伦宣布，谷歌有望在五年之内让飞行汽车飞行于天空的计划得以实现。[24]一旦飞行汽车的计划真的实现，可以预计汽车的飞行可能将颠覆道路交通规则，其在法律定位上究竟是作为一类新型航空器得以出现，从而根据航空事故责任来进行责任界定，还是仍然按照机动车交通事故责任来加以确定，这一问题非常值得探讨。
结语
人工智能时代已经来临，其不仅改变人类生产和生活方式，也会对人类的法律制度产生深刻的影响。21世纪初，华裔著名经济学家杨小凯就提出：如果中国仅仅重视技术模仿，而忽视制度建设，后发优势就可能转化为后发劣势。[25]因此，我们不能仅注重技术的引用，而忽视其可能带来的负面效果。我们的法学理论研究应当密切关注社会现实，积极回应大数据、人工智能等新兴科学技术所带来的一系列法律挑战，从而为我们立法的进一步完善提供有力的理论支撑。“不谋万世者，不足以谋一时”，法治不仅仅是要考虑当下，也要考虑未来。法治要提供制度环境安排，为新兴科技等的发育预留法律空间。特别是要充分认识和拥抱科学技术对社会生产和生活带来的结构性、革命性的影响，尽早观察和预测未来法律发展的方向，促进良法制定，以良法保障和促进人工智能技术的健康发展，消除其对人类社会可能产生的副作用。因此，我国现行正在编纂的民法典应当考虑到人工智能可能带来的各种新挑战，并制定相应的法律规则，以体现出民法典与时俱进的品格，并真正地应对未来的技术发展，成为一部21世纪的民法典。
【注释】中国人民大学法学院教授，博士生导师；中国人民大学民商事法律科学研究中心研究员。
[1]参见中国电子技术标准化研究院：《人工智能标准化白皮书(2018版)》，第1页。
[2]参见国务院《新一代人工智能发展规划》(国发〔2017〕35号)第一部分。
[3]参见许志华：《网络空间的全球治理：信息主权的模式建构》，《学术交流》2017年第12期。
[4]参见许志华：《网络空间的全球治理：信息主权的模式建构》，《学术交流》2017年第12期。
[5]参见徐英瑾：《具身性、认知语言学与人工智能伦理学》，《上海师范大学学报》(哲学社会科学版)2018年第1期。
[6]参见魏屹东：《人工智能的适应性表征》，《上海师范大学学报》(哲学社会科学版)2018年第1期。
[7]参见高奇琦、张鹏：《论人工智能对未来法律的多方位挑战》，《华中科技大学学报》(社会科学版)2018年第1期。
[8]参见袁曾：《人工智能有限法律人格审视》，《东方法学》2017年第5期。
[9]参见李晟：《略论人工智能语境下的法律转型》，《法学评论》2018年第1期。
[10]参见我们应该如何看待无人机侵犯大众隐私的问题，https://baijia.baidu.com/s?old_id=470904，2018年2月12日。
[11][英]维克托、迈尔-舍恩伯格：《大数据时代》，盛杨燕等译，浙江人民出版社2013年版，第193页。
[12]参见人工智能成窃取公民个人信息案“帮凶”！系全国首例，载http://www.sohu.com/a/197343129_99931689，2018年2月12日。
[13]参见张宪丽、高奇琦：《人工智能时代公民的数据意识及其意义》，《西南民族大学学报》(人文社科版)2017年第12期。
[14]参见吴汉东：《人工智能时代的制度安排与法律规制》，《法律科学》(西北政法大学学报)2017年第5期。
[15]参见人脸识别系统半个月抓住3名逃犯还有哪些用途？，http://news.163.com/17/0604/07/CM2PVCQ70001875P.html,2018年2月2日。
[16]参见王博、郝银钟：《大数据条件下司法公开对我国法官制度的新要求》，《学术交流》2017年第12期。
[17]吴晓灵：《大数据应用不能牺牲个人数据所有权》，《清华金融评论》2016年第10期。
[18]参见郑戈：《人工智能与法律的未来》，《探索与争鸣》2017年第10期。
[19]参见朱体正：《人工智能时代的法律因应》，《大连理工大学学报》(社会科学版)2018年第2期。
[20]《深圳高交会出现中国首例机器人伤人事件》，《联合早报》2016年11月18日。
[21]陈晓林：《无人驾驶汽车致人损害的对策研究》，《重庆大学学报》(社会科学版)2017年第4期。
[22]中国首条超级高速公路2022年要通车不用担心超速，http://news.163.com/18/0224/06/DBD1HH7L0001875N.html,2018年3月31日。
[23]Uber与无人车撞死行人案受害人家属和解赔偿金额未公布，https://xw.qq.com/tech/20180329012517/TEC2018032901251700，2018年3月31日。
[24]谷歌自动驾驶汽车之父：飞行汽车将在5年内飞翔天空，http://tech.qq.com/a/20180212/024798.htm,2018年2月13日。
[25]参见涂子沛：《数据之巅》，中信出版社2014年版，第337页。
【期刊名称】《东方法学》【期刊年份】2018年【期号】3