优秀的人工智能系统应该具备哪些特征
尽管AlphaGO展示了人工智能系统的强大威力，但这并不意味着普遍意义的人工智能已经达到或超过了人类的水平。在当前的技术水平下，人工智能适合处理特定的任务，如计算密集型、搜索类(围棋、国际象棋等)的任务就很适合智能系统处理。
而对于需要各种知识、语义理解、归纳和推理的任务，智能系统相对于人则还有较为遥远的距离。以人机对话系统为例，现在微软小冰算是全世界做得最好的闲聊机器人之一了，但是用户很快就会发现，她距离通过图灵测试还非常远，还远远没有达到人的对话能力和水平。
AI与各领域结合进展瞩目
人工智能与各行各业的结合，取得了令人瞩目的进展。这里仅以机器人、智能驾驶、信息处理领域的相关进展为例进行说明。
传统机械领域与人工智能的结合产生了机械智能。工业机器人在汽车制造、电子电气、橡胶及塑料、家用电器等行业发挥着突出作用，而且伴随人工智能技术的发展，应用领域更加广泛。除了工业机器人，还有各种仿生机器人，在这里就必须提到机器人技术世界领先的波士顿动力公司，其研发的产品如Atlas、SpotMini、WildCat、Spot、JumpingRobot等，以及早期的BigDog，涵盖了双足、四足、双轮足式机器人。
这些机器人产品体现了各种人工智能技术的综合运用，具有超强的目标识别、环境感知与建模、任务规划、协调控制能力，充分体现了人工智能系统的综合特点。此外，服务器机器人也逐步进入家庭市场。其中，软银公司推出的Pepper情感机器人，具有一定的情绪感知和情感表达的能力，而MIT推出的Jibo、蓝蛙公司的Buddy，则定位在社交机器人属性，具有与家庭成员进行互动、完成任务、协助儿童学习等功能。
还需指出，制约家庭机器人发展的不仅仅是人工智能关键技术，还有涉及很多其他领域，包括机械、动力甚至材料，例如，动力的噪声，传感器的性能与价格等等。人工智能的发展必须与众多领域同步，才能够达到理想状态。随着未来人工智能及相关技术的逐步完善和成熟，服务机器人必将走进千家万户，人与机器人和谐并存的社会虽然还需时日，但可以期待。
人工智能在汽车领域一个火热的应用就是无人驾驶，谷歌、特斯拉、百度等公司都在无人驾驶上进行了布局和投入。2017年年初，Drive.ai公布一段在Drive.ai山景城总部进行复杂路况、环境下的无人驾驶路测片段，视频显示该公司的无人驾驶技术能够轻松应对雨天夜间的极端复杂的现实路况。
这也意味着具有现实普及意义的无人驾驶离我们又近了一步。特斯拉、沃尔沃等高端品牌甚至已经配置了无人驾驶的功能。无人驾驶是典型的人工智能技术的综合运用，需要处理复杂的目标识别、环境感知与建模、规划与控制、综合决策等问题，对于智能系统的鲁棒性、不确定性决策、安全性提出了更高的要求。
人工智能也极大地推动了信息处理领域的进展。IBM在2010推出的深度问答系统Watson，在知识问答类的节目中击败了人类冠军选手，后来相关技术又在医疗健康领域得到运用，在辅助诊断方面获得了应用。国内搜狗公司研发的问答机器人在“一站到底”的节目中参加比赛，也取得了不俗的战绩。
在计算机视觉领域，人脸识别算法甚至能在性能要求苛刻的“刷脸”支付中应用。在大规模的图像分类数据集上，识别错误率甚至低于人类的错误水平。在语音识别上，深度学习算法将之前传统模型的性能进行了数量级的提升，使得连续语音识别的性能达到了可实用的标准(一定环境下)。
在创作类的任务上，例如图像风格转换、写诗、音乐创作、写字、对对联等方面，人工智能也取得了显著的进展，在某些特定的任务上甚至声称通过了图灵测试。在人机对话方面，从任务助理类的虚拟机器人如苹果的Siri、微软Cortana、百度度秘、阿里小蜜，到闲聊情感陪护的微软小冰，已经逐步在改变人机交互的范式，促进从鼠标键盘、触控模式到语音交互模式的转换，也催生了互联网行业对入口类设备如智能音箱的激烈争夺。这些将会全面改变人与机器的交互方式以及信息管理方式。
优秀AI须具备三特征
我们认为，一个优秀的人工智能系统之所以能号称“人工智能”，应该具有三个方面的特征：从数据或经验中学习的能力、运用知识的能力、处理不确定性的能力。
学习能力：系统需要具备从数据中或过去的经验中学习的能力，这通常需要运用机器学习算法。更进一步，如果系统具备从环境交互中学习，在与用户交互过程中动态学习，具备一个不断进化和进步的学习能力，那么就可能具备更高的智能水平。同时，学习过程应该能够融入尽可能多的知识类信息，方能够达到支持智能系统的要求。
知识运用能力：知识是智能体现的一个最重要的维度。听说看能力如果不考虑内容的深度，则仅仅是停留在感知智能的层面，只能与环境交互和获取环境的信息，其智能表现的空间非常有限。只有基于知识的智能系统才能够从根本上趋近人类的逻辑推理等深层次的智慧表现。知识可以归纳为关于客观事物的规律、经验、规则，或者各种常识的描述。一个智能系统应该能够很好的存储与表示、运用知识，并基于知识进行归纳推理。只有将知识与数据融合，逻辑与统计结合，才能够催生真正拥有认知智能能力的智能系统。
不确定性处理能力：在现实生活中任何事情，确定性是相对的，不确定性是绝对的。因此，一个优秀的智能系统还应该具有很强的不确定性处理的能力，应该能够很好地处理数据中不确定性(噪声、数据属性缺失等)，模型决策的不确定性(决策结果的置信度等)，甚至模型内部参数的不确定性。无人驾驶系统就需要处理各种各样的不确定性如环境的不确定性、决策的不确定性，AlphaGo系统采用强化学习，以概率方式探索不同的落子方法。
目前，绝大多数人工智能的系统，还都或多或少地缺少这些应有的特质。
鲁棒性可解释性仍是局限
鲁棒性：当前以深度学习为代表的人工智能技术普遍面临鲁棒性的问题。首先，这些技术往往依赖大量的高质量训练数据和计算资源来充分学习模型的参数。
但是，在训练数据量有限的情况下，深度神经网络的性能往往存在很大局限，一些规模巨大的深度神经网络也容易出现过拟合，使得在新数据上的测试性能远低于之前测试数据上的性能。
其次，在特定数据集上测试性能良好的深度神经网络，很容易被添加少量随机噪声的“对抗”样本欺骗，系统很容易出现高可信度的错误判断。从另一个方面，系统初始建模时，由于数据充分使用能够得到比较理想的效果，然而，在投入使用一段时期后，在线数据内容的更新，就会产生系统性能上的偏差，严重时直接导致系统下线。
因此，可扩展性也是人工智能系统实际应用的关键问题之一。模型的可扩展性，以及增量学习问题是绝对不可小觑的。如何应对上述挑战，发展鲁棒性、可扩展性的智能学习系统必将成为下一代人工智能系统的重要研究课题。在方法论方面，需要系统全面借鉴鲁棒的人类认知机理，不仅仅是神经系统的特性，还有认知系统(包括知识表示、更新、推理等)，发展更加具有生物合理性的人工智能系统。
可解释性：当前基于深度学习的人工智能系统普遍存在可解释性不足的问题。绝大部分系统被当做一个“黑盒”(即输入-系统-输出，系统的处理过程对用户完全不可见)处理，中间的分析、决策过程对用户来说不可见，也缺乏可交互性和操作性。
尤其大规模的深度学习系统，由于网络中存在大量的复杂非线性变换和大规模的神经元连接，少量的随机扰动就会导致最后结果的剧烈变化，其行为和表现难以理解和合理解释。因此，可解释性成为下一代人工智能系统的重要特性和研究课题。
一方面，具有较强可解释性的模型可以让使用者能够更好地对机器决策的过程进行理解，以决定相应结果的置信度，增加人对系统的信任度;另一方面，具有可解释性的模型能够为用户提供一个可操作的交互方式，使人的经验介入到数据驱动的建模和决策中，做到决策的追溯、引导和纠正，从而提升系统的性能与表现。
不断磨练迈向强AI时代
人工智能在新的数据资源、计算资源、计算模型等的推动下得到了蓬勃发展。在今天，我们拥有了更多的数据，更强大的计算资源，理论、算法和模型也得到了很大的推动和发展，因此我们处在一个人工智能发展的最好时机中。
AlphaGo的成功让世人认识到人工智能成功的一面，开启了人工智能的新时代。然而，对于具有很强学习能力、知识运用能力、不确定性处理能力的人工智能系统的要求，还有一定的距离。当前人工智能技术的鲁棒性、可解释性和可交互性等问题，也在实际应用中渐渐被提到日程上来。
有问题不等于不能够用，在人工智能研究不断推进的同时，落地的实用产品也不断被推出，技术在实战中磨练、更新。新一代人工智能技术将不断在鲁棒性、可解释性、交互性等关键问题上实现更多突破。人类必将逐步走向理想的强人工智能时代。
(作者黄民烈系清华大学副教授，朱小燕系清华大学教授、智能技术与系统国家实验室主任)
(《中国电子报》版权所有，转载请注明出处)返回搜狐，查看更多
人工智能的历史、现状和未来
2018年2月25日，在平昌冬奥会闭幕式“北京8分钟”表演中，由沈阳新松机器人自动化股份有限公司研发的智能移动机器人与轮滑演员进行表演。新华社记者李钢/摄
2018年5月3日，中国科学院发布国内首款云端人工智能芯片，理论峰值速度达每秒128万亿次定点运算，达到世界先进水平。新华社记者金立旺/摄
2017年10月，在沙特阿拉伯首都利雅得举行的“未来投资倡议”大会上，机器人索菲亚被授予沙特公民身份，她也因此成为全球首个获得公民身份的机器人。图为2018年7月10日，在香港会展中心，机器人索菲亚亮相主舞台。ISAACLAWRENCE/视觉中国
2018年11月22日，在“伟大的变革——庆祝改革开放40周年大型展览”上，第三代国产骨科手术机器人“天玑”正在模拟做手术，它是国际上首个适应症覆盖脊柱全节段和骨盆髋臼手术的骨科机器人，性能指标达到国际领先水平。麦田/视觉中国
如同蒸汽时代的蒸汽机、电气时代的发电机、信息时代的计算机和互联网，人工智能正成为推动人类进入智能时代的决定性力量。全球产业界充分认识到人工智能技术引领新一轮产业变革的重大意义，纷纷转型发展，抢滩布局人工智能创新生态。世界主要发达国家均把发展人工智能作为提升国家竞争力、维护国家安全的重大战略，力图在国际科技竞争中掌握主导权。习近平总书记在十九届中央政治局第九次集体学习时深刻指出，加快发展新一代人工智能是事关我国能否抓住新一轮科技革命和产业变革机遇的战略问题。错失一个机遇，就有可能错过整整一个时代。新一轮科技革命与产业变革已曙光可见，在这场关乎前途命运的大赛场上，我们必须抢抓机遇、奋起直追、力争超越。
概念与历程
了解人工智能向何处去，首先要知道人工智能从何处来。1956年夏，麦卡锡、明斯基等科学家在美国达特茅斯学院开会研讨“如何用机器模拟人的智能”，首次提出“人工智能（ArtificialIntelligence，简称AI）”这一概念，标志着人工智能学科的诞生。
人工智能是研究开发能够模拟、延伸和扩展人类智能的理论、方法、技术及应用系统的一门新的技术科学，研究目的是促使智能机器会听（语音识别、机器翻译等）、会看（图像识别、文字识别等）、会说（语音合成、人机对话等）、会思考（人机对弈、定理证明等）、会学习（机器学习、知识表示等）、会行动（机器人、自动驾驶汽车等）。
人工智能充满未知的探索道路曲折起伏。如何描述人工智能自1956年以来60余年的发展历程，学术界可谓仁者见仁、智者见智。我们将人工智能的发展历程划分为以下6个阶段：
一是起步发展期：1956年—20世纪60年代初。人工智能概念提出后，相继取得了一批令人瞩目的研究成果，如机器定理证明、跳棋程序等，掀起人工智能发展的第一个高潮。
二是反思发展期：20世纪60年代—70年代初。人工智能发展初期的突破性进展大大提升了人们对人工智能的期望，人们开始尝试更具挑战性的任务，并提出了一些不切实际的研发目标。然而，接二连三的失败和预期目标的落空（例如，无法用机器证明两个连续函数之和还是连续函数、机器翻译闹出笑话等），使人工智能的发展走入低谷。
三是应用发展期：20世纪70年代初—80年代中。20世纪70年代出现的专家系统模拟人类专家的知识和经验解决特定领域的问题，实现了人工智能从理论研究走向实际应用、从一般推理策略探讨转向运用专门知识的重大突破。专家系统在医疗、化学、地质等领域取得成功，推动人工智能走入应用发展的新高潮。
四是低迷发展期：20世纪80年代中—90年代中。随着人工智能的应用规模不断扩大，专家系统存在的应用领域狭窄、缺乏常识性知识、知识获取困难、推理方法单一、缺乏分布式功能、难以与现有数据库兼容等问题逐渐暴露出来。
五是稳步发展期：20世纪90年代中—2010年。由于网络技术特别是互联网技术的发展，加速了人工智能的创新研究，促使人工智能技术进一步走向实用化。1997年国际商业机器公司（简称IBM）深蓝超级计算机战胜了国际象棋世界冠军卡斯帕罗夫，2008年IBM提出“智慧地球”的概念。以上都是这一时期的标志性事件。
六是蓬勃发展期：2011年至今。随着大数据、云计算、互联网、物联网等信息技术的发展，泛在感知数据和图形处理器等计算平台推动以深度神经网络为代表的人工智能技术飞速发展，大幅跨越了科学与应用之间的“技术鸿沟”，诸如图像分类、语音识别、知识问答、人机对弈、无人驾驶等人工智能技术实现了从“不能用、不好用”到“可以用”的技术突破，迎来爆发式增长的新高潮。
现状与影响
对于人工智能的发展现状，社会上存在一些“炒作”。比如说，认为人工智能系统的智能水平即将全面超越人类水平、30年内机器人将统治世界、人类将成为人工智能的奴隶，等等。这些有意无意的“炒作”和错误认识会给人工智能的发展带来不利影响。因此，制定人工智能发展的战略、方针和政策，首先要准确把握人工智能技术和产业发展的现状。
专用人工智能取得重要突破。从可应用性看，人工智能大体可分为专用人工智能和通用人工智能。面向特定任务（比如下围棋）的专用人工智能系统由于任务单一、需求明确、应用边界清晰、领域知识丰富、建模相对简单，形成了人工智能领域的单点突破，在局部智能水平的单项测试中可以超越人类智能。人工智能的近期进展主要集中在专用智能领域。例如，阿尔法狗（AlphaGo）在围棋比赛中战胜人类冠军，人工智能程序在大规模图像识别和人脸识别中达到了超越人类的水平，人工智能系统诊断皮肤癌达到专业医生水平。
通用人工智能尚处于起步阶段。人的大脑是一个通用的智能系统，能举一反三、融会贯通，可处理视觉、听觉、判断、推理、学习、思考、规划、设计等各类问题，可谓“一脑万用”。真正意义上完备的人工智能系统应该是一个通用的智能系统。目前，虽然专用人工智能领域已取得突破性进展，但是通用人工智能领域的研究与应用仍然任重而道远，人工智能总体发展水平仍处于起步阶段。当前的人工智能系统在信息感知、机器学习等“浅层智能”方面进步显著，但是在概念抽象和推理决策等“深层智能”方面的能力还很薄弱。总体上看，目前的人工智能系统可谓有智能没智慧、有智商没情商、会计算不会“算计”、有专才而无通才。因此，人工智能依旧存在明显的局限性，依然还有很多“不能”，与人类智慧还相差甚远。
人工智能创新创业如火如荼。全球产业界充分认识到人工智能技术引领新一轮产业变革的重大意义，纷纷调整发展战略。比如，谷歌在其2017年年度开发者大会上明确提出发展战略从“移动优先”转向“人工智能优先”，微软2017财年年报首次将人工智能作为公司发展愿景。人工智能领域处于创新创业的前沿。麦肯锡公司报告指出，2016年全球人工智能研发投入超300亿美元并处于高速增长阶段；全球知名风投调研机构CBInsights报告显示，2017年全球新成立人工智能创业公司1100家，人工智能领域共获得投资152亿美元，同比增长141%。
创新生态布局成为人工智能产业发展的战略高地。信息技术和产业的发展史，就是新老信息产业巨头抢滩布局信息产业创新生态的更替史。例如，传统信息产业代表企业有微软、英特尔、IBM、甲骨文等，互联网和移动互联网时代信息产业代表企业有谷歌、苹果、脸书、亚马逊、阿里巴巴、腾讯、百度等。人工智能创新生态包括纵向的数据平台、开源算法、计算芯片、基础软件、图形处理器等技术生态系统和横向的智能制造、智能医疗、智能安防、智能零售、智能家居等商业和应用生态系统。目前智能科技时代的信息产业格局还没有形成垄断，因此全球科技产业巨头都在积极推动人工智能技术生态的研发布局，全力抢占人工智能相关产业的制高点。
人工智能的社会影响日益凸显。一方面，人工智能作为新一轮科技革命和产业变革的核心力量，正在推动传统产业升级换代，驱动“无人经济”快速发展，在智能交通、智能家居、智能医疗等民生领域产生积极正面影响。另一方面，个人信息和隐私保护、人工智能创作内容的知识产权、人工智能系统可能存在的歧视和偏见、无人驾驶系统的交通法规、脑机接口和人机共生的科技伦理等问题已经显现出来，需要抓紧提供解决方案。
趋势与展望
经过60多年的发展，人工智能在算法、算力（计算能力）和算料（数据）等“三算”方面取得了重要突破，正处于从“不能用”到“可以用”的技术拐点，但是距离“很好用”还有诸多瓶颈。那么在可以预见的未来，人工智能发展将会出现怎样的趋势与特征呢？
从专用智能向通用智能发展。如何实现从专用人工智能向通用人工智能的跨越式发展，既是下一代人工智能发展的必然趋势，也是研究与应用领域的重大挑战。2016年10月，美国国家科学技术委员会发布《国家人工智能研究与发展战略计划》，提出在美国的人工智能中长期发展策略中要着重研究通用人工智能。阿尔法狗系统开发团队创始人戴密斯·哈萨比斯提出朝着“创造解决世界上一切问题的通用人工智能”这一目标前进。微软在2017年成立了通用人工智能实验室，众多感知、学习、推理、自然语言理解等方面的科学家参与其中。
从人工智能向人机混合智能发展。借鉴脑科学和认知科学的研究成果是人工智能的一个重要研究方向。人机混合智能旨在将人的作用或认知模型引入到人工智能系统中，提升人工智能系统的性能，使人工智能成为人类智能的自然延伸和拓展，通过人机协同更加高效地解决复杂问题。在我国新一代人工智能规划和美国脑计划中，人机混合智能都是重要的研发方向。
从“人工+智能”向自主智能系统发展。当前人工智能领域的大量研究集中在深度学习，但是深度学习的局限是需要大量人工干预，比如人工设计深度神经网络模型、人工设定应用场景、人工采集和标注大量训练数据、用户需要人工适配智能系统等，非常费时费力。因此，科研人员开始关注减少人工干预的自主智能方法，提高机器智能对环境的自主学习能力。例如阿尔法狗系统的后续版本阿尔法元从零开始，通过自我对弈强化学习实现围棋、国际象棋、日本将棋的“通用棋类人工智能”。在人工智能系统的自动化设计方面，2017年谷歌提出的自动化学习系统（AutoML）试图通过自动创建机器学习系统降低人员成本。
人工智能将加速与其他学科领域交叉渗透。人工智能本身是一门综合性的前沿学科和高度交叉的复合型学科，研究范畴广泛而又异常复杂，其发展需要与计算机科学、数学、认知科学、神经科学和社会科学等学科深度融合。随着超分辨率光学成像、光遗传学调控、透明脑、体细胞克隆等技术的突破，脑与认知科学的发展开启了新时代，能够大规模、更精细解析智力的神经环路基础和机制，人工智能将进入生物启发的智能阶段，依赖于生物学、脑科学、生命科学和心理学等学科的发现，将机理变为可计算的模型，同时人工智能也会促进脑科学、认知科学、生命科学甚至化学、物理、天文学等传统科学的发展。
人工智能产业将蓬勃发展。随着人工智能技术的进一步成熟以及政府和产业界投入的日益增长，人工智能应用的云端化将不断加速，全球人工智能产业规模在未来10年将进入高速增长期。例如，2016年9月，咨询公司埃森哲发布报告指出，人工智能技术的应用将为经济发展注入新动力，可在现有基础上将劳动生产率提高40%；到2035年，美、日、英、德、法等12个发达国家的年均经济增长率可以翻一番。2018年麦肯锡公司的研究报告预测，到2030年，约70%的公司将采用至少一种形式的人工智能，人工智能新增经济规模将达到13万亿美元。
人工智能将推动人类进入普惠型智能社会。“人工智能+X”的创新模式将随着技术和产业的发展日趋成熟，对生产力和产业结构产生革命性影响，并推动人类进入普惠型智能社会。2017年国际数据公司IDC在《信息流引领人工智能新时代》白皮书中指出，未来5年人工智能将提升各行业运转效率。我国经济社会转型升级对人工智能有重大需求，在消费场景和行业应用的需求牵引下，需要打破人工智能的感知瓶颈、交互瓶颈和决策瓶颈，促进人工智能技术与社会各行各业的融合提升，建设若干标杆性的应用场景创新，实现低成本、高效益、广范围的普惠型智能社会。
人工智能领域的国际竞争将日益激烈。当前，人工智能领域的国际竞赛已经拉开帷幕，并且将日趋白热化。2018年4月，欧盟委员会计划2018—2020年在人工智能领域投资240亿美元；法国总统在2018年5月宣布《法国人工智能战略》，目的是迎接人工智能发展的新时代，使法国成为人工智能强国；2018年6月，日本《未来投资战略2018》重点推动物联网建设和人工智能的应用。世界军事强国也已逐步形成以加速发展智能化武器装备为核心的竞争态势，例如美国特朗普政府发布的首份《国防战略》报告即谋求通过人工智能等技术创新保持军事优势，确保美国打赢未来战争；俄罗斯2017年提出军工拥抱“智能化”，让导弹和无人机这样的“传统”兵器威力倍增。
人工智能的社会学将提上议程。为了确保人工智能的健康可持续发展，使其发展成果造福于民，需要从社会学的角度系统全面地研究人工智能对人类社会的影响，制定完善人工智能法律法规，规避可能的风险。2017年9月，联合国犯罪和司法研究所（UNICRI）决定在海牙成立第一个联合国人工智能和机器人中心，规范人工智能的发展。美国白宫多次组织人工智能领域法律法规问题的研讨会、咨询会。特斯拉等产业巨头牵头成立OpenAI等机构，旨在“以有利于整个人类的方式促进和发展友好的人工智能”。
态势与思考
当前，我国人工智能发展的总体态势良好。但是我们也要清醒看到，我国人工智能发展存在过热和泡沫化风险，特别在基础研究、技术体系、应用生态、创新人才、法律规范等方面仍然存在不少值得重视的问题。总体而言，我国人工智能发展现状可以用“高度重视，态势喜人，差距不小，前景看好”来概括。
高度重视。党中央、国务院高度重视并大力支持发展人工智能。习近平总书记在党的十九大、2018年两院院士大会、全国网络安全和信息化工作会议、十九届中央政治局第九次集体学习等场合多次强调要加快推进新一代人工智能的发展。2017年7月，国务院发布《新一代人工智能发展规划》，将新一代人工智能放在国家战略层面进行部署，描绘了面向2030年的我国人工智能发展路线图，旨在构筑人工智能先发优势，把握新一轮科技革命战略主动。国家发改委、工信部、科技部、教育部等国家部委和北京、上海、广东、江苏、浙江等地方政府都推出了发展人工智能的鼓励政策。
态势喜人。据清华大学发布的《中国人工智能发展报告2018》统计，我国已成为全球人工智能投融资规模最大的国家，我国人工智能企业在人脸识别、语音识别、安防监控、智能音箱、智能家居等人工智能应用领域处于国际前列。根据2017年爱思唯尔文献数据库统计结果，我国在人工智能领域发表的论文数量已居世界第一。近两年，中国科学院大学、清华大学、北京大学等高校纷纷成立人工智能学院，2015年开始的中国人工智能大会已连续成功召开四届并且规模不断扩大。总体来说，我国人工智能领域的创新创业、教育科研活动非常活跃。
差距不小。目前我国在人工智能前沿理论创新方面总体上尚处于“跟跑”地位，大部分创新偏重于技术应用，在基础研究、原创成果、顶尖人才、技术生态、基础平台、标准规范等方面距离世界领先水平还存在明显差距。在全球人工智能人才700强中，中国虽然入选人数名列第二，但远远低于约占总量一半的美国。2018年市场研究顾问公司CompassIntelligence对全球100多家人工智能计算芯片企业进行了排名，我国没有一家企业进入前十。另外，我国人工智能开源社区和技术生态布局相对滞后，技术平台建设力度有待加强，国际影响力有待提高。我国参与制定人工智能国际标准的积极性和力度不够，国内标准制定和实施也较为滞后。我国对人工智能可能产生的社会影响还缺少深度分析，制定完善人工智能相关法律法规的进程需要加快。
前景看好。我国发展人工智能具有市场规模、应用场景、数据资源、人力资源、智能手机普及、资金投入、国家政策支持等多方面的综合优势，人工智能发展前景看好。全球顶尖管理咨询公司埃森哲于2017年发布的《人工智能：助力中国经济增长》报告显示，到2035年人工智能有望推动中国劳动生产率提高27%。我国发布的《新一代人工智能发展规划》提出，到2030年人工智能核心产业规模超过1万亿元，带动相关产业规模超过10万亿元。在我国未来的发展征程中，“智能红利”将有望弥补人口红利的不足。
当前是我国加强人工智能布局、收获人工智能红利、引领智能时代的重大历史机遇期，如何在人工智能蓬勃发展的浪潮中选择好中国路径、抢抓中国机遇、展现中国智慧等，需要深入思考。
树立理性务实的发展理念。任何事物的发展不可能一直处于高位，有高潮必有低谷，这是客观规律。实现机器在任意现实环境的自主智能和通用智能，仍然需要中长期理论和技术积累，并且人工智能对工业、交通、医疗等传统领域的渗透和融合是个长期过程，很难一蹴而就。因此，发展人工智能要充分考虑到人工智能技术的局限性，充分认识到人工智能重塑传统产业的长期性和艰巨性，理性分析人工智能发展需求，理性设定人工智能发展目标，理性选择人工智能发展路径，务实推进人工智能发展举措，只有这样才能确保人工智能健康可持续发展。
重视固本强基的原创研究。人工智能前沿基础理论是人工智能技术突破、行业革新、产业化推进的基石。面临发展的临界点，要想取得最终的话语权，必须在人工智能基础理论和前沿技术方面取得重大突破。我们要按照习近平总书记提出的支持科学家勇闯人工智能科技前沿“无人区”的要求，努力在人工智能发展方向和理论、方法、工具、系统等方面取得变革性、颠覆性突破，形成具有国际影响力的人工智能原创理论体系，为构建我国自主可控的人工智能技术创新生态提供领先跨越的理论支撑。
构建自主可控的创新生态。我国人工智能开源社区和技术创新生态布局相对滞后，技术平台建设力度有待加强。我们要以问题为导向，主攻关键核心技术，加快建立新一代人工智能关键共性技术体系，全面增强人工智能科技创新能力，确保人工智能关键核心技术牢牢掌握在自己手里。要着力防范人工智能时代“空心化”风险，系统布局并重点发展人工智能领域的“新核高基”：“新”指新型开放创新生态，如产学研融合等；“核”指核心关键技术与器件，如先进机器学习技术、鲁棒模式识别技术、低功耗智能计算芯片等；“高”指高端综合应用系统与平台，如机器学习软硬件平台、大型数据平台等；“基”指具有重大原创意义和技术带动性的基础理论与方法，如脑机接口、类脑智能等。同时，我们要重视人工智能技术标准的建设、产品性能与系统安全的测试。特别是我国在人工智能技术应用方面走在世界前列，在人工智能国际标准制定方面应当掌握话语权，并通过实施标准加速人工智能驱动经济社会转型升级的进程。
推动共担共享的全球治理。目前看，发达国家通过人工智能技术创新掌控了产业链上游资源，难以逾越的技术鸿沟和产业壁垒有可能进一步拉大发达国家和发展中国家的生产力发展水平差距。在发展中国家中，我国有望成为全球人工智能竞争中的领跑者，应布局构建开放共享、质优价廉、普惠全球的人工智能技术和应用平台，配合“一带一路”建设，让“智能红利”助推共建人类命运共同体。
作者：中央人民政府驻香港特别行政区联络办公室副主任、中国科学院院士
【热点聚焦】人工智能教育应用的现状分析、典型特征与发展趋势
一、人工智能的发展历程与核心驱动力
(一)人工智能的三次浪潮
人工智能起源于1956年美国达特茅斯学院举办的夏季学术研讨会。在这次会议上，达特茅斯学院助理教授JohnMcCarthy提出的“人工智能(ArtificialIntelligence,AI)”这一术语首次正式使用。之后，人工智能的先驱艾伦·图灵提出了著名的“图灵测试”：在人机分隔的情况下进行测试，如果有超过30%的测试者不能确定被试是人还是机器，那么这台机器就通过了测试，并被认为具有人工智能。图灵测试掀起了人工智能的第一轮浪潮。在人工智能研究方法上，以抽象符号为基础，基于逻辑推理的符号主义方法盛行，其突出表现为：在人机交互过程中数学证明、知识推理和专家系统等形式化方法的应用。但在电子计算机诞生的早期，有限的运算速度严重制约了人工智能的发展。
20世纪80年代，人工智能再次兴起。传统的符号主义学派发展缓慢，有研究者大胆尝试基于概率统计模型的新方法，语音识别、机器翻译取得了明显进展，人工神经网络在模式识别等领域初露端倪。但这一时期的人工智能受限于数据量与测试环境，尚处于学术研究和实验室中，不具备普遍意义上的实用价值。
人工智能的第三次浪潮缘起于2006年Hinton等人提出的深度学习技术。ImageNet竞赛代表了计算机智能图像识别领域最前沿的发展水平，2015年基于深度学习的人工智能算法在图像识别准确率方面第一次超越了人类肉眼[7]，人工智能实现了飞跃性的发展。随着机器视觉研究的突破，深度学习在语音识别、数据挖掘、自然语言处理等不同研究领域相继取得突破性进展。2016年，微软将英语语音识别词错率降低至5.9%，可与人类相媲美。如今，人工智能已由实验室走向市场，无人驾驶、智能助理、新闻推荐与撰稿、搜索引擎、机器人等应用已经走进社会生活[8]。因此，2017年也被称为人工智能产业化元年。
(二)人工智能的三大要素与核心驱动力
回顾人工智能的发展历程，在三次浪潮的浮浮沉沉中，人工智能不断突破并接近自身的目标：能够根据对环境的感知，做出合理的行动，从而获得最大收益。从人工智能的发展历程来看，不难看出，运算力、数据量和算法模型是人工智能的三大要素。如图1所示，人工智能具体应用的实现，如语音识别和图像识别等，需要先赋予机器一定的推理能力，然后它才能做出合理的行动。而这种推理能力，源自于大量的应用场景数据集。通过使用大量的数据对算法模型进行一定的训练，机器才能够根据算法做出具有类人智能的判断、决策和行为。奠定了的坚实基础。
人工智能在逐步发展完善自身理论与方法，以及寻求外部动力的过程中螺旋式上升发展。从图灵测试理论的提出到无人驾驶汽车自动上路行驶，从实验室的“封闭世界”到外部“开放世界”的安全过渡，大数据、云计算和深度学习这三大核心驱动力，共同促成了人工智能的突破性进展。
1.大数据
人工智能建立于海量优质的应用场景数据基础之上。训练数据的数量、规模和质量尤为重要，丰富的海量数据集是算法模型训练的前提。甚至有观点认为，拥有更海量的数据比拥有更好的算法更重要。受益于移动互联网的发展和多样化智能终端的普及，以及物联网的发展和传感器的大量应用，源自各种设备及互联网应用的数据急剧增加，大数据迅速发展。大数据处理技术能在很大程度上提高人工智能训练数据集的质量，并能优化存储和管理标注后的数据。因此，可以说，海量数据是机器智能的源泉，大数据有力地助推了机器学习等技术的进步，在智能服务的应用中释放出无限潜力。
2.并行计算
人工智能发展过程中，有限的运算能力曾是制约人工智能发展的主要瓶颈。从电子计算机出现的早期至今，机器的运算处理能力不断提升，为人工智能的发展提供了极大的动力支持。云计算在虚拟化、动态易扩展的资源管理方面的优势，GPU等人工智能专用芯片的出现，奠定了人工智能在大规模、高性能并行运算的软硬件基础，推动数据处理规模和运算速度的指数级增长，极大地提高了算法执行效率和识别准确率。
3.深度学习
数据和硬件是人工智能的基础，而算法是人工智能的核心。人工智能发展史上，两个转折点尤其值得关注。一个是研究方法由符号主义转向统计模型，自此开辟了人工智能发展的新路径；另一个是深度学习凭借绝对优势，颠覆了其他算法设计思路，突破了人工智能的算法瓶颈。深度学习即深度网络学习，它受人类大脑神经结构的启发，由一组单元组成，每个单元借由一组输入值而产生输出值，该输出值又继续被传递到下游神经元。深度学习网络通常使用许多层次，且在每层使用大量单元，以便识别海量数据中极其复杂和精确的模式。深度学习将人类程序员从构建模型的复杂活动中解放了出来，并提供一种更优化、更智能的算法，能够自动从海量数据库中进行自我学习，自动调整规则参数并优化规则和模型，识别准确率极高。自学习状态已成为机器学习的主流方法。
二、人工智能教育应用的现状分析
逻辑推理、知识表示、规划和导航、自然语言处理和感知是人工智能的主要问题空间[9]。在教育问题解决与应用中，人工智能主要有四大应用形态：智能导师系统、自动化测评系统、教育游戏与教育机器人。
(一)智能导师系统
智能导师系统(IntelligentTutoringSystem，ITS)由早期的计算机辅助教学发展而来，它模拟人类教师实现一对一的智能化教学，是人工智能技术在教育领域中的典型应用。典型的智能导师系统主要由领域模型、导师模型和学习者模型三部分组成，即经典的“三角模型”。领域模型又称为专家知识，它包含了学习领域的基本概念、规则和问题解决策略，通常由层次结构、语义网络、框架、本体和产生式规则的形式表示，其关键作用是完成知识计算和推理。导师模型决定适合学习者的学习活动和教学策略，学习者模型动态地描述了学生在学习过程中的认知风格、能力水平和情感状态。事实上，ITS的导师模型、学习者模型和领域模型正是教学三要素——教师、学生、教学内容的计算机程序化实现，其互相关系如图2所示。其中，领域模型是智能化实现的基础，教学模型则是领域模型和学生模型之间的桥梁，其实质是做出适应性决策和提供个性化学习服务。教学模型根据领域知识及其推理，依据学习者模型反映的学习者当前的知识技能水平和情感状态，做出适应性决策，向学习者提供个性化推荐服务，如图3所示。
ITS尊重学习者的个性特征，如学习风格、兴趣、特长等，满足学习者的个性化需求。ITS根据学习者模型所刻画的个性特征，向其提供个性化的学习路径[10]、学习资源[11]和学习同伴等资源。美国国防高级研究计划署赞助开发的一种使用人工智能来模拟专家和新手之间的互动的数字导师系统，能够帮助学习者获得所需的技能，将海军新兵训练成为技术技能专家所需的时间从几年减少到几个月。
近年来，情感、元认知和动机等研究越来越受重视，神经科学、认知科学、心理学和教育学的研究表明，情感状态在一定程度上影响了学生的学习效率和态度[12]，消极的情感状态会阻碍学生的思考过程，而积极的情感为学生的问题解决和创新进步提供有利的条件。然而，情感缺失一直是ITS中存在的突出问题。ITS通过与学生的交互实现情感的感知、识别、调节与预测。根据学生情感的来源，如面部表情[13]、声音等可察因素，及可测量的行为等，采用传感器等技术获取数据，根据相关科学模型，应用人工智能的方法与技术，综合运用心理学和认知科学等知识进行情感推理，也称之为情感识别或情感计算[14]。研究表明，系统通过对话的方式对学生进行的情感调节具有积极效果[15]。
ITS中教学模型模拟人类教师实现一对一个性化教学的过程即是适应性教学策略选取和个性化资源推荐算法的实现过程，适应性教学策略选择是资源个性化推荐的前提。在适应性教学策略的选择方面，这种适应性表现为多个层次：从适应性应答学生的表现，适应学生的知识水平，帮助学生取得具体目标，到对学生的情感状态做出适应性干预调节，提供适应学生元认知能力的帮助。事实上，ITS要模拟人类教师凭借经验进行决策的复杂过程，具有一定难度。而人工智能引发了教育领域的数据革命和智能化革命，数据驱动的智慧教学与智能决策正在成为教育教学的新范式。
(二)自动化测评系统
评价是教学活动的重要组成部分。自动化测评技术的应用引发了评价方法和形式的深刻变革。自动化测评系统能够实现客观、一致、高效和高可用的测评结果，提供即时反馈，极大地减轻教师负担，并为教学决策提供真实可靠的依据。
1.ICT技能与程序作业的自动化测评系统
ICT技能培训与程序设计是计算机教育领域中的重要内容。ICT技能是信息时代的基本素养。文字编辑、电子表格数据处理、收发邮件、制作演示文稿和网页等技能的学习和培训过程中，ICT自动化测评系统所构建的信息模型通过信息获取、知识推理和综合评价三个步骤，动态跟踪用户的操作行为，并对操作过程进行诊断、评价和反馈，极大地提高了学习效率[16]。
计算机程序设计是培养计算思维的有效途径，程序作业通常由学生上机完成。程序设计语言有其自身的语法规则。动态程序测评能够获取程序的编译和运行时信息，分析程序的行为和功能，从程序的功能和执行效率出发，展开综合评价。而静态程序测评，如图4所示，首先对程序代码进行信息提取，然后将程序进行中间形式表示，预测程序所有可能的执行路径与结果，利用知识发现技术实现对程序的评价。目前，国内外已经实现自动化测评的程序设计语言包括Java、C/C++、Python和Pascal，以及汇编语言、脚本语言和数据库查询语言等。
2.自动化短文评价系统
短文写作是当前很多标准化测试的基本要求。随着人工智能技术的发展，自动化短文评价(AutomatedAssessmentofEssaysandShortAnswers)运用自然语言处理技术和机器学习等技术实现对短文本的计算分析和语义理解。美国教育考试服务中心(EducationalTestingService,ETS)设计和举办多项大型标准化考试，如TOEFL、SAT、GRE等。ETS始终致力于测评理论、方法和技术的研究，尤其在自动化测评领域一直处于前沿。目前，ETS已经实现了语音、短文、数学等领域的自动化评价与反馈。在其产品中，TextEvaluator[17]是一种全自动化的基于Web的技术工具，旨在辅助教师、教材出版商和考试开发人员选取用于学习和测试的文本段落。TextEvaluator超越了传统的句法复杂性和词汇难度的可读性维度，解决了由于内聚性、具体性、学术导向、论证水平、叙述程度和交互式对话风格的差异而导致的复杂性变化。另外，E-rater[18]引擎用于学生作文的自动化评分和反馈。在设定了评价标准之后，学生可以使用E-rater的反馈来评估他们的写作技巧，并确定需要改进的地方。教师可用来帮助学生独立发展自己的写作技巧，并自动获得建设性的反馈意见。除了提供短文的整体得分，E-rater还提供关于语法、写作风格和组织结构等的实时诊断和反馈。
3.自动化口语测评系统
自动化口语评价运用语音识别等技术实现了多种语言口语语音的自动化测试与评价，图5展示了基于移动智能终端和测评云服务的口语学习系统架构，其中声学模型和语言学模型是语音识别的关键。ETS的SpeechRater引擎是英语口语测评方面应用最广泛的测评引擎之一。其测评任务并不限定范围和对象，开放性是其最大特点。该引擎可以用于提高发音可靠性、语法熟练度和交际的流利程度。SpeechRater引擎使用自动语音识别系统处理每个响应，该系统特别适用于母语非英语的学习者。基于该系统的输出，使用自然语言处理和语音处理算法来计算在许多语言维度上定义语音的一组特征，包括流利性、发音、词汇使用、语法复杂性和韵律。然后将这些功能的模型应用于英语口语测评，最终得出分数并提供反馈建议。
对于我国的英语教学来说，言语环境匮乏是当前制约学生英语口语学习的最大障碍，口语评价难度较大且时效性差更加加剧了英语口语教与学的难度。科大讯飞依托语音技术的强劲优势，所开发的听说智能测试系统、英语听说智能考试与教学系统和大学英语四六级口语考试系统可以用于促进英语听说训练和自动化测试与反馈。另外，普通话模拟测试与学习系统和国家普通话智能测试系统在推广普通话及相关考试方面发挥着重要作用。
(三)教育游戏
游戏智能是人工智能研究内容的一部分。运用深度学习技术的AlphaGo大胜人类职业围棋选手，标志着人工智能技术的又一次飞跃。在教育应用领域中，计算机和视频游戏不仅仅提供一种娱乐方式，更能推动玩家在游戏中获得新的知识和技能。教育游戏具有明确、有意义的目标，多个目标结构，评分系统，可调节的难度级别，随机的惊喜元素，以及吸引人的幻想隐喻。教育游戏通过构建充分开放的游戏框架和环境，提供一种观察和认识世界的新视角。益智游戏玩家不仅使用游戏工具解决问题，而且还使用自己的知识和技能。在角色扮演中，玩家必须在恶劣的环境中生存和获得新的知识。在所有这些情况下，对周围空间的详细研究等活动都是对玩家的注意力、耐心、专业知识和逻辑思维的考验与锻炼。例如，芝加哥科学与工业博物馆的网站允许游客玩“生存模式”的游戏[19]。该游戏专为青少年设计，专注于研究在极端情况下发生在人体内的主要身体系统的变化过程。游戏玩家不仅克服了许多障碍，还了解了人体的结构。另外，青少年学会使用鼠标和手写笔学习撰写简单的生存搜索等机器人程序。
(四)教育机器人
教育机器人在教学中的应用越来越普遍。一方面，教育机器人可以培养和发展学生的计算思维能力。越来越多的学校正在引进教育机器人作为创新的学习环境，用于提高和建立学生的高层思维能力，作为提高学生学习动机和抽象概念理解的补充工具，帮助学生解决复杂的问题。另一方面，教育机器人具有多学科性质，提供建设性的学习环境，有助于学生更好地理解科学知识，在科学、技术、工程和数学(STEM)教育方面发挥着重要作用。在STEM教学方面，机器人可以协助教师实现工程和技术概念的真实应用，将现实世界中的科学和数学概念进行具体化，有助于消除科学和数学的抽象性。事实上，各种教育机器人的应用推动了科学、技术、工程和数学在教学的改进，机器人固有的灵活性使其在STEM不同教育场景中的应用取得了成功[20]。此外，使用机器人教学有助于增强批参与者的判性思维，促进团队合作，提高沟通交流能力和创新能力。
三、人工智能教育应用的典型特征与发展趋势
人工智能通过知识表示、计算与理解，可以模拟人类教师实现个性化教学；依托于问题空间理论，实现知识和技能的自动化测量与评价；借助于自然语言处理与语音识别技术，解决文本和口语语音的词法分析、语法判别和语义理解；通过教育游戏和教育机器人，以智能增强的方式赋予“寓教于乐”以新的内涵。进一步深入分析人工智能教育应用的典型特征，并把握其未来发展趋势是推动人工智能教育应用的必要条件。
(一)五大典型特征
人工智能在教育应用中的典型特征突出体现在以下五个方面：
1.智能化
智能化是教育信息化的发展趋势之一。海量数据蕴藏着丰富的价值，在知识表示与推理的基础上，构建算法模型，借助于高性能并行运算可以释放这种价值与能量。未来，在教育领域将会有越来越多支持教与学的智能工具，智慧教学将给学习者带来新的学习体验。在线学习环境将与生活场景无缝融合，人机交互更加便捷智能，泛在学习、终身学习将成为一种新常态。
2.自动化
与人相比，人工智能更擅长记忆、基于规则的推理、逻辑运算等程序化的工作，擅长处理目标确定的事务。而对于主观的东西，如果目标不够明确，则较为困难。如数学、物理、计算机等理工科作业，评价标准客观且容易量化，自动化测评程度较高。随着自然语言处理、文本挖掘等技术的进步，短文本类主观题的自动化测评技术将日益成熟并应用于大规模考试中。教师将从繁重的评价活动中解放出来，从而有精力专注于教学。
3.个性化
基于学习者的个人信息、认知特征、学习记录、位置信息、媒体社交信息等数据库，人工智能程序可以自学习并构建学习者模型，并从不断扩大更新的数据集中调整优化模型参数。针对学习者的个性化需求，实现个性化资源、学习路径、学习服务的推送。这种个性化将越来越呈现出客观、量化等特征。
4.多元化
人工智能涉及多个学科领域，未来的教学内容需要适应其发展需要，如美国已经高度重视STEM学科的学习，我国政府高度重视并鼓励高校扩展和加强人工智能专业教育，形成“人工智能+X”创新专业培养模式。从人才培养的角度分析，学校教育应更强调学生多元能力的综合性发展，以人工智能相关基础学科理论为基础，提供基于真实问题情境的项目实践，侧重激发、培养和提高学生的计算思维、创新思维、元认知等能力。
5.协同化
短期来看，人机协同发展是人工智能推动教育智能化发展的一种趋势。从学习科学的角度分析，学习是学习者根据自己已有的知识去主动构建和理解新知识的过程。对于人工智能来说，新知识是它们所无法理解的，所以这种时候学习者就需要教师的协同、协助和协调。因此在智能学习环境中，教师的参与必不可少，人机协同将是人工智能辅助教学的突出特征。
(二)发展趋势
人工智能在教育中的应用特征为推动人工智能与教育的融合创新发展指明了方向。在当前国家大力发展人工智能的政策引领下，不仅要从本质上认识人工智能的核心要素与驱动力，把握其典型应用特征，还要能够顺应其发展趋势。以数据驱动引领教育信息化发展方向，以深化应用推动教育教学模式变革，以融合创新优化教育服务供给方式，将是人工智能教育应用的未来发展趋势，也是人工智能时代教育发展的鲜明任务和重要机遇。
1.以数据驱动引领教育信息化发展方向
人工智能技术在教育领域的深入应用，推动着信息技术与教育的融合创新发展。纵观人工智能在教育领域的应用发展历程，从早期基于规则的知识表示与推理，到今天基于深度学习的自然语言处理、语音识别与图像识别，“智能”的习得已经由早期的专家赋予演变为机器主动学习获取。除了算法模型的显著改进，作为模型的训练数据集，大数据为人工智能添加了十足的动力燃料。大数据智能以数据驱动和认知计算为核心方法，从大数据中发现知识，进而根据知识做出智能决策。数据已经成为产业界争夺的焦点，数据驱动的智能决策与服务已经成为学术界研究的热点。在教育领域，数据可以解释教育现象，也可以揭示教育规律，并能够预测未来趋势。数据驱动的方法推动着教育研究从经验主义走向数据主义和实证主义。因此，教育数据革命已经到来。数据驱动的人工智能将引领教育信息化发展的新方向。
2.以深化应用推动教育教学模式变革
人工智能在教育领域取得如此大的成就，技术引领是关键。同时，不难看出，人工智能在教育领域的应用具有较强的场景性，也就是说，这种应用是针对教育实践活动中的具体问题而展开的，具有明确的问题空间和目标导向。也因此，这种由应用驱动的技术与教育的融合发展，是技术在教育领域中的一种深入应用。如自动化口语测评中，针对具体的语言语音对象，在语音识别技术的基础上，应用语音测评技术实现对学生口语的自动化评价。人工智能技术在教育领域的深化应用，创设了强感知、高交互、泛在的学习环境，为学生的知识建构活动提供了良好条件，为创新型教学模式的发现和运用提供了空间。
3.以融合创新优化教育服务供给方式
人工智能在教育领域中的应用实现了跨学科、跨领域和跨媒体的融合创新。人工智能与神经科学、认知科学、心理学、数学等相关基础学科的交叉融合，联合推动了教育人工智能技术的发展和应用。同时，人工智能本身的发展，离不开人工智能教育和培训。而这种教育更需要建立于STEM学科融合的基础之上。人工智能与教育两者相辅相成，互相促进。跨领域推理融合了多个领域的数据与知识，奠定了强大的智能基础。跨媒体感知计算以智能感知、场景感知、视听觉感知、多媒体自主学习等理论方法为依托，旨在实现超人感知和高动态、高纬度、多模式分布式大场景感知[21]。人工智能技术与教学内容、教学媒体和知识传播路径的多层次融合，突破了传统教育方式的限制，提供跨学科、跨媒体、跨时空的智能教育服务供给，是建设“人人皆学、处处能学、时时可学”学习型社会的有效途径。
基于上述人工智能在教育中的主要应用与典型特征分析，本文提出如图6所示的人工智能与教育融合发展体系。在大数据和深度学习等技术的重要支撑下，人工智能关键技术的突破，推动了人工智能在教育领域中的多样化应用形态，并提供了更智能的学习服务与体验，呈现出智能化、自动化、个性化、多元化和协同化的特征与趋势。在服务监控与治理的保障下，以政策为引领，牢牢把握“应用驱动”的基本原则，进而展开理论和技术研究，是推动人工智能与教育融合创新发展的重要路径。
四、结束语
本文回顾了人工智能的发展历程，揭示了人工智能的三大内部要素与外部驱动力。结合人工智能技术在教育中的四大具体应用形态，深入分析了人工智能教育应用的五大典型特征，并据此指出其未来的发展趋势，最终将上述内容进行归纳总结，构建了人工智能与教育融合创新发展体系，旨在为我国人工智能与教育的融合发展提供理论指导。
人工智能技术正在推动教育信息化的快速发展。然而，在推进人工智能教育应用的过程中，还有很多具体问题值得探讨，亟待解决。如训练人工智能算法模型需要开放教育大数据，但会涉及到个人隐私暴露等信息安全问题；相关技术在教学与考试中的应用，可能需要政策和制度的同步完善；人工智能在提高教学效率和推动教育公平的同时，是否也会造成数字鸿沟的增大；未来的教师和学生、教育研究、教育管理和规划等该如何适应人工智能带来的诸多变革等。面对全球智能化发展趋势及其挑战，教育必须积极主动地调整自身发展，借助现有技术的优势与潜能，实现服务社会经济发展的功能。
参考文献：
[1]贾积有.国外人工智能教育应用最新热点问题探讨[J].中国电化教育,2010,(7):113-118.
[2]闫志明,唐夏夏,秦旋等.教育人工智能(EAI)的内涵、关键技术与应用趋势——美国《为人工智能的未来做好准备》和《国家人工智能研发战略规划》报告解析[J].远程教育杂志,2017,35(1):26-35.
[3]余明华,冯翔,祝智庭.人工智能视域下机器学习的教育应用与创新探索[J].远程教育杂志,2017,35(3):11-21.
[4]唐烨伟,郭丽婷,解月光,钟绍春.基于教育人工智能支持下的STEM跨学科融合模式研究[J].中国电化教育,2017,(8):46-52.
[5]张剑平,张家华.我国人工智能课程实施的问题与对策[J].中国电化教育,2008,(10):95-98.
[6]吴永和,刘博文,马晓玲.构筑“人工智能+教育”的生态系统[J].远程教育杂志,2017,35(5):27-39.
[7]TheElectronicFrontierFoundation.MeasuringtheProgressofAIResearch[DB/OL].https://www.eff.org/files/AI-progress-metrics.html#Vision,2017-10-15.
[8]李开复,王咏刚.人工智能[M].北京:文化发展出版社,2017.5-25.
[9]FrankChen.AI,DeepLearningandMachineLearning:APrimer[DB/OL].http://a16z.com/2016/06/10/ai-deep-learning-machines,2017-10-15.
[10]HwangGJ,KuoFR,YinPY,etal.AHeuristicAlgorithmforplanningpersonalizedlearningpathsforcontext-awareubiquitouslearning[J].Computers&Education,2010,54(2):404-415.
[11]梁迎丽,梁英豪.基于语音评测的英语口语智能导师系统研究[J].现代教育技术,2012,22(11):82-85.
[12]NkambouR,MizoguchiR,BourdeauJ.AdvancesinIntelligentTutoringSystems[M].Berlin:SpringerHeidelberg,2010.
[13]BoumizaS,BekiarskiA,SouilemD,etal.Developmentofmodelforautomatictutorine-learningenvironmentbasedonstudentreactionsextractionusingfacialrecognition[A].201715thInternationalConferenceonElectricalMachines,DrivesandPowerSystems(ELMA)[C].Sofia:IEEE,2017.488-492.
[14]PetrovicaS,Anohina-NaumecaA,EkenelHK.EmotionRecognitioninAffectiveTutoringSystems:CollectionofGround-truthData[J].ProcediaComputerScience,2017,(104):437-444.
[15]GraesserAC.ConversationswithAutoTutorhelpstudentslearn[J].InternationalJournalofArtificialIntelligenceinEducation,2016,26(1):124-132.
[16]许骏,柳泉波.IT技能测评自动化技术[J].小型微型计算机系统,2001,22(12):1489-1493.
[17]EducationalTestingService.TextEvaluatorCapability[DB/OL].http://www.ets.org/research/topics/as_nlp/educational_applications/,2017-10-15.
[18]BursteinJ.TheE-raterscoringengine:Automatedessayscoringwithnaturallanguageprocessing[A].Mahwah.M.d.shermis&J.c.burstein[C].NJ:LawrenceErlbaumAssociates,2003.113-121.
[19]Chicagomuseumofscience+industry.CodeFred:SurvivalMode[DB/OL].http://www.msichicago.org/experiment/games/code-fred-survival-mode/,2017-10-16.
[20]BenittiFBV,SpolavrN.HowHaveRobotsSupportedSTEMTeaching?[DB/OL].https://www.kukakore.com/robotic-stem-education/,2017-10-15.
[21]PengYX,ZhuWW,ZhaoY,etal.Cross-mediaanalysisandreasoning:advancesanddirections[J].FrontiersofInformationTechnology&ElectronicEngineering,2017,18(1):44-57.
文章来源|文章转自“中国电化教育”微信公众平台，作者系梁迎丽，刘陈，版权归原作者及发布单位所有。
返回搜狐，查看更多
人工智能可能有自主意识了吗
➤大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术
➤不同于当前依赖数据学习的技术路线，新一代人工智能强调在没有经过数据学习的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互
➤当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险。在发展科技的同时，必须同步发展我们的规制体系
➤“技术归根结底是由人类来发展和把控的。人类和人工智能的未来，是由人类选择的。”
今年6月，美国谷歌公司软件工程师布莱克·勒莫因称语言模型LaMDA出现自我意识。他认为，LaMDA拥有七八岁孩童的智力，并相信LaMDA正在争取自己作为一个人的权利。
LaMDA是谷歌去年发布的一款专门用于对话的语言模型，主要功能是可以与人类交谈。
为佐证观点，勒莫因把自己和LaMDA的聊天记录上传至互联网。随后，谷歌以违反保密协议为由对其停职。谷歌表示，没有任何证据支持勒莫因的观点。
事实上，“AI（人工智能）是否拥有自主意识”一直争议不休。此次谷歌工程师和LaMDA的故事，再次引发讨论。人们想知道：人工智能技术究竟发展到了怎样的阶段？是否真的具备自主意识？其判定依据是什么？未来我们又该以怎样的能力和心态与人工智能和谐共处？
人工智能自主意识之辨勒莫因认为LaMDA具有意识的原因有三：一是LaMDA以前所未有的方式高效、创造性地使用语言；二是它以与人类相似的方式分享感觉；三是它会表达内省和想象，既会担忧未来，也会追忆过去。
受访专家告诉《瞭望》新闻周刊记者，上述现象仅仅是因为LaMDA所基于的Transformer架构能够联系上下文，进行高精度的人类对话模拟，故能应对人类开放、发散的交谈。
至于人工智能是否已经具备自主意识，判定标准如何，受访专家表示，对人类意识的探索目前仍属于科技前沿，尚未形成统一定义。
清华大学北京信息科学与技术国家研究中心助理研究员郭雨晨说：“我们说人有自主意识，是因为人知道自己在干什么。机器则不一样，你对它输入内容，它只是依照程序设定进行反馈。”
中国社会科学院科学技术哲学研究室主任段伟文认为，一般意义上，人的自我意识是指对自我具备觉知，但如何认识和理解人类意识更多还是一个哲学问题而不是科学问题，这也是很难明确定义人工智能是否具备意识的原因。
被誉为“计算机科学与人工智能之父”的艾伦·图灵，早在1950年就曾提出图灵测试——如果一台机器能够与人类展开对话而不能被辨别出其机器身份，那么可以称这台机器具有智能。
这一设想随后被具化为，如果有超过30%参与测试的人以为自己在和人说话而非计算机，就可以认为“机器会思考”。
当前随着技术的发展，已经有越来越多的机器能够通过图灵测试。
但清华大学人工智能国际治理研究院副院长梁正告诉《瞭望》新闻周刊记者，图灵测试只能证明机器在表象上可以做到让人无法分辨它与人类的不同，却不能证明机器能够思考，更不能证明机器具备自主意识。
段伟文表示，目前大体有两种方式判定人工智能是否具有自主意识，一种以人类意识为参照，另一种则试图对机器意识进行全新定义。
若以人类意识为参照，要观察机器能否像人一样整合信息。“比如你在阳光下，坐在河边的椅子上看书，有树影落在脸上，有风吹来，它们会带给你一种整体的愉悦感。而对机器来说，阳光、河流、椅子等，是分散的单一元素。”段伟文说。
不仅如此，段伟文说，还要观察机器能否像人一样将单一事件放在全局中思考，作出符合全局利益的决策。
若跳出人类构建自主意识的范式，对机器意识进行重新定义，则需要明白意识的本质是什么。
段伟文告诉记者，有理论认为如果机器与机器之间形成了灵活、独立的交互，则可以称机器具备意识。也有理论认为，可以不追究机器的内心，仅仅把机器当作行为体，从机器的行为表现判断它是否理解所做事情的意义。“比如机器人看到人类喝咖啡后很精神，下次当它观察到人类的疲惫，能不能想到要为人类煮一杯咖啡？”段伟文说。
但在段伟文看来，这些对机器意识进行重新定义的理论，其问题出在，即便能够证明机器可以交互对话、深度理解，但是否等同于具备自主意识尚未有定论。“以LaMDA为例，虽然能够生成在人类看来更具意义的对话，甚至人可以与机器在对话中产生共情，但其本质仍然是在数据采集、配对、筛选机制下形成的反馈，并不代表模型能够理解对话的意义。”
换言之，即便人工智能可以对人类的语言、表情所传递的情绪作出判断，但这主要应用的是自然语言处理、计算机视觉等技术。
郭雨晨直言，尽管在情感计算方面，通过深度学习的推动已经发展得比较好，但如果就此说人工智能具备意识还有些一厢情愿。“把‘意识’这个词换成‘功能’，我会觉得更加准确。”
技术换道有专家提出，若要机器能思考，先要解决人工智能发展的换道问题。
据了解，目前基于深度学习、由数据驱动的人工智能在技术上已经触及天花板。一个突出例证是，阿尔法围棋（AlphaGo）在击败人类围棋世界冠军后，虽然财力和算力不断投入，但深度学习的回报率却没有相应增长。
一般认为，人工智能可被分为弱人工智能、通用人工智能和超级人工智能。弱人工智能也被称为狭义人工智能，专攻某一领域；通用人工智能也叫强人工智能，主要目标是制造出一台像人类一样拥有全面智能的计算机；超级人工智能类似于科幻作品中拥有超能力的智能机器人。
从产业发展角度看，人工智能在弱人工智能阶段停留了相当长时间，正在向通用人工智能阶段迈进。受访专家表示，目前尚未有成功创建通用人工智能的成熟案例，而具备自主意识，至少需要发展到通用人工智能阶段。
梁正说，大模型、大数据的驱动让人工智能在对话的自然度、趣味性上有了很大突破，但距离具备自主意识还很远。“如果你给这类语言模型喂养大量关于内省、想象等与意识有关的数据，它便更容易反馈与意识有关的回应。”
不仅如此，现阶段的人工智能在一个复杂、专门的领域可以做到极致，却很难完成一件在人类看来非常简单的事情。“比如人工智能可以成为围棋高手，却不具备三岁小孩对陌生环境的感知能力。”段伟文说。
谈及背后原因，受访专家表示，第一是当前人工智能主要与符号世界进行交互，在对物理世界的感知与反应上发展缓慢。第二是数据学习让机器只能对见过的内容有合理反馈，无法处理陌生内容。第三是在数据驱动技术路线下，人们通过不断调整、优化参数来强化机器反馈的精准度，但这种调适终究有限。
郭雨晨说，人类在特定任务的学习过程中接触的数据量并不大，却可以很快学习新技能、完成新任务，这是目前基于数据驱动的人工智能所不具备的能力。
梁正强调，不同于当前主要依赖大规模数据训练的技术路线，新一代人工智能强调在没有经过数据训练的情况下，可以通过推理作出合理反应，从而与没有见过、没有学过的事物展开交互。
相比人类意识的自由开放，以往人工智能更多处在封闭空间。尽管这个空间可能足够大，但若超出设定范畴便无法处理。而人类如果按照规则不能解决问题，就会修改规则，甚至发明新规则。
这意味着，如果人工智能能够超越现有学习模式，拥有对自身意识系统进行反思的能力，就会理解自身系统的基本性质，就有可能改造自身的意识系统，创造新规则，从而成为自己的主人。
“人工智能觉醒”背后有关“人工智能觉醒”的讨论已不鲜见，但谷歌迅速否认的态度耐人寻味。
梁正表示：“如果不迅速驳斥指认，会给谷歌带来合规性方面的麻烦。”
据了解，关于人工智能是否有自主意识的争论并非单纯技术领域的学术探讨，而关乎企业合规性的基本坚守。一旦认定公司研发的人工智能系统出现自主意识，很可能会被认为违反第2版《人工智能设计的伦理准则》白皮书的相关规范。
这一由美国电气和电子工程师协会2017年发布的规范明确：“根据某些理论，当系统接近并超过通用人工智能时，无法预料的或无意的系统行为将变得越来越危险且难以纠正。并不是所有通用人工智能级别的系统都能够与人类利益保持一致，因此，当这些系统的能力越来越强大时，应当谨慎并确定不同系统的运行机制。”
梁正认为，为避免社会舆论可能的过度负面解读，担心大家认为它培育出了英国作家玛丽·雪莱笔下的弗兰肯斯坦式的科技怪物，以“不作恶”为企业口号的谷歌自然会予以否认。“不仅如此，尽管这一原则对企业没有强制约束力，但若被认为突破了底线，并对个体和社会造成实质性伤害，很有可能面临高额的惩罚性赔偿，因此企业在合规性方面会更为谨慎。”
我国也有类似管理规范。2019年，国家新一代人工智能治理专业委员会发布《新一代人工智能治理原则——发展负责任的人工智能》，提出人工智能治理的框架和行动指南。其中，“敏捷治理”原则主要针对技术可能带来的新社会风险展开治理，强调治理的适应性与灵活性。
中国信息化百人会成员、清华大学教授薛澜在接受媒体采访时表示，当前人工智能治理面临的最大挑战，是我们没有一套比较成熟的体系来规制其潜在的风险。特别是在第四次工业革命背景下，我国的人工智能技术和其他国家一样都处于发展期，没有现成的规制体系，这样就使得我们在发展科技的同时，必须同步发展我们的规制体系。“这可能是人工智能发展面临最大的挑战。”
在梁正看来，目前很难断言新兴人工智能技术具有绝对风险，但必须构造合理的熔断、叫停机制。在治理中既要具有一定的预见性，又不能扼杀创新的土壤，要在企业诉求和公共安全之间找到合适的平衡点。
毕竟，对人类来说，发展人工智能的目的不是把机器变成人，更不是把人变成机器，而是解决人类社会发展面临的问题。
从这个角度来说，我们需要的或许只是帮助人类而不是代替人类的人工智能。
为了人机友好的未来确保通用人工智能技术有益于人类福祉，一直是人工智能伦理构建的前沿。
薛澜认为，在科技领域，很多技术都像硬币的两面，在带来正面效应的同时也会存在风险，人工智能就是其中一个比较突出的领域。如何在促进技术创新和规制潜在风险之间寻求平衡，是科技伦理必须关注的问题。
梁正提出，有时技术的发展会超越人们预想的框架，在不自觉的情况下出现与人类利益不一致甚至相悖的情况。著名的“曲别针制造机”假说，即描述了通用人工智能在目标和技术都无害的情况下，对人类造成威胁的情景。
“曲别针制造机”假说给定一种技术模型，假设某个人工智能机器的终极目标是制造曲别针，尽管看上去这一目的对人类无害，但最终它却使用人类无法比拟的能力，把世界上所有资源都做成了曲别针，进而对人类社会产生不可逆的伤害。
因此有观点认为，创造出法力高超又杀不死的孙悟空本身就是一种不顾后果的冒险行为。
与其对立的观点则认为，目前这一担忧为时尚早。
“我们对到底什么样的技术路线能够发展出具备自主意识的人工智能尚无共识，现在谈论‘禁止发展’，有种空中楼阁的意味。”梁正说。
商汤科技智能产业研究院院长田丰告诉《瞭望》新闻周刊，现实中人工智能技术伦理风险治理的关键，是产业能够在“预判防范-应用场景-用户反馈-产品改进”中形成市场反馈机制，促成伦理风险识别与敏捷治理。同时，企业内部也需建立完整的科技伦理自律机制，通过伦理委员会、伦理风控流程平台将伦理风险把控落实到产品全生命周期中。
郭雨晨说，人工智能技术发展到目前，仍始终处于人类可控状态，而科技发展的过程本来就伴随对衍生问题的预判、发现和解决。“在想象中的人工智能自主意识出现以前，人工智能技术脚踏实地的发展，已经造福人类社会很多年了。”
在梁正看来，人与人工智能在未来会是一种合作关系，各自具备对方无法达成的能力。“技术归根结底是由人类来发展和把控的。人类和人工智能的未来，是由人类选择的。”
编辑：李华山
2022年08月16日07:42:05
人工智能的伦理挑战与科学应对
【光明青年论坛】
编者按
2023年2月21日，中国外交部正式发布《全球安全倡议概念文件》，呼吁“加强人工智能等新兴科技领域国际安全治理，预防和管控潜在安全风险”。在中国式现代化进程中，人工智能的技术革新是助推我国科技创新的重要力量之一。作为最具代表性的颠覆性技术，人工智能在给人类社会带来潜在巨大发展红利的同时，其不确定性也会带来诸多全球性挑战，引发重大的伦理关切。习近平总书记高度关注人工智能等新兴科技的发展，强调要加快提升“人工智能安全等领域的治理能力”，“塑造科技向善的文化理念，让科技更好增进人类福祉”。为此，本版特组织几位青年学者围绕人工智能的伦理挑战与科学应对展开讨论，并邀请专家予以点评，以期引发学界的更多关注，为推动人工智能健康发展贡献智慧。
与谈人
彭家锋 中国人民大学哲学院博士生
虞昊 华东师范大学政治与国际关系学院博士生
邓玉龙 南京师范大学哲学系博士生
主持人
刘永谋 中国人民大学哲学院教授、国家发展与战略研究院研究员
1.机遇与挑战并存的人工智能
主持人：新技术革命方兴未艾，以人工智能等为代表的新兴科技快速发展，大大拓展了时间、空间和人们的认知范围，人类正在进入一个“人机物”相融合的万物智能互联时代。请具体谈谈人工智能给人类社会发展带来什么样的机遇？
彭家锋：人工智能、大数据、物联网、云计算等智能技术蓬勃兴起，对人类社会的方方面面产生深刻影响，推动整个社会逐步迈入智能社会。在此过程中，存在许多重大历史机遇需要我们把握。就技术治理而言，人工智能作为一种治理技术，正在助推社会治理的治理理念、治理方式、治理效能等方面的变革，将传统技术治理提升至智能化新阶段，呈现出“智能治理的综合”趋势。智能治理将全面提升社会公共治理的智能化水平，主要呈现出四个方面的特征：一是治理融合化，即促进各种智能技术与其他治理技术相互融合，大幅度提升智能社会的治理水平；二是治理数据化，即以日益增长的海量数据为基础，通过对数据映射出来的“数字世界”进行社会计算，实现治理目标；三是治理精准化，即发挥智能技术强大的感知能力、传输能力和计算能力，将传统的粗放治理转变为精准治理；四是治理算法化，即不断完善智能决策系统，尝试将程序化的算法决策扩展到更多的决策活动中，从而提高决策质量。
虞昊：人工智能有助于反思人类社会得以建立与发展的基础。随着分析式AI向着生成式AI不断演变，尤其是生成式AI初步展现出判别问题、分析情感、展开对话、创作内容等越来越具有人类特征的功能，原本属于人类的领域正被人工智能以另一套由“0”与“1”构成的计算机语言逐步侵蚀。这既是对人类社会的冲击，也势必会在更加平等的开放性框架中增强人类的主体性，促进人类社会进一步发展。
邓玉龙：总体来说，以人工智能为代表的新科技发展，显著提升了社会生产力。例如，生成式AI不但能完成传统AI的分析、判断工作，还能进一步学习并完成分析式AI无法从事的创造性工作。从人机交互的角度来看，人工智能也促进了生产关系的高效发展。具体表现在：一是刺激劳动形态的转化。人工智能高效承担大量的基础机械性劳动，人类劳动则向高阶的创造性劳动转化，由此引发社会层面的劳动结构转型、升级，并且以人工智能为中介，社会范围内的劳动整合、协调能力也实现升级。二是促进劳动场域的重构。随着劳动形态的转化和劳动的社会化扩展，人工智能将劳动从固定场域中解放出来，人类劳动的灵活性增加。相比于创造性劳动，机械性劳动更加受到空间和时间的制约，而在人工智能从技术层面替代更低边际成本的基础性劳动之后，人类劳动空间和时间的自由性实现跃迁。三是对主体的发展提出了更高要求，尤其是对主体适应社会发展提出了更高要求。人工智能技术的发展对人类传统的知识结构提出挑战，要求人类更新原有的知识结构以适应社会发展需要，也对教育提出更高要求，教育模式和教育内容需要更契合科技发展的水平，培养更加全面发展的人才。
主持人：人工智能的一系列产物在给人们带来生活便利的同时，也一定程度上引起大家对其可能引发的伦理挑战的警惕。一些人关注人工智能的风险问题，对人工智能的推进有些焦虑。如何看待这种警惕和焦虑？
虞昊：人工智能的风险以及由此带来的焦虑，是完全可以理解的。但我们无法返回一个没有人工智能的世界，人工智能已然深度介入人类社会，试图遏制人工智能的推进只能是螳臂当车。同时我们对人工智能的发展也不能放任不管，无视甚至于压制人工智能的推进只能是掩耳盗铃。因此，我们应该正视这种焦虑，在发展人工智能的过程中探求解决方案，在人工智能带来的风险中寻求危中之机。
邓玉龙：我们应正确看待这种焦虑。要看到，焦虑有其积极的意义，它体现人类的忧患意识，催生对人工智能风险的预见性思考，提醒我们注意焦虑背后人工智能技术发展存在的问题。正确对待焦虑有助于积极采取措施防范风险，辩证分析焦虑中先见性的思考，通过社会治理模式的升级化解风险问题。同时，仅有焦虑和恐惧是不够的，更重要的是积极解决人工智能发展带来的社会问题。从劳动的角度看，人工智能确实会取代部分人类劳动，推动劳动结构转型升级，让劳动向着碎片化、个体化方向发展，劳动者处于弱势地位，面临着“机器换人”的挑战。但是我们也应该理性认识到，人工智能不是对人类劳动能力的完全替代，而是对劳动者提出了更高的要求，要求劳动者掌握科学知识，将技术的发展内化为自身能力，在更具创造性的劳动中实现自身价值。
彭家锋：任何技术的发明使用，不可避免地伴随着这样或那样的风险。人工智能技术自然也不例外，在其应用过程中，同样引发了诸如隐私泄露、算法歧视、法律责任等风险问题。因此，关注人工智能的风险问题，并由此对人工智能的推进产生焦虑，具有一定理论依据和现实基础。但更应当清醒地认识到，人工智能的某些相关风险可以提前得到规避，并不必然会发生；即便真的发生，也仍可不断寻求化解风险的有效手段。以个人隐私滥用风险为例，在治理过程中，虽然不可避免地会涉及个人数据收集和分析处理，但可以通过建立完整的规范和监管体系来保护个人隐私，降低滥用风险。
2.人工智能科技竞争的“伦理赛道”
主持人：习近平总书记在以视频方式出席二十国集团领导人第十五次峰会时指出，“中方支持围绕人工智能加强对话，倡议适时召开专题会议，推动落实二十国集团人工智能原则，引领全球人工智能健康发展”。请谈谈“人工智能原则”应包含哪些内容？科技向善的文化理念对推动全球人工智能健康发展具有怎样的现实价值？
彭家锋：为应对人工智能等新科技快速发展带来的伦理挑战，2022年，中共中央办公厅、国务院办公厅印发了《关于加强科技伦理治理的意见》，其中明确了“增进人类福祉”“尊重生命权利”“坚持公平公正”“合理控制风险”“保持公开透明”等五项科技伦理原则。我认为，这五项原则基本涵盖了人工智能原则的伦理要求，彰显了科技向善的文化理念。科技向善的文化理念，根本目标是让科技发展更好地服务社会和人民，带来良好社会或社会公益的善。科技向善对推动全球人工智能健康发展至少具有以下三个方面现实价值：一是塑造公众信任。公众对人工智能的信任很大程度上并不完全由相关风险程度决定，而是取决于公众的利益与价值是否得到足够重视。后者正是科技向善的内在要求。二是引领技术创新。科技向善的文化理念将在技术创新发展过程中发挥价值引领作用。三是促进全球合作。科技向善的文化理念试图在全球范围内建立人工智能伦理规范的“最大公约数”，各国在达成伦理共识的基础之上，能够建立互信，实现更加充分深入的国际合作。
虞昊：个人认为，人工智能原则也应包含非对抗与非失控的理念。非对抗意味着不应将人工智能视作人类社会的对抗性存在，人工智能已经成为人类社会的构成性要素，我们必须持更为开放的态度去面对人工智能。非失控意味着不应放弃对人工智能的伦理规范，应以智能的方式去规范加速发展的人工智能。如果以上述理念为前提，也就是说，在支持人工智能发展的情况下，科技向善的文化理念在推动全球人工智能健康发展中就变得极为重要。此处的“善”在国家治理层面即指向“善治”，而当人工智能的发展从国家范围扩展到全球范围，“善治”就在构建人类命运共同体的意义上拥有了更贴近现实的内涵。各国应摒弃冷战思维与零和博弈，基于善意与友谊共同思考人类作为整体如何在人工智能的冲击下通往全球性的“善治”。
邓玉龙：2019年欧盟发布《可信赖的人工智能伦理准则》，2021年中国国家新一代人工智能治理专业委员会发布《新一代人工智能伦理规范》（以下简称《规范》）。与欧盟发布的伦理准则相比，《规范》体现了中国特色社会主义的制度优势，旨在将伦理规范融入人工智能全生命周期。人工智能发展的根本目的是促进人的全面发展，因此，我以为，人工智能原则还应体现共享和有序发展的要求。共享，旨在防止人工智能的技术垄断。科技发展应该兼顾全体人民的利益，而不是服务于少数群体，由全体人民共享科技发展成果，推动全球科技水平的共同增长。有序发展，旨在防止人工智能技术的无序扩张。人工智能技术的发展最终是为了提升人的幸福感，推动科技有序发展能够促进人机和谐融合，有效预防潜在无序扩张的风险。
主持人：从规范层面来说，伦理反思对规范人工智能发展的作用主要体现在哪些方面？
彭家锋：近年来，世界各主要国家在人工智能领域竞争日趋激烈，纷纷将人工智能发展置于国家发展的战略层面。比如，美国陆续出台《国家人工智能研究和发展战略计划》（2016）和《关于维持美国在人工智能领域领导地位的行政命令》（2019）；欧盟先后发布《欧洲人工智能战略》（2018）和《人工智能白皮书》（2020）；中国也较早发布了《“互联网+”人工智能三年行动实施方案》（2016）和《新一代人工智能发展规划》（2017）。人工智能科技竞争的客观局面已然形成。在此背景下，如果忽视人工智能技术发展所带来的全球性风险与挑战，极有可能陷入技术赶超的竞争逻辑。因此，亟须规范人工智能的科技竞争，而倡导伦理反思或许就是一条可行之路。伦理反思的意义至少在于：一是设定伦理底线。人工智能技术的开发和应用需要遵循一些基本的价值理念和行为规范。只有守住伦理底线，才有可能避免颠覆性风险的发生。二是实现敏捷治理。伦理反思是一个动态、持续的过程，贯穿于人工智能科技活动的全生命周期。为了确保其始终服务于增进人类福祉和科技向善的初衷，需要保持应有的道德敏感性，以灵活、及时、有效的手段化解人工智能带来的各种伦理挑战，确保其在科技向善的道路上行稳致远，实现良性发展。
邓玉龙：人工智能科技竞争是为了促进科学技术发展，而科学技术发展的最终目的是推动人类社会的进步。人工智能科技竞争不应该仅包括技术竞争的单一维度，更不应该通过技术优势遏制他国的科技发展，而应该是在人工智能科技条件下的综合性竞争，通过良性竞争促进全球人工智能和全人类的共同发展。其中就应该包括社会治理竞争，通过社会治理保障社会公平，因而对社会中人与人关系的伦理反思构成人工智能科技竞争的有机组成部分。首先，伦理反思对人工智能科技竞争提出了更高的要求。人工智能的公平性、可信任性、可解释与透明度、安全性不仅是伦理要求，也代表了人工智能技术的发展方向，是人工智能科技竞争需要抢占的技术制高点。科技的发展是为了人的全面发展，因而人的发展内嵌于科技发展要求，伦理反思有助于防止工具主义的泛滥。其次，伦理反思为人工智能科技竞争提供价值引导。伦理反思注重保障人的权利，科技发展并不是社会发展中的唯一衡量因素，我们还应该关注其中多样性的因素，尤其注重保护特殊群体的利益，例如防止数据鸿沟等不良影响。伦理反思有助于实现人工智能的综合性健康发展。
3.人工智能安全与人的全面发展
主持人：科学探究一直以来都是人们认识世界和了解自身的重要认知方式，人工智能等信息产业的革命如何影响着人们的认知方式？
彭家锋：人工智能等信息产业的革命，促进了科学研究新范式——数据科学的诞生，进而对人们的认知方式产生深刻影响。数据科学被认为是继实验、理论和模拟之后的新的科研范式。相较于传统科学，数据科学融合了统计和计算思维，通过人工智能等技术提供的海量数据、强大算法和算力，能够直接从数据中寻找相关关系、提取相关性或者预测性知识，进而产生一种基于相关性的科学思维模式。但这种相关性并不一定能够转化为因果关系，因为可解释性对于从数据科学技术确定的相关性中提取因果解释至关重要，而相关技术一般都缺乏必要的透明度和可解释性。数据科学更可能成为一种预测科学，但是预测并不是科学追求的唯一目标。通过揭示世界的潜在因果结构来解释和干预现象，也是科学的两个重要目标。因此，尽管数据科学能够通过分析大量数据生成相关性知识，却不能直接产生因果解释。对此，传统科学的可检验性假设方法和因果规律探求仍有其重要价值。数据科学并非取代传统科学，相反，两者将相互补充，共同成为人类探索世界的有效工具。
虞昊：显而易见的是，随着人工智能向着通用人工智能迈进，其能够为人们提供的教育资源、生活娱乐、工作讯息也越来越丰富，人们势必越来越依赖于通过与人工智能进行交互来获取外界信息。因此，当人工智能深度地构成人们认知世界的滤镜时，若不对人工智能本身具有重复性、同质性倾向的认知框架保持警醒，人工智能可能扭曲人们的认知方式直至影响人的主体创造性。
邓玉龙：以人工智能为代表的全新技术发展被称为第四次工业革命，其中最显著的特征就是机器与人类的深度融合，机器不再作为一种外在性的工具被人类使用，而是在与人类的深度关联中影响人类的认知方式。一方面，信息产业革命丰富了人类认知的联结方式。人工智能和大数据技术的发展促进人类的分析逻辑从因果关系扩展为相关关系，对相关关系的重视使人工智能可以从大数据而非小数据维度获取信息，为人类认知提供新的视角。按照传统人类认知方式的理解，因果关系要求关于世界的认知是确定性的，而这在数字时代的复杂性社会中很难实现。人工智能对相关关系的认知填补了这一缺失，允许我们在无法掌握确定信息但在掌握大量数据的条件下对未来趋势作出预测。另一方面，如果我们对人工智能等科技的输出结果和生成内容盲目信赖，将结果和内容与经验事实之间进行绝对等同的连接，误认为是事实的全部，那么我们就会丧失人文主义抽象反思的能力，对此我们应当保持警惕，始终坚持反思和批判的人文精神。
主持人：如何调适人的主体创造性与信息高度集成共享之间的关系？
彭家锋：当人们逐渐将更多创造性工作交由人工智能完成，不免让人担忧人工智能是否将会威胁到人的主体创造性。从人机关系的角度来看，这种担忧是基于一种人机敌对论的视角，认为人工智能挤压了人的主体创造性空间，是替代逻辑的延续。但从人机协作的视角出发，将人工智能看作人的得力帮手，通过创造性地使用人工智能可以赋予人类更大的创造性空间。比如，在进行文字写作、多媒体脚本、程序代码、文稿翻译等工作时，可先由人工智能高水平地完成草稿工作，然后再由人类进行一些创造性的调整和发挥。此时人工智能生成的内容将成为进一步创作的原材料，人类将以更高的效率投入创造性活动之中。当然，要实现以上效果并非易事，不仅需要思想观念的转变，还应在制度安排、教育方式等方面作出相应调整。
虞昊：面对信息高度集成共享的人工智能，人有可能转变为算法的动物。试想下述场景：当依据人工智能展开行动变得足够便捷有效时，行动者便会倾向于采信人工智能，此时，看似是人类行动者基于自然语言在进行互动，实则是算法逻辑基于计算机语言在进行数字化运转。于是，人的主体创造性被侵蚀，人可能沦为算法动物。对此类情形，我们应该保持足够的清醒与警惕。
邓玉龙：人工智能技术生成的内容（AIGC）具有高度集成共享的特性，能够高效地对人类知识进行数据挖掘、信息生成。调适人的主体创造性与信息高度集成共享之间的关系，我们需做到如下几个方面：首先，需要通过人的创造性扩大AIGC数据库，当下AIGC主要是依赖于大语言模型，以大量的网络文本作为训练数据库生成的，通过人的创造性生成可以不局限于网络文本，而是进一步扩展数据库的训练文本，从而提高其丰富度。其次，需要通过人的创造性为AIGC提供价值训练，通过人的创造性生成的价值立场、伦理法则等与AIGC的训练数据库相融合，从而建构可信赖、可持续的信息高度集成共享机制。最后，需要将人创造性生成的内容与AIGC共同作为人类知识的来源，人类知识的获得不能仅仅局限于AIGC，而是需要人发挥其主体创造性对人工智能技术生成的内容进行反思和拓展，将人类无法被数据化的、经验性的知识与AIGC数据化的知识融合成为人类知识的来源。
（本版编辑张颖天整理）