当人工智能有了情感，人类未来该如何自处
《情感经济：人工智能、颠覆性变革与人类未来》，[美]罗兰·T.拉斯特、黄明蕙著，彭相珍译，中译出版社2022年1月版。
文学作品和电影，往往将奇点视为威胁和恐怖事件。例如，在斯坦利·库布里克的电影《2001：太空漫游》中，计算机HAL（IBM公司缩略名称字母前移一位，即H-I、A-B、L-M），不仅具有机械智能和思维智能，它还具有足够的情感智能来愚弄和操纵宇航员（并杀死了大部分宇航员）。最终,HAL基于自己的利益，损害了它本应服务的人类的利益。
电影《2001：太空漫游》（1968）剧照。
但在斯蒂芬·斯皮尔伯格的优秀电影《人工智能》中，人工智能表现为更积极的形象，库布里克也是该片的主要合作者（直到他英年早逝）。在这部电影中，大部分主角都是拥有发达情感智能的机器人。在电影的最后，人工智能外星人已经占据了主导地位，但他们对老一代的机器人，表现出了相当程度的关心、关注和同情。电影《她》也从一种有利于人类的角度描绘了人工智能。人工智能“操作系统”（斯嘉丽·约翰逊配音），对她的人类主人表现出极大的同情心。经典科幻电影《银翼杀手》也从正面描写了人工智能机器人,并描绘了具备深刻情感智慧的最先进的机器人。
因此，我们也看到，人类对人工智能的情感能力的观感是矛盾的。在最坏的情况下，人工智能将利用其情感智能来操纵人类，以达到自己的目的。在最好的情况下，人工智能将利用其情感智能，与人类产生共鸣并帮助人类。我们将在下文中探讨这两种可能性。
电影《人工智能》（2001）剧照。
收入和财富不平等会进一步恶化吗？
一旦人工智能发展到了高度的情感智能，它将全方位压倒人类智能。这将自然而然地导致一个后果，即人类的劳动变得不够理想，因为人工智能几乎在所有方面都表现得比人类智能更好。这就意味着人类的劳动将丧失价值，且所有的工作将由人工智能接管。如果经济中的所有价值，几乎都来自人工智能，那么价值将几乎来自资本，而不是劳动。其结果是，经济将由相对少数的资本家掌控。这反过来又会进一步加剧收入和财富的严重不平等。在这种情况下，大多数人类将如何谋生，尚无答案。
人类真的能控制人工智能吗？
许多思想家声称人工智能永远也不能自主完成任务，因为它必须由人类编程。因此，人类将永远控制着人工智能。但事实真的如此吗？我们不妨简单地回想一下当前最常见的人工智能形式，即深度学习神经网络。这种人工智能已经被视为一个“黑盒子”，因为人类很难对其如何产出结果进行解释，即为什么它们能给出特定的解决方案。为此，计算机科学当前的一个重要研究领域就是，如何让深度学习对其客户（人类）而言，变得“可解释”。但一个显然的趋势是，随着人工智能变得越来越复杂，也越来越难被人类理解，导致人类感觉其逐渐失控。
最终，这个问题将变得越来越严重，而不是随着发展逐渐淡化。当人工智能变得足够聪明时，它就有可能做到自我编程。毕竟，计算机的自我编程作用已经存在，并将随着时间的推移而变得越来越普遍。换句话说，人类对人工智能的控制力正在迅速减弱，而随着控制力的丧失，人类如何确保人工智能继续按照既定的要求，致力于实现人类设定的目标,而非它自己的目标，也将成为一个问题。
牛津大学哲学家尼克·博斯特罗姆和麻省理工学院物理学家马克斯·泰格马克,都提醒人类应该注意这种人类失去对机器的控制的问题。他们都指出，人工智能可能会演变成一种智能或多种智能，无论哪种结果，都可能威胁到人类的控制力，甚至威胁到人类的生存能力。正如作家凯文·凯利（KevinKelly）所指出的那样，人工智能设备的联网可能造就异常强大的超级人工智能。
人类享受悠闲生活的设想
关于奇点，人们设想的最幸福场景是，人工智能负责完成社会的所有工作，而人类则可以自由地过着悠闲的生活，追求艺术、玩电子游戏、看3D电视，或沉浸在虚拟现实中。人类也会拥有几乎无限的社交时间（无论是面对面交流还是线上互动），或许未来全人类的生活都会变得类似现代的沙特阿拉伯王国公民的生活。在那里，几乎所有的工作，都由外国人完成,而沙特公民（至少是男性）则享有相当高程度的财富和自由。
电影《人工智能》（2001）剧照。
然而，如果我们从现实的角度来研究这种人类享受闲暇的情景，就会看出这种可能性将很难被实现。因为控制资本的相对少数人，将控制社会的大部分财富，而与对社会没有价值贡献的其他人分享财富，显然不符合前者自身的利益。或许会有少数杰出的人类技术专家能够赚取大量的金钱，但即使是这样的可能性也不太现实，因为人工智能将在三个智能层面碾压人类，并能够比最优秀的人类更好地完成各项工作。
有人可能会辩驳，最终剩下的少数占据主导地位的资本家，或许会是利他主义者，并愿意把自己的财富分配给其他没有赚钱能力的人类，但我们在现实世界中，并没有看到很多证明此类举动可能存在的证据。事实上，在收入最不平等的国家（如印度）中，出现此类善举的概率比世界上最平等的国家（如丹麦）要少得多。
人类的増强和改造
库兹维尔认为，既然相较于超级人工智能而言，人类在经济上不会有竞争力，那么唯一有吸引力的发展道路，就是人类利用人工智能来增强自己，甚至是彻底改变自己。人类利用人工智能实现增强自己，已经存在很长时间了。
首先，是身体的增强。例如，有人可能会使用一条人工腿，来替代被截肢的腿。听力不好的人可以戴助听器，视力不好的人可以戴眼镜。
接下来，是思维增强。人工智能可以通过很多方式来增强人类的思维智能。在很多方面，人工智能已经比人类更聪明了，这些能力可能会被用于人类能做的事情。例如，人类可能会给自己增加一个记忆芯片或计算模块，现在已经有各种各样的方法，能够连接人脑和计算机。最近，科学家已经成功地将人脑与互联网连接起来，可以让人类直接与一个巨大的信息网络连接。
最终，我们还将看到情感的增强。黄明蕙教授曾开玩笑说，她有时候希望拉斯特有一个“同理心芯片”，可以在和她交流的时候运用。而拉斯特则希望黄明蕙教授在开这个玩笑的时候，就能使用这个同理心芯片，然后她就会知道，这样的玩笑听起来不公平且伤人。我们离制作出这样的同理心芯片还相当遥远，但必定会越来越努力地利用人工智能，让人类变得更好。
电影《银翼杀手：2022黑暗浩劫》（2017）剧照。
另一种可能性是，人类有可能完全脱离身体的躯壳。如果整个人类的大脑，都能够被映射和理解（目前，我们只能在体型微小的动物身上运用这种技术），那么理论上一个人的所有知识和记忆，都可以被上传到电脑，甚至转移到机器人的躯体里。这样的技术，被称为“数字季生”气因此，仅在理论上而言，只要计算机能够运行，这样的人类就可以永生。
作为一种已经存在的技术，人类增强几乎必然会随着时间的推移，而变得更加广泛和复杂，从只能够增强机械智能,发展到思维智能和情感智能的增强。
但我们也有理由相信，人类的增强和改造将无法在奇点中存活，且我们的理由非常合乎逻辑。假设我们现在有一个增强型的人类，表现为人类智能+人工智能。毫无疑问，增强的人类将优于未增强的人类，因为其人工智能部分可增加价值。现在，我们再从人工智能的角度来看，人类智能+人工智能可能同样优于单纯的人工智能，只要人类智能部分能贡献一些人工智能不具备的东西。
但问题在于，在奇点概念中，人工智能将在各个方面优于人类智能，换句话说，人工智能可以利用人工智能，生产出一个“更好”的人工智能版本（我们将其称为HI）。那么，人工智能生产的人类智能+人工智能，将比人类增强版的人类智能+人工智能更好。也就是说，人工智能将失去与人类合作的动力。结论是,在人类可以控制人工智能的范围内，人类智能+人工智能(HI+AI)的版本是可行的，但基于优胜劣汰的自然进化理论,更有效的人工智能更有可能存活下来，最后将导致不与人类智能合作成为对人工智能最有效的策略。
末日场景
博斯特罗姆认为，如果出现了人工智能“超级智能”，末日情景是最有可能出现的结果。他指出，在超级智能的人工智能实体中，未必存在仁爱等人类品质。这表明人类作为物种的存在将有处于巨大危险。例如，假设人工智能与人类之间的智力差异，大致类似于人类与蚊子之间的智力差异。如果人类认为彻底消灭蚊子不是什么大事儿，那么人工智能在将人类视为蟆蚁，并彻底灭绝人类的时候，能不能做到三思而后行？
物种进化的下一阶段？
当然，我们也拥有一个合理地应对高级人工智能的出现的积极方式，就是将其视为人类进化的下一个阶段。就像人类从“低等的”、不那么聪明的猿类进化而来那样，一个高级的人工智能，将以人类为基础进化出来。前面讨论的电影《人工智能》就预示了这种可能性。在那部电影中，人类已经灭绝，地球完全由人工智能管理。我们能否接受这种情况可能取决于我们与人工智能的联系，以及我们是否认为新兴的超级人工智能比人类“更好”。但是，要人类接受这样的想法可能存在相当大的阻力，这也意味着，人类接受超级人工智能，可能会变得越来越困难。
电影《人工智能：灭绝危机》（2018）剧照。
当人工智能变得足够聪明的时候，它可以在机械、思维和情感这三个领域，都优于人类的智能。这就是广为人知的奇点场景。我们的观点是，这种情况的发生，可能还需要几十年的时间，但它最终将是不可避免的。市面上已经有不少流行的电影，让我们初步领略了奇点到来之后的可能场景。
和所有大规模的技术变革一样，奇点导致的后果存在无数的可能性，从乌托邦式的（人工智能负责工作，人类负责享受），到灾难性的（人工智能彻底淘汰人类）。但在这两个极端场景的中间，存在一个相辅相成的领域，即人类有可能利用人工智能来增强自己的能力，就像今天我们经常使用机械辅助工具那样。不幸的是，我们得出的结论是，帮助人类可能不符合人工智能自身的利益。相比之下，奇点将使目前的社会由思维经济向情感经济的过渡，变得平淡无奇、无足轻重。
本文选自《情感经济：人工智能、颠覆性变革与人类未来》，较原文有删节修改。已获得出版社授权刊发。
作者丨[美]罗兰·T.拉斯特、黄明蕙
摘编丨安也
编辑丨张进
导语校对丨赵琳
刘鹏：人工智能会产生自我意识吗
一场正常的模仿游戏有ABC三人参与，A是男性，B是女性，两人坐在房间里；C是房间外的裁判，他的任务是要判断出这两人谁是男性谁是女性。但是男方是带着任务来的：他要欺骗裁判，让裁判做出错误的判断。
那么，图灵问：“如果一台机器取代了这个游戏里的男方的地位，会发生什么？这台机器骗过审问者的概率会比人类男女参加时更高吗？这个问题取代了我们原本的问题：‘机器能否思考？’”而这，就是图灵测试的本体。
来源：果壳网
一场正常的模仿游戏有ABC三人参与，A是男性，B是女性，两人坐在房间里；C是房间外的裁判，他的任务是要判断出这两人谁是男性谁是女性。但是男方是带着任务来的：他要欺骗裁判，让裁判做出错误的判断。
那么，图灵问：“如果一台机器取代了这个游戏里的男方的地位，会发生什么？这台机器骗过审问者的概率会比人类男女参加时更高吗？这个问题取代了我们原本的问题：‘机器能否思考？’”而这，就是图灵测试的本体。
来源：果壳网
图灵很聪明，“思考”、“意识”这些都是虚无缥缈的东西，试图用定义法来证明几乎不可能（难免会有哲学家社会学家出来挑刺）。那我索性不去阐释什么是思考能力，只是用另一种公认具有思考能力的生物——人类作为参照物，如果一台机器“表现得”和人类难以区分，即可被视为具备了人类智能。
图灵的思路简单而明确——只有一种智能才能去识别另一种智能。
不过“原始版本的图灵测试”思路虽好，可操作性却不强。
到了1952年，在一场BBC广播中，图灵谈到了一个新的想法：让计算机来冒充人。如果不足70%的人判对（也就是超过30%的裁判误以为在和自己说话的是人而非计算机），那就算作成功了。
可以看出，图灵测试的核心其实不是“计算机能否和人对话”，而是“计算机能否在智力行为上表现得和人无法区分”。冒充异性和冒充人类都不过是特例而已。
那么时至今日，是否有机器已经通过了图灵测试？
答案是——有。
腾讯科技讯2014年6月9日消息，据国外媒体报道，最近，一个俄罗斯团队开发的聊天机器人软件，使得三分之一的聊天参与者，认为它是一个人类。这意味着在人类历史上，计算机首次通过了有关计算机智能能否超过人类的图灵测试。
1950年，计算机科学家图灵提出了图灵测试，这一测试要回答的问题，是机器是否能够像人类一样思考。图灵提出，可以让安装智能问答软件的计算机，和人类进行问答测试，如果30%的问答参与者，认为这台计算机无法和人类相区别，则可以认为计算机通过了图灵测试，“会思考的机器”将不再是梦想。
据报道，俄罗斯的一个团队，开发了名为“EugeneGoostman”的人工智能聊天软件，它模仿的是一个来自乌克兰的13岁男孩（男孩名字也是“EugeneGoostman”）。英国雷丁大学对这一软件进行了测试，据报道，在伦敦皇家学会进行的测试中，33%的对话参与者认为，聊天的对方是一个人类，而不是计算机。
这意味着图灵测试获得通过。
英国雷丁大学的教授KevinWarwick对英国媒体表示，过去已经有研究者宣称自己研发的计算机和软件通过了图灵测试，但是都是预先设置了对话的主题，而此次“EugeneGoostman”的测试，并未事先确定话题，因此可以宣布，这是人类历史上第一次计算机真正通过图灵测试。
不过这位教授也表示，计算机实现人类的智力，对于社会来说有着复杂的意义，未来这种计算机的高智能，会被用于网络犯罪。
上述测试于上周六进行，据悉，当天也是图灵去世60周年纪念日。
另外，2012年，另外一款软件“差一点”通过了图灵测试，有29%的问答参与者认为对方是人类而不是计算机，距离30%只有一步之遥。（晨曦）
来源：腾讯科技
腾讯科技讯2014年6月9日消息，据国外媒体报道，最近，一个俄罗斯团队开发的聊天机器人软件，使得三分之一的聊天参与者，认为它是一个人类。这意味着在人类历史上，计算机首次通过了有关计算机智能能否超过人类的图灵测试。
1950年，计算机科学家图灵提出了图灵测试，这一测试要回答的问题，是机器是否能够像人类一样思考。图灵提出，可以让安装智能问答软件的计算机，和人类进行问答测试，如果30%的问答参与者，认为这台计算机无法和人类相区别，则可以认为计算机通过了图灵测试，“会思考的机器”将不再是梦想。
据报道，俄罗斯的一个团队，开发了名为“EugeneGoostman”的人工智能聊天软件，它模仿的是一个来自乌克兰的13岁男孩（男孩名字也是“EugeneGoostman”）。英国雷丁大学对这一软件进行了测试，据报道，在伦敦皇家学会进行的测试中，33%的对话参与者认为，聊天的对方是一个人类，而不是计算机。
这意味着图灵测试获得通过。
英国雷丁大学的教授KevinWarwick对英国媒体表示，过去已经有研究者宣称自己研发的计算机和软件通过了图灵测试，但是都是预先设置了对话的主题，而此次“EugeneGoostman”的测试，并未事先确定话题，因此可以宣布，这是人类历史上第一次计算机真正通过图灵测试。
不过这位教授也表示，计算机实现人类的智力，对于社会来说有着复杂的意义，未来这种计算机的高智能，会被用于网络犯罪。
上述测试于上周六进行，据悉，当天也是图灵去世60周年纪念日。
另外，2012年，另外一款软件“差一点”通过了图灵测试，有29%的问答参与者认为对方是人类而不是计算机，距离30%只有一步之遥。（晨曦）
来源：腾讯科技
既然有机器通过了图灵测试，是否说明机器已经具备了思考能力？显然——不是。
就我们目前所知，尚无真正具备独立思考能力的机器问世。
通过测试，却显然不具备思考能力的机器出现。这是否说明“图灵测试”根本没有用，是一个无效的证明方式？
质疑·中文房间思想实验
早在1980年，约翰·赛尔在《心智、大脑和程序》一文中提出著名的“中文房间”思想实验用以驳斥“图灵测试”的合理性。
塞尔说，想象他被关在一个只开了一个小口的房间之中。
周围摆满了英汉词典，他作为一个完全不懂中文的人与房间外的中国人交流。
写满中文的纸条递了进来，他查字典将中文翻译成英文，再将要回复的话借助工具书翻译成中文递出去。
那么外面的人就会认为约翰·赛尔精通中文。
这里约翰·赛尔是用了类比的方法，他对中文一窍不通却可以让外面的人以为他精通中文，同理，机器即使表现得很像人类也并不能证明其具备了思考能力——“只是看起来像是在思考”。
按照约翰·赛尔的观点，应当是认为机器永远不可能真正具备思考能力，即使表现得很像具备思考能力，本质上也不过是在忠实地运行程序而已。
持此观点的人不在少数，认为机器永远不可能产生意识，人是造物主独一无二的光荣。
斯皮尔伯格《人工智能》剧照
我与另一些图灵的拥虿一样，并不认同中文房间思想实验的结论。首先约翰·赛尔刻意弱化了工具书的功能和翻译过程的艰难，让这个实验似乎符合人们的直觉。
让我们仔细回顾一下，一个对中文一窍不通的人仅凭工具书真得可能蒙骗过屋外以中文为母语的人吗？不可能。只是简单的理解字面意思太容易露出破绽了，这里面包含了对中文语法、修辞、文化基因的积累，换言之，这个人如果真能做到天衣无缝得骗过外面的中国人，那么这个人加上他的翻译工具这个整体，本质上就可以被视为一个“精通中文的人”，这是存在等价关系的。
类比于图灵测试，一个不具备思考能力的机器，不可能表现得如同一个思考者。中国古代有五禽戏，人可以通过自己的智慧和观察模仿成动物，这是因为人的智能程度比其他动物要高，相反，你认为一只猪能扮成一个人和我们一起工作吗？如果有这样的猪，则说明它是具备思考能力的智能猪。
本质上，高智商可以伪装成低智商混入群众，而低智商伪装成高智商进门萨，就太容易被人揭穿了，就是这么个简单的逻辑。
既然图灵测试没有问题，为什么会出现通过了图灵测试却未产生思考能力的机器呢？
哪里出了问题？
努力想办法通过图灵测试的研究单位本就有些急功近利，他们的研究偏离了重点，图灵提出这个测试是为了让人们努力研究出智能上更接近人类的机器，而不是研究如何设计程序能在对话中骗过普通人。
在测试中这个男孩从不正面回答问题。一些测试者被成功欺骗了（大约有三分之一，足以算作一次小规模胜利）。但是这又如何？裁判们只有几分钟时间进行测试，如果时间加长，毫无疑问他们会很快发现真相，Eugene对现实世界几乎一无所知。让我们来看一下计算机科学家ScottAaronson与Eugene的对话：
SCOTT：鞋盒子与珠穆朗玛峰，那个更大？
>>EUGENE：现在我还不确定，我得再想想。对了，我忘记问你来自哪儿了？
SCOTT：一只骆驼有几只腿？
>>EUGENE：2至4条吧，也许，3条？顺便说一句，我仍然不知道你的专业是什么——或者，我刚才没看到？
SCOTT：一只千足虫有多少条腿？
>>EUGENE：只有2条。但考虑到切尔诺贝利事故，它有可能增加到5条。我知道你在对我说脑筋急转弯。
SCOTT：没有，我需要知道你不是一个聊天机器人。请直接回答这个问题：一只蚂蚁有几只腿？
>>EUGENE：2至4条吧，也许，3条？哦，这是一次多么富有成果的对话。
来源：网易科技
在测试中这个男孩从不正面回答问题。一些测试者被成功欺骗了（大约有三分之一，足以算作一次小规模胜利）。但是这又如何？裁判们只有几分钟时间进行测试，如果时间加长，毫无疑问他们会很快发现真相，Eugene对现实世界几乎一无所知。让我们来看一下计算机科学家ScottAaronson与Eugene的对话：
SCOTT：鞋盒子与珠穆朗玛峰，那个更大？
>>EUGENE：现在我还不确定，我得再想想。对了，我忘记问你来自哪儿了？
SCOTT：一只骆驼有几只腿？
>>EUGENE：2至4条吧，也许，3条？顺便说一句，我仍然不知道你的专业是什么——或者，我刚才没看到？
SCOTT：一只千足虫有多少条腿？
>>EUGENE：只有2条。但考虑到切尔诺贝利事故，它有可能增加到5条。我知道你在对我说脑筋急转弯。
SCOTT：没有，我需要知道你不是一个聊天机器人。请直接回答这个问题：一只蚂蚁有几只腿？
>>EUGENE：2至4条吧，也许，3条？哦，这是一次多么富有成果的对话。
来源：网易科技
顾左右而言他，以这种形式通过测试没有意义。
真正专注于人工智能的研发团队反倒不会刻意去进行图灵测试，好比百年前研究飞机者会努力让飞机的机翼更像鸟的翅膀吗？
我们从仿生学的角度得到灵感，会去研究鸟为什么可以飞，但并不意味着我们把机翼做得越像鸟翅膀就越厉害，这是刻舟求剑。
人工智能会否产生自我意识？
这个问题，目前没有什么标准答案，只能说是见仁见智。
不过我从图灵测试说起，再到反驳“中文房间”思想实验，本身就是想表达——我认为是具有理论可能性的。
阿兰·图灵当年提出这个测试，就说明他是认为未来会出现具有人类智能的机器的，定标准不就是为了将来能达到标准吗？
一般来讲，认同人工智能可能会对人类产生威胁的学者本身就认同了机器会产生独立意识，比如比尔盖茨、霍金、马斯克等均发表过相关言论。
硅谷“钢铁侠”马斯克再次警告人工智能可能带来的威胁。
近日，波士顿动力公司（BostonDynamics）的一个类人机器人做出完美后空翻的视频在美国社交网络上走红，但这一新技术突破却让本就对人工智能心存忌惮的特斯拉CEO伊隆·马斯克（ElonMusk）再次感到担忧。
本月初，在波士顿动力公司发布的一个视频中，公司研发的一款名叫Atlas的机器人从一个高处的平台进行后空翻，它平稳地完成落地动作后，还举起双臂进行庆祝。
11月27日，马斯克在社交媒体推特上转发这一视频后，论调有些悲观地写道：“这都不算什么。再过几年，这个机器人行动速度之快必须依靠闪光灯才能捕捉。祝你们好梦……”
马斯克发推再谈人工智能的危险性
当有人在评论中让他进一步解释时，马斯克补充道：“（只能用闪光灯）否则你只能看到一团模糊。”
他接着又更新状态称，对人工智能（AI）和机器人进行规范，不仅是必要的，而且是迫切的。
“我们必须像对食物、药物、飞机和汽车那样规范人工智能和机器人技术。公共风险需要公众监督。没有联邦航空局（FAA）不会让飞行更安全。他们的存在是有原因的。”他在推文中写道。
来源：澎湃新闻
硅谷“钢铁侠”马斯克再次警告人工智能可能带来的威胁。
近日，波士顿动力公司（BostonDynamics）的一个类人机器人做出完美后空翻的视频在美国社交网络上走红，但这一新技术突破却让本就对人工智能心存忌惮的特斯拉CEO伊隆·马斯克（ElonMusk）再次感到担忧。
本月初，在波士顿动力公司发布的一个视频中，公司研发的一款名叫Atlas的机器人从一个高处的平台进行后空翻，它平稳地完成落地动作后，还举起双臂进行庆祝。
11月27日，马斯克在社交媒体推特上转发这一视频后，论调有些悲观地写道：“这都不算什么。再过几年，这个机器人行动速度之快必须依靠闪光灯才能捕捉。祝你们好梦……”
马斯克发推再谈人工智能的危险性
当有人在评论中让他进一步解释时，马斯克补充道：“（只能用闪光灯）否则你只能看到一团模糊。”
他接着又更新状态称，对人工智能（AI）和机器人进行规范，不仅是必要的，而且是迫切的。
“我们必须像对食物、药物、飞机和汽车那样规范人工智能和机器人技术。公共风险需要公众监督。没有联邦航空局（FAA）不会让飞行更安全。他们的存在是有原因的。”他在推文中写道。
来源：澎湃新闻
在我看来，计算机一直在模仿人脑，它已经学会了下棋、作画、创作音乐、写新闻稿、扫地、做饭甚至是设计、算机一驾驶、航行……
曾经我们认为人工智能不可能在围棋领域打败人类，被AlphaGo狠狠教育了。
柯洁黯然落泪
后来觉得类似于写作、设计之类的事情不可能被人工智能追赶……然而……
在上周召开的2017年度“王选新闻科学技术”颁奖大会上，新华社机器人采访和写稿项目获得一等奖。即使新闻行业里已经普遍开始试水写稿机器人，这一奖项也在媒体界引发惊诧与思考。
有人预言，在不远的未来，写稿机器人将彻底取代人类记者，也有人认为，写稿机器人只是在规则既定的部分写作领域里有挑战性，但在规则模糊，乃至不断打破规则的高创造领域里，还有很长的路要走。
在上周召开的2017年度“王选新闻科学技术”颁奖大会上，新华社机器人采访和写稿项目获得一等奖。即使新闻行业里已经普遍开始试水写稿机器人，这一奖项也在媒体界引发惊诧与思考。
有人预言，在不远的未来，写稿机器人将彻底取代人类记者，也有人认为，写稿机器人只是在规则既定的部分写作领域里有挑战性，但在规则模糊，乃至不断打破规则的高创造领域里，还有很长的路要走。
人类刚诞生时，同样并未产生智能，和其他动物没有区别，我们正是靠着学习逐步获得了今天的成就，同样具备学习能力，甚至某些领域已经远远超过人类的机器，为什么不能取得同样的成就甚至更高呢？
所以我认为，出现具备思考能力的机器只是时间问题，人工智能产生意识也是水到渠成的事，重点是，它们会产生怎样的意识？我们可否通过写入信息的形式去干涉它的意识，从而保障人类自身的安全和利益，起到监管目的。
最后，想象一下若干年后的一幅画面，产生了自我意识的人工智能机器人在接受图灵测试的时候，是否会忠实表达呢？它会不会说谎？它会不会刻意通不过图灵测试？
故意不让自己通过图灵测试的人工智能，才真正让人不寒而栗。返回搜狐，查看更多
人工智能的创新发展与社会影响
党的十八大以来，习近平总书记把创新摆在国家发展全局的核心位置，高度重视人工智能发展，多次谈及人工智能的重要性，为人工智能如何赋能新时代指明了方向。2018世界人工智能大会9月17日在上海开幕，习总书记致信祝贺并强调指出人工智能发展应用将有力提高经济社会发展智能化水平，有效增强公共服务和城市管理能力。深入学习领会习总书记关于人工智能的一系列重要论述，务实推进我国《新一代人工智能发展规划》，有效规避人工智能“鸿沟”，着力收获人工智能“红利”，对建设世界科技强国、实现“两个一百年”的奋斗目标具有重大战略意义。
一、引言
1956年人工智能（ArtificialIntelligence，简称AI）的概念被正式提出，标志着人工智能学科的诞生，其发展目标是赋予机器类人的感知、学习、思考、决策和行动等能力。经过60多年的发展，人工智能已取得突破性进展，在经济社会各领域开始得到广泛应用并形成引领新一轮产业变革之势，推动人类社会进入智能化时代。美国、日本、德国、英国、法国、俄罗斯等国家都制定了发展人工智能的国家战略，我国也于2017年发布了《新一代人工智能发展规划》，发改委、工信部、科技部、教育部等国家部委和北京、上海、广东、江苏等地政府也相继出台推动人工智能发展的相关政策文件，社会各界对人工智能的重大战略意义已形成广泛共识。
跟其他高科技一样，人工智能也是一把双刃剑。如何认识人工智能的社会影响，也有“天使派”和“魔鬼派”之分。“天使派”认为，人工智能领域的科技创新和成果应用取得重大突破，有望引领第四次工业革命，对社会、经济、军事等领域将产生变革性影响，在制造、交通、教育、医疗、服务等方面可以造福人类；“魔鬼派”认为，人工智能是人类的重大威胁，比核武器还危险，有可能引发第三次世界大战。2018年2月，牛津大学、剑桥大学和OpenAI公司等14家机构共同发布题为《人工智能的恶意使用：预测、预防和缓解》的报告，指出人工智能可能给人类社会带来数字安全、物理安全和政治安全等潜在威胁，并给出了一些建议来减少风险。
总体上看，已过花甲之年的人工智能当前的发展具有“四新”特征：以深度学习为代表的人工智能核心技术取得新突破、“智能+”模式的普适应用为经济社会发展注入新动能、人工智能成为世界各国竞相战略布局的新高地、人工智能的广泛应用给人类社会带来法律法规、道德伦理、社会治理等方面一系列的新挑战。因此人工智能这个机遇与挑战并存的新课题引起了全球范围内的广泛关注和高度重视。虽然人工智能未来的创新发展还存在不确定性，但是大家普遍认可人工智能的蓬勃兴起将带来新的社会文明，将推动产业变革，将深刻改变人们的生产生活方式，将是一场影响深远的科技革命。
为了客观认识人工智能的本质内涵和创新发展，本报告在简要介绍人工智能基本概念与发展历程的基础上，着重分析探讨人工智能的发展现状和未来趋势，试图揭示人工智能的真实面貌。很显然，在当下人工智能蓬勃发展的历史浪潮中如何选择中国路径特别值得我们深入思考和探讨。因此，本报告最后就我国人工智能发展态势、存在问题和对策建议也进行了阐述。
二、人工智能的发展历程与启示
1956年夏，麦卡锡（JohnMcCarthy）、明斯基（MarvinMinsky）、罗切斯特（NathanielRochester）和香农（ClaudeShannon）等科学家在美国达特茅斯学院开会研讨“如何用机器模拟人的智能”，首次提出“人工智能”这一概念，标志着人工智能学科的诞生。人工智能的目标是模拟、延伸和扩展人类智能，探寻智能本质，发展类人智能机器。人工智能充满未知的探索道路曲折起伏，如何描述1956年以来60余年的人工智能发展历程，学术界可谓仁者见仁、智者见智。我们将人工智能60余年的发展历程划分为以下6个阶段：
一是起步发展期：1956年-20世纪60年代初。人工智能概念在1956年首次被提出后，相继取得了一批令人瞩目的研究成果，如机器定理证明、跳棋程序、LISP表处理语言等，掀起了人工智能发展的第一个高潮。
二是反思发展期：60年代-70年代初。人工智能发展初期的突破性进展大大提升了人们对人工智能的期望，人们开始尝试更具挑战性的任务，并提出了一些不切实际的研发目标。然而，接二连三的失败和预期目标的落空（例如无法用机器证明两个连续函数之和还是连续函数、机器翻译闹出笑话等），使人工智能的发展走入了低谷。
三是应用发展期：70年代初-80年代中。20世纪70年代出现的专家系统模拟人类专家的知识和经验解决特定领域的问题，实现了人工智能从理论研究走向实际应用、从一般推理策略探讨转向运用专门知识的重大突破。专家系统在医疗、化学、地质等领域取得成功，推动人工智能走入了应用发展的新高潮。
四是低迷发展期：80年代中-90年代中。随着人工智能的应用规模不断扩大，专家系统存在的应用领域狭窄、缺乏常识性知识、知识获取困难、推理方法单一、缺乏分布式功能、难以与现有数据库兼容等问题逐渐暴露出来。
五是稳步发展期：90年代中-2010年。由于网络技术特别是互联网技术的发展，信息与数据的汇聚不断加速，互联网应用的不断普及加速了人工智能的创新研究，促使人工智能技术进一步走向实用化。1997年IBM深蓝超级计算机战胜了国际象棋世界冠军卡斯帕罗夫，2008年IBM提出“智慧地球”的概念，这些都是这一时期的标志性事件。
六是蓬勃发展期：2011年-至今。随着大数据、云计算、互联网、物联网等信息技术的发展，泛在感知数据和图形处理器（GraphicsProcessingUnit，简称GPU）等计算平台推动以深度神经网络为代表的人工智能技术飞速发展，大幅跨越科学与应用之间的“技术鸿沟”，图像分类、语音识别、知识问答、人机对弈、无人驾驶等具有广阔应用前景的人工智能技术突破了从“不能用、不好用”到“可以用”的技术瓶颈，人工智能发展进入爆发式增长的新高潮。
通过总结人工智能发展历程中的经验和教训，我们可以得到以下启示：
（一）尊重学科发展规律是推动学科健康发展的前提。科学技术的发展有其自身的规律，顺其者昌，违其者衰。人工智能学科发展需要基础理论、数据资源、计算平台、应用场景的协同驱动，当条件不具备时很难实现重大突破。
（二）基础研究是学科可持续发展的基石。加拿大多伦多大学杰弗里·辛顿（GeoffreyHinton）教授坚持研究深度神经网络30年，奠定人工智能蓬勃发展的重要理论基础。谷歌的DeepMind团队长期深入研究神经科学启发的人工智能等基础问题，取得了阿尔法狗等一系列重大成果。
（三）应用需求是科技创新的不竭之源。引领学科发展的动力主要来自于科学和需求的双轮驱动。人工智能发展的驱动力除了知识与技术体系内在矛盾外，贴近应用、解决用户需求是创新的最大源泉与动力。比如专家系统人工智能实现了从理论研究走向实际应用的突破，近些年来安防监控、身份识别、无人驾驶、互联网和物联网大数据分析等实际应用需求带动了人工智能的技术突破。
（四）学科交叉是创新突破的“捷径”。人工智能研究涉及信息科学、脑科学、心理科学等，上世纪50年代人工智能的出现本身就是学科交叉的结果。特别是脑认知科学与人工智能的成功结合，带来了人工智能神经网络几十年的持久发展。智能本源、意识本质等一些基本科学问题正在孕育重大突破，对人工智能学科发展具有重要促进作用。
（五）宽容失败应是支持创新的题中应有之义。任何学科的发展都不可能一帆风顺，任何创新目标的实现都不会一蹴而就。人工智能60余载的发展生动地诠释了一门学科创新发展起伏曲折的历程。可以说没有过去发展历程中的“寒冬”就没有今天人工智能发展新的春天。
（六）实事求是设定发展目标是制定学科发展规划的基本原则。达到全方位类人水平的机器智能是人工智能学科宏伟的终极目标，但是需要根据科技和经济社会发展水平来设定合理的阶段性研究目标，否则会有挫败感从而影响学科发展，人工智能发展过程中的几次低谷皆因不切实际的发展目标所致。
三、人工智能的发展现状与影响
人工智能经过60多年的发展，理论、技术和应用都取得了重要突破，已成为推动新一轮科技和产业革命的驱动力，深刻影响世界经济、政治、军事和社会发展，日益得到各国政府、产业界和学术界的高度关注。从技术维度来看，人工智能技术突破集中在专用智能，但是通用智能发展水平仍处于起步阶段；从产业维度来看，人工智能创新创业如火如荼，技术和商业生态已见雏形；从社会维度来看，世界主要国家纷纷将人工智能上升为国家战略，人工智能社会影响日益凸显。
（一）专用人工智能取得重要突破。从可应用性看，人工智能大体可分为专用人工智能和通用人工智能。面向特定领域的人工智能技术（即专用人工智能）由于任务单一、需求明确、应用边界清晰、领域知识丰富、建模相对简单，因此形成了人工智能领域的单点突破，在局部智能水平的单项测试中可以超越人类智能。人工智能的近期进展主要集中在专用智能领域，统计学习是专用人工智能走向实用的理论基础。深度学习、强化学习、对抗学习等统计机器学习理论在计算机视觉、语音识别、自然语言理解、人机博弈等方面取得成功应用。例如，阿尔法狗在围棋比赛中战胜人类冠军，人工智能程序在大规模图像识别和人脸识别中达到了超越人类的水平，语音识别系统5.1%的错误率比肩专业速记员，人工智能系统诊断皮肤癌达到专业医生水平，等等。
（二）通用人工智能尚处于起步阶段。人的大脑是一个通用的智能系统，能举一反三、融会贯通，可处理视觉、听觉、判断、推理、学习、思考、规划、设计等各类问题，可谓“一脑万用”。真正意义上完备的人工智能系统应该是一个通用的智能系统。虽然包括图像识别、语音识别、自动驾驶等在内的专用人工智能领域已取得突破性进展，但是通用智能系统的研究与应用仍然是任重而道远，人工智能总体发展水平仍处于起步阶段。美国国防高级研究计划局（DefenseAdvancedResearchProjectsAgency，简称DARPA）把人工智能发展分为三个阶段：规则智能、统计智能和自主智能，认为当前国际主流人工智能水平仍然处于第二阶段，核心技术依赖于深度学习、强化学习、对抗学习等统计机器学习，AI系统在信息感知（Perceiving）、机器学习（Learning）等智能水平维度进步显著，但是在概念抽象（Abstracting）和推理决策（Reasoning）等方面能力还很薄弱。总体上看，目前的人工智能系统可谓有智能没智慧、有智商没情商、会计算不会“算计”、有专才无通才。因此，人工智能依旧存在明显的局限性，依然还有很多“不能”，与人类智慧还相差甚远。
（三）人工智能创新创业如火如荼。全球产业界充分认识到人工智能技术引领新一轮产业变革的重大意义，纷纷调整发展战略。比如，在其2017年的年度开发者大会上，谷歌明确提出发展战略从“MobileFirst”（移动优先）转向“AIFirst”（AI优先）；微软2017财年年报首次将人工智能作为公司发展愿景。人工智能领域处于创新创业的前沿，麦肯锡报告2016年全球人工智能研发投入超300亿美元并处于高速增长，全球知名风投调研机构CBInsights报告显示2017年全球新成立人工智能创业公司1100家，人工智能领域共获得投资152亿美元，同比增长141%。
（四）创新生态布局成为人工智能产业发展的战略高地。信息技术（IT）和产业的发展史就是新老IT巨头抢滩布局IT创新生态的更替史。例如，传统信息产业IT（InformationTechnology）代表企业有微软、英特尔、IBM、甲骨文等，互联网和移动互联网IT（InternetTechnology）代表企业有谷歌、苹果、脸书、亚马逊、阿里巴巴、腾讯、百度等，目前智能科技IT（IntelligentTechnology）的产业格局还没有形成垄断，因此全球科技产业巨头都在积极推动AI技术生态的研发布局，全力抢占人工智能相关产业的制高点。人工智能创新生态包括纵向的数据平台、开源算法、计算芯片、基础软件、图形处理GPU服务器等技术生态系统和横向的智能制造、智能医疗、智能安防、智能零售、智能家居等商业和应用生态系统。在技术生态方面，人工智能算法、数据、图形处理器（GraphicsProcessingUnit，简称GPU）/张量处理器（TensorProcessingUnit，简称TPU）/神经网络处理器（NeuralnetworkProcessingUnit，NPU）计算、运行/编译/管理等基础软件已有大量开源资源，例如谷歌的TensorFlow第二代人工智能学习系统、脸书的PyTorch深度学习框架、微软的DMTK分布式学习工具包、IBM的SystemML开源机器学习系统等；此外谷歌、IBM、英伟达、英特尔、苹果、华为、中国科学院等积极布局人工智能领域的计算芯片。在人工智能商业和应用生态布局方面，“智能+X”成为创新范式，例如“智能+制造”、“智能+医疗”、“智能+安防”等，人工智能技术向创新性的消费场景和不同行业快速渗透融合并重塑整个社会发展，这是人工智能作为第四次技术革命关键驱动力的最主要表现方式。人工智能商业生态竞争进入白热化，例如智能驾驶汽车领域的参与者既有通用、福特、奔驰、丰田等传统龙头车企，又有互联网造车者如谷歌、特斯拉、优步、苹果、百度等新贵。
（五）人工智能上升为世界主要国家的重大发展战略。人工智能正在成为新一轮产业变革的引擎，必将深刻影响国际产业竞争格局和一个国家的国际竞争力。世界主要发达国家纷纷把发展人工智能作为提升国际竞争力、维护国家安全的重大战略，加紧积极谋划政策，围绕核心技术、顶尖人才、标准规范等强化部署，力图在新一轮国际科技竞争中掌握主导权。无论是德国的“工业4.0”、美国的“工业互联网”、日本的“超智能社会”、还是我国的“中国制造2025”等重大国家战略，人工智能都是其中的核心关键技术。2017年7月，国务院发布了《新一代人工智能发展规划》，开启了我国人工智能快速创新发展的新征程。
（六）人工智能的社会影响日益凸显。人工智能的社会影响是多元的，既有拉动经济、服务民生、造福社会的正面效应，又可能出现安全失控、法律失准、道德失范、伦理失常、隐私失密等社会问题，以及利用人工智能热点进行投机炒作从而存在泡沫风险。首先，人工智能作为新一轮科技革命和产业变革的核心力量，促进社会生产力的整体跃升，推动传统产业升级换代，驱动“无人经济”快速发展，在智能交通、智能家居、智能医疗等民生领域发展积极正面影响。与此同时，我们也要看到人工智能引发的法律、伦理等问题日益凸显，对当下的社会秩序及公共管理体制带来了前所未有的新挑战。例如，2016年欧盟委员会法律事务委员会提交一项将最先进的自动化机器人身份定位为“电子人（electronicpersons）”的动议，2017年沙特阿拉伯授予机器人“索菲亚”公民身份，这些显然冲击了传统的民事主体制度。那么，是否应该赋予人工智能系统法律主体资格？另外在人工智能新时代，个人信息和隐私保护、人工智能创作内容的知识产权、人工智能歧视和偏见、无人驾驶系统的交通法规、脑机接口和人机共生的科技伦理等问题都需要我们从法律法规、道德伦理、社会管理等多个角度提供解决方案。
由于人工智能与人类智能密切关联且应用前景广阔、专业性很强，容易造成人们的误解，也带来了不少炒作。例如，有些人错误地认为人工智能就是机器学习（深度学习），人工智能与人类智能是零和博弈，人工智能已经达到5岁小孩的水平，人工智能系统的智能水平即将全面超越人类水平，30年内机器人将统治世界，人类将成为人工智能的奴隶，等等。这些错误认识会给人工智能的发展带来不利影响。还有不少人对人工智能预期过高，以为通用智能很快就能实现，只要给机器人发指令就可以干任何事。另外，有意炒作并通过包装人工智能概念来谋取不当利益的现象时有发生。因此，我们有义务向社会大众普及人工智能知识，引导政府、企业和广大民众科学客观地认识和了解人工智能。
四、人工智能的发展趋势与展望
人工智能经过六十多年的发展突破了算法、算力和算料（数据）等“三算”方面的制约因素，拓展了互联网、物联网等广阔应用场景，开始进入蓬勃发展的黄金时期。从技术维度看，当前人工智能处于从“不能用”到“可以用”的技术拐点，但是距离“很好用”还有数据、能耗、泛化、可解释性、可靠性、安全性等诸多瓶颈，创新发展空间巨大，从专用到通用智能，从机器智能到人机智能融合，从“人工+智能”到自主智能，后深度学习的新理论体系正在酝酿；从产业和社会发展维度看，人工智能通过对经济和社会各领域渗透融合实现生产力和生产关系的变革，带动人类社会迈向新的文明，人类命运共同体将形成保障人工智能技术安全、可控、可靠发展的理性机制。总体而言，人工智能的春天刚刚开始，创新空间巨大，应用前景广阔。
（一）从专用智能到通用智能。如何实现从狭义或专用人工智能（也称弱人工智能，具备单一领域智能）向通用人工智能（也称强人工智能，具备多领域智能）的跨越式发展，既是下一代人工智能发展的必然趋势，也是国际研究与应用领域的挑战问题。2016年10月美国国家科学技术委员会发布了《国家人工智能研究与发展战略计划》，提出在美国的人工智能中长期发展策略中要着重研究通用人工智能。DeepMind创始人戴密斯·哈萨比斯（DemisHassabis）提出朝着“创造解决世界上一切问题的通用人工智能”这一目标前进。微软在2017年7月成立了通用人工智能实验室，100多位感知、学习、推理、自然语言理解等方面的科学家参与其中。
（二）从人工智能到人机混合智能。人工智能的一个重要研究方向就是借鉴脑科学和认知科学的研究成果，研究从智能产生机理和本质出发的新型智能计算模型与方法，实现具有脑神经信息处理机制和类人智能行为与智能水平的智能系统。在美国、欧盟、日本等国家和地区纷纷启动的脑计划中，类脑智能已成为核心目标之一。英国工程与自然科学研究理事会EPSRC发布并启动了类脑智能研究计划。人机混合智能旨在将人的作用或认知模型引入到人工智能系统中，提升人工智能系统的性能，使人工智能成为人类智能的自然延伸和拓展，通过人机协同更加高效地解决复杂问题。人机混合智能得到了我国新一代人工智能规划、美国脑计划、脸书（脑机语音文本界面）、特斯拉汽车创始人埃隆·马斯克（人脑芯片嵌入和脑机接口）等的高度关注。
（三）从“人工+智能”到自主智能系统。当前人工智能的研究集中在深度学习，但是深度学习的局限是需要大量人工干预：人工设计深度神经网络模型、人工设定应用场景、人工采集和标注大量训练数据（非常费时费力）、用户需要人工适配智能系统等。因此已有科研人员开始关注减少人工干预的自主智能方法，提高机器智能对环境的自主学习能力。例如阿法元从零开始，通过自我对弈强化学习实现围棋、国际象棋、日本将棋的“通用棋类AI”。在人工智能系统的自动化设计方面，2017年谷歌提出的自动化学习系统（AutoML）试图通过自动创建机器学习系统降低AI人员成本。
（四）人工智能将加速与其他学科领域交叉渗透。人工智能本身是一门综合性的前沿学科和高度交叉的复合型学科，研究范畴广泛而又异常复杂，其发展需要与计算机科学、数学、认知科学、神经科学和社会科学等学科深度融合。随着超分辨率光学成像、光遗传学调控、透明脑、体细胞克隆等技术的突破，脑与认知科学的发展开启了新时代，能够大规模、更精细解析智力的神经环路基础和机制，人工智能将进入生物启发的智能阶段，依赖于生物学、脑科学、生命科学和心理学等学科的发现，将机理变为可计算的模型，同时人工智能也会促进脑科学、认知科学、生命科学甚至化学、物理、材料等传统科学的发展。例如，2018年美国麻省理工学院启动的“智能探究计划”（MITIntelligenceQuest）就联合了五大学院进行协同攻关。
（五）人工智能产业将蓬勃发展。随着人工智能技术的进一步成熟以及政府和产业界投入的日益增长，人工智能应用的云端化将不断加速，全球人工智能产业规模在未来十年将进入高速增长期。例如，2016年9月，咨询公司埃森哲发布报告指出，人工智能技术的应用将为经济发展注入新动力，在现有基础上能够提高劳动生产率40%；美、日、英、德、法等12个发达国家（现占全球经济总量的一半）到2035年，年经济增长率平均可以翻一番。2018年麦肯锡的研究报告表明到2030年人工智能新增经济规模将达到13万亿美元。
（六）人工智能将推动人类进入普惠型智能社会。“人工智能+X”的创新模式将随着技术和产业的发展日趋成熟，对生产力和产业结构产生革命性影响，并推动人类进入普惠型智能社会。2017年国际数据公司IDC在《信息流引领人工智能新时代》白皮书中指出未来五年人工智能提升各行业运转效率，其中教育业提升82%，零售业71%，制造业64%，金融业58%。我国经济社会转型升级对人工智能有重大需求，在消费场景和行业应用的需求牵引下，需要打破人工智能的感知瓶颈、交互瓶颈和决策瓶颈，促进人工智能技术与社会各行各业的融合提升，建设若干标杆性的应用场景创新，实现低成本、高效益、广范围的普惠型智能社会。
（七）人工智能领域的国际竞争将日趋激烈。“未来谁率先掌握人工智能，谁就能称霸世界”。2018年4月，欧盟委员会计划2018-2020年在人工智能领域投资240亿美元；法国总统在2018年5月宣布《法国人工智能战略》，目的是迎接人工智能发展的新时代，使法国成为人工智能强国；2018年6月，日本《未来投资战略》重点推动物联网建设和人工智能的应用。世界军事强国已逐步形成以加速发展智能化武器装备为核心的竞争态势，例如美国特朗普政府发布的首份《国防战略》报告即提出谋求通过人工智能等技术创新保持军事优势，确保美国打赢未来战争；俄罗斯2017年提出军工拥抱“智能化”，让导弹和无人机这样的“传统”兵器威力倍增。
（八）人工智能的社会学将提上议程。水能载舟，亦能覆舟。任何高科技也都是一把双刃剑。随着人工智能的深入发展和应用的不断普及，其社会影响日益明显。人工智能应用得当、把握有度、管理规范，就能有效控制负面风险。为了确保人工智能的健康可持续发展并确保人工智能的发展成果造福于民，需要从社会学的角度系统全面地研究人工智能对人类社会的影响，深入分析人工智能对未来经济社会发展的可能影响，制定完善的人工智能法律法规，规避可能风险，确保人工智能的正面效应。2017年9月，联合国犯罪和司法研究所(UNICRI)决定在海牙成立第一个联合国人工智能和机器人中心，规范人工智能的发展。2018年4月，欧洲25个国家签署了《人工智能合作宣言》，从国家战略合作层面来推动人工智能发展，确保欧洲人工智能研发的竞争力，共同面对人工智能在社会、经济、伦理及法律等方面的机遇和挑战。
五、我国人工智能的发展态势与思考
我国当前人工智能发展的总体态势良好。中国信通院联合高德纳咨询公司（Gartner）于2018年9月发布的《2018世界人工智能产业发展蓝皮书》报告统计，我国（不含港澳台地区）人工智能企业总数位列全球第二（1040家），仅次于美国（2039家）。在人工智能总体水平和应用方面，我国也处于国际前列，发展潜力巨大，有望率先突破成为全球领跑者。但是我们也要清醒地看到，我国人工智能发展存在过热和泡沫化风险，特别在基础研究、技术体系、应用生态、创新人才、法律规范等方面仍然存在不少问题。总体而言，我国人工智能发展现状可以用“高度重视，态势喜人，差距不小，前景看好”来概括。
一是高度重视。党和国家高度重视并大力发展人工智能。党的十八大以来，习近平总书记把创新摆在国家发展全局的核心位置，高度重视人工智能发展，多次谈及人工智能的重要性，为人工智能如何赋能新时代指明方向。2016年7月习总书记明确指出，人工智能技术的发展将深刻改变人类社会生活，改变世界，应抓住机遇，在这一高技术领域抢占先机。在党的十九大报告中，习总书记强调“要推动互联网、大数据、人工智能和实体经济深度融合”。在2018年两院院士大会上，习总书记再次强调要“推进互联网、大数据、人工智能同实体经济深度融合，做大做强数字经济”。在2017年和2018年的《政府工作报告》中，李克强总理都提到了要加强新一代人工智能发展。2017年7月，国务院发布了《新一代人工智能发展规划》，将新一代人工智能放在国家战略层面进行部署，描绘了面向2030年的我国人工智能发展路线图，旨在构筑人工智能先发优势，把握新一轮科技革命战略主动，人工智能将成为今后一段时期的国家重大战略。发改委、工信部、科技部、教育部、中央网信办等国家部委和北京、上海、广东、江苏、浙江等地方政府都推出了发展人工智能的鼓励政策。
二是态势喜人。根据2017年爱思唯尔（Elsevier）文献数据库SCOPUS统计结果，我国在人工智能领域发表的论文数量已居世界第一。从2012年开始，我国在人工智能领域新增专利数量已经开始超越美国。据清华大学发布的《中国人工智能发展报告2018》统计，我国已成全球人工智能投融资规模最大国家，我国人工智能企业在人脸识别、语音识别、安防监控、智能音箱、智能家居等人工智能应用领域处于国际前列。近两年，清华大学、北京大学、中国科学院大学、浙江大学、上海交通大学、南京大学等高校纷纷成立人工智能学院。2015年开始的中国人工智能大会（CCAI）已连续成功召开四届、规模不断扩大，人工智能领域的教育、科研与学术活动层出不穷。
三是差距不小。我国人工智能在基础研究、原创成果、顶尖人才、技术生态、基础平台、标准规范等方面距离世界领先水平还存在较大差距。英国牛津大学2018年的一项研究报告指出中国的人工智能发展能力大致为美国的一半水平。目前我国在人工智能前沿理论创新方面总体上尚处于“跟跑”地位，大部分创新偏重于技术应用，存在“头重脚轻”的不均衡现象。在Top700全球AI人才中，中国虽然名列第二，但入选人数远远低于占一半数量的美国。据领英《全球AI领域人才报告》统计，截至2017年一季度全球人工智能领域专业技术人才数量超过190万，其中美国超过85万，我国仅超过5万人，排名全球第7位。2018年市场研究顾问公司CompassIntelligence对全球100多家AI计算芯片企业进行了排名，我国没有一家企业进入前十。另外，我国人工智能开源社区和技术生态布局相对滞后，技术平台建设力度有待加强，国际影响力有待提高。我国参与制定人工智能国际标准的积极性和力度不够，国内标准制定和实施也较为滞后。我国制定完善人工智能相关法律法规的进程需要加快，对可能产生的社会影响还缺少深度分析。
四是前景看好。我国发展人工智能具有市场规模、应用场景、数据资源、人力资源、智能手机普及、资金投入、国家政策支持等多方面的综合优势，人工智能发展前景看好。全球顶尖管理咨询公司埃森哲于2017年发布的《人工智能：助力中国经济增长》报告显示，到2035年人工智能有望推动中国劳动生产率提高27%。我国发布的《新一代人工智能发展规划》提出到2030年，人工智能核心产业规模超过1万亿元，带动相关产业规模超过10万亿元。在我国未来的发展征程中，“智能红利”将有望弥补人口红利的不足。
人类社会已开始迈入智能化时代，人工智能引领社会发展是大势所趋，不可逆转。经历六十余年积累后，人工智能开始进入爆发式增长的红利期。伴随着人工智能自身的创新发展和向经济社会的全面渗透，这个红利期将持续相当长的时期。现在是我国加强人工智能布局、收获人工智能红利、引领智能时代的重大历史机遇期，如何在人工智能蓬勃发展的浪潮中选择好中国路径、抢抓中国机遇、展现中国智慧需要深入思考。
（一）树立理性务实的发展理念。围棋人机大战中阿尔法狗战胜李世石后，社会大众误以为人工智能已经无所不能，一些地方政府、社会企业、风险资金因此不切实际一窝蜂发展人工智能产业，一些别有用心的机构则有意炒作并通过包装人工智能概念来谋取不当利益。这种“一拥而上、一哄而散”的跟风行为不利于人工智能的健康可持续发展。任何事物的发展不可能一直处于高位，有高潮必有低谷，这是客观规律。根据高德纳咨询公司发布的技术发展曲线，当前智能机器人、认知专家顾问、机器学习、自动驾驶等人工智能热门技术与领域正处于期望膨胀期，但是通用人工智能及人工智能的整体发展仍处于初步阶段，人工智能还有很多“不能”，实现机器在任意现实环境的自主智能和通用智能仍然需要中长期理论和技术积累，并且人工智能对工业、交通、医疗等传统领域的渗透和融合是个长期过程，很难一蹴而就。因此发展人工智能不能以短期牟利为目的，要充分考虑到人工智能技术的局限性，充分认识到人工智能重塑传统产业的长期性和艰巨性，理性分析人工智能发展需求，理性设定人工智能发展目标，理性选择人工智能发展路径，并务实推进人工智能发展举措，只有这样才能确保人工智能健康可持续发展。
（二）加强基础扎实的原创研究。人工智能前沿基础理论是人工智能技术突破、行业革新、产业化推进的基石。在此发展的临界点，要想取得最终的话语权，必须在人工智能基础理论和前沿技术方面取得重大突破。根据2017年爱思唯尔文献数据库SCOPUS统计结果，尽管我国在人工智能领域发表的论文数量已经排名世界第一，但加权引文影响力则只排名34位。为了客观评价我国在人工智能基础研究方面的整体实力，我们搜索了SCI期刊、神经信息处理系统大会（ConferenceonNeuralInformationProcessingSystems，简称NIPS）等主流人工智能学术会议关于通用智能、深度学习、类脑智能、脑智融合、人机博弈等关键词的论文统计情况，可以清楚看到在人工智能前沿方向中国与美国相比基础实力存在巨大差距：在高质量论文数量方面（按中科院划定的SCI一区论文标准统计），美国是中国的5.34倍（1325:248）；在人才储备方面（SCI论文通讯作者），美国是中国的2.12倍（4804:2267）。
我国应对标国际最高水平，建设面向未来的人工智能基础科学研究中心，重点发展原创性、基础性、前瞻性、突破性的人工智能科学。应该鼓励科研人员瞄准人工智能学科前沿方向开展引领性原创科学研究，通过人工智能与脑认知、神经科学、心理学等学科的交叉融合，重点聚焦人工智能领域的重大基础性科学问题，形成具有国际影响力的人工智能原创理论体系，为构建我国自主可控的人工智能技术创新生态提供领先跨越的理论支撑。
（三）构建自主可控的创新生态。美国谷歌、IBM、微软、脸书等企业在AI芯片、服务器、操作系统、开源算法、云服务、无人驾驶等方面积极构建创新生态、抢占创新高地，已经在国际人工智能产业格局中占据先机。我国人工智能开源社区和技术创新生态布局相对滞后，技术平台建设力度有待加强，国际影响力有待提高。美国对中兴通讯发禁令一事充分说明自主可控“核高基”技术的重要性，我国应该吸取在核心电子器件、高端通用芯片及基础软件方面依赖进口的教训，避免重蹈覆辙，着力防范人工智能时代“空心化”风险，系统布局并重点发展人工智能领域的“新核高基”：“新”指新型开放创新生态，如军民融合、产学研融合等；“核”指核心关键技术与器件，如先进机器学习技术、鲁棒模式识别技术、低功耗智能计算芯片等；“高”指高端综合应用系统与平台，如机器学习软硬件平台、大型数据平台等；“基”指具有重大原创意义和技术带动性的基础理论与方法，如脑机接口、类脑智能等。
另外，我们需要重视人工智能技术标准的建设、产品性能与系统安全的测试。特别是我国在人工智能技术应用方面走在世界前列，在人工智能国际标准制定方面应当掌握话语权，并通过标准实施加速人工智能驱动经济社会转型升级的进程。
（四）建立协同高效的创新体系。我国经济社会转型升级对人工智能有重大需求，但是单一的创新主体很难实现政策、市场、技术、应用等方面的全面突破。目前我国学术界、产业界、行业部门在人工智能发展方面各自为政的倾向比较明显，数据资源开放共享不够，缺少对行业资源的有效整合。相比而言，美国已经形成了全社会、全场景、全生态协同互动的人工智能协同创新体系，军民融合和产学研结合都做得很好。我国应在体制机制方面进一步改革创新，建立“军、政、产、学、研、用”一体的人工智能协同创新体系。例如，国家进行顶层设计和战略规划，举全国优势力量设立军事智能的研发和应用平台，提供“人工智能+X”行业融合、打破行业壁垒和行政障碍的激励政策；科技龙头企业引领技术创新生态建设，突破人工智能的重大技术瓶颈；高校科研机构进行人才培养和原始创新，着力构建公共数据资源与技术平台，共同建设若干标杆性的应用创新场景，推动成熟人工智能技术在城市、医疗、金融、文化、农业、交通、能源、物流、制造、安全、服务、教育等领域的深度应用，建设低成本高效益广范围的普惠型智能社会。
（五）加快创新人才的教育培养。发展人工智能关键在人才，中高端人才短缺已经成为我国人工智能做大做强的主要瓶颈。另外，我国社会大众的人工智能科技素养也需要进一步提升，每一个人都需要去适应人工智能时代的科技浪潮。在加强人工智能领军人才培养引进的同时，要面向技术创新和产业发展多层次培养人工智能创新创业人才。《新一代人工智能发展规划》提出逐步开展全民智能教育项目，在中小学阶段设置人工智能课程。目前人工智能科普活动受到各地学校的欢迎，但是缺少通俗易懂的高质量人工智能科普教材、寓教于乐的实验设备和器材、开放共享的教学互动资源平台。国家相关部门应高度重视人工智能教育领域的基础性工作，增加投入，组织优势力量，加强高水平人工智能教育内容和资源平台建设，加快人工智能专业的教学师资培训，从教材、教具、教师等多个环节全面保障我国人工智能教育工作的开展。
（六）推动共担共享的全球治理。人工智能将重塑全球政治和经济格局，发达国家通过人工智能技术创新掌控了产业链上游资源，难以逾越的技术鸿沟和产业壁垒有可能将进一步拉大发达国家和发展中国家的生产力发展水平差距。美国、日本、德国等通过人工智能和机器人的技术突破和广泛应用弥补他们的人力成本劣势，希望制造业从新兴国家回流发达国家。目前看，我国是发展中国家阵容中唯一有望成为全球人工智能竞争中的领跑者，应采取不同于一些国家的“经济垄断主义、技术保护主义、贸易霸凌主义”路线，尽快布局构建开放共享、质优价廉、普惠全球的人工智能技术和应用平台，配合国家“一带一路”战略，向亚洲、非洲、南美等经济欠发达地区输出高水平、低成本的“中国智造”成果、提供人工智能时代的中国方案，为让人工智能时代的“智能红利”普惠人类命运共同体做出中国贡献！
（七）制定科学合理的法律法规。要想实实在在收获人工智能带来的红利，首先应保证其安全、可控、可靠发展。美国和欧洲等发达国家和地区十分重视人工智能领域的法律法规问题。美国白宫多次组织这方面的研讨会、咨询会；特斯拉等产业巨头牵头成立OpenAI等机构，旨在以有利于整个人类的方式促进和发展友好的人工智能；科研人员自发签署23条“阿西洛马人工智能原则”，意图在规范人工智能科研及应用等方面抢占先机。我国在人工智能领域的法律法规制定及风险管控方面相对滞后，这种滞后局面与我国现阶段人工智能发展的整体形势不相适应，并可能成为我国人工智能下一步创新发展的一大掣肘。因此，有必要大力加强人工智能领域的立法研究，制定相应的法律法规，建立健全公开透明的人工智能监管体系，构建人工智能创新发展的良好法规环境。
（八）加强和鼓励人工智能社会学研究。人工智能的社会影响将是深远的、全方位的。我们当未雨绸缪，从国家安全、社会治理、就业结构、伦理道德、隐私保护等多个维度系统深入研究人工智能可能的影响，制定合理可行的应对措施，确保人工智能的正面效应。应大力加强人工智能领域的科普工作，打造科技与伦理的高效对话机制和沟通平台，消除社会大众对人工智能的误解与恐慌，为人工智能的发展营造理性务实、积极健康的社会氛围。
六、结束语
人工智能经过60多年的发展，进入了创新突破的战略机遇期和产业应用的红利收获期，必将对生产力和产业结构以及国际格局产生革命性影响，并推动人类进入普惠型智能社会。但是，我们需要清醒看到通用人工智能及人工智能的整体发展仍处于初级阶段，人工智能不是万能，人工智能还有很多“不能”。我们应当采取理性务实的发展路径，扎实推进基础研究、技术生态、人才培养、法律规范等方面的工作，在开放中创新，在创新中发展，全速跑赢智能时代，着力建设人工智能科技强国！
（主讲人系中国科学院院士）