人工智能的伦理挑战
原标题：人工智能的伦理挑战控制论之父维纳在他的名著《人有人的用处》中曾在谈到自动化技术和智能机器之后，得出了一个危言耸听的结论：“这些机器的趋势是要在所有层面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。很显然，这种新的取代将对我们的生活产生深远影响。”维纳的这句谶语，在今天未必成为现实，但已经成为诸多文学和影视作品中的题材。《银翼杀手》《机械公敌》《西部世界》等电影以人工智能反抗和超越人类为题材，机器人向乞讨的人类施舍的画作登上《纽约客》杂志2017年10月23日的封面……人们越来越倾向于讨论人工智能究竟在何时会形成属于自己的意识，并超越人类，让人类沦为它们的奴仆。
一
维纳的激进言辞和今天普通人对人工智能的担心有夸张的成分，但人工智能技术的飞速发展的确给未来带来了一系列挑战。其中，人工智能发展最大的问题，不是技术上的瓶颈，而是人工智能与人类的关系问题，这催生了人工智能的伦理学和跨人类主义的伦理学问题。准确来说，这种伦理学已经与传统的伦理学旨趣发生了较大的偏移，其原因在于，人工智能的伦理学讨论的不再是人与人之间的关系，也不是与自然界的既定事实（如动物，生态）之间的关系，而是人类与自己所发明的一种产品构成的关联，由于这种特殊的产品――根据未来学家库兹威尔在《奇点临近》中的说法――一旦超过了某个奇点，就存在彻底压倒人类的可能性，在这种情况下，人与人之间的伦理是否还能约束人类与这个超越奇点的存在之间的关系？
实际上，对人工智能与人类之间伦理关系的研究，不能脱离对人工智能技术本身的讨论。在人工智能领域，从一开始，准确来说是依从着两种完全不同的路径来进行的。
首先，是真正意义上的人工智能的路径，1956年，在达特茅斯学院召开了一次特殊的研讨会，会议的组织者约翰・麦卡锡为这次会议起了一个特殊的名字：人工智能（简称AI）夏季研讨会。这是第一次在学术范围内使用“人工智能”的名称，而参与达特茅斯会议的麦卡锡和明斯基等人直接将这个名词作为一个新的研究方向的名称。实际上，麦卡锡和明斯基思考的是，如何将我们人类的各种感觉，包括视觉、听觉、触觉，甚至大脑的思考都变成称作“信息论之父”的香农意义上的信息，并加以控制和应用。这一阶段上的人工智能的发展，在很大程度上还是对人类行为的模拟，其理论基础来自德国哲学家莱布尼茨的设想，即将人类的各种感觉可以转化为量化的信息数据，也就是说，我们可以将人类的各种感觉经验和思维经验看成是一个复杂的形式符号系统，如果具有强大的信息采集能力和数据分析能力，就能完整地模拟出人类的感觉和思维。这也是为什么明斯基信心十足地宣称：“人的脑子不过是肉做的电脑。”麦卡锡和明斯基不仅成功地模拟出视觉和听觉经验，后来的特里・谢伊诺斯基和杰弗里・辛顿也根据对认知科学和脑科学的最新进展，发明了一个“NETtalk”的程序，模拟了类似于人的“神经元”的网络，让该网络可以像人的大脑一样进行学习，并能够做出简单的思考。
然而，在这个阶段中，所谓的人工智能在更大程度上都是在模拟人的感觉和思维，让一种更像人的思维机器能够诞生。著名的图灵测试，也是在是否能够像人一样思考的标准上进行的。图灵测试的原理很简单，让测试一方和被测试一方彼此分开，只用简单的对话来让处在测试一方的人判断，被测试方是人还是机器，如果有30%的人无法判断对方是人还是机器时，则代表通过了图灵测试。所以，图灵测试的目的，仍然在检验人工智能是否更像人类。但是，问题在于，机器思维在作出自己的判断时，是否需要人的思维这个中介？也就是说，机器是否需要先绕一个弯路，即将自己的思维装扮得像一个人类，再去作出判断？显然，对于人工智能来说，答案是否定的，因为如果人工智能是用来解决某些实际问题，它们根本不需要让自己经过人类思维这个中介，再去思考和解决问题。人类的思维具有一定的定势和短板，强制性地模拟人类大脑思维的方式，并不是人工智能发展的良好选择。
二
所以，人工智能的发展走向了另一个方向，即智能增强（简称IA）上。如果模拟真实的人的大脑和思维的方向不再重要，那么，人工智能是否能发展出一种纯粹机器的学习和思维方式？倘若机器能够思维，是否能以机器本身的方式来进行。这就出现了机器学习的概念。机器学习的概念，实际上已经成为发展出属于机器本身的学习方式，通过海量的信息和数据收集，让机器从这些信息中提出自己的抽象观念，例如，在给机器浏览了上万张猫的图片之后，让机器从这些图片信息中自己提炼出关于猫的概念。这个时候，很难说机器自己抽象出来的猫的概念，与人类自己理解的猫的概念之间是否存在着差别。不过，最关键的是，一旦机器提炼出属于自己的概念和观念之后，这些抽象的概念和观念将会成为机器自身的思考方式的基础，这些机器自己抽象出来的概念就会形成一种不依赖于人的思考模式网络。当我们讨论打败李世石的阿尔法狗时，我们已经看到了这种机器式思维的凌厉之处，这种机器学习的思维已经让通常意义上的围棋定势丧失了威力，从而让习惯于人类思维的棋手瞬间崩溃。一个不再像人一样思维的机器，或许对于人类来说，会带来更大的恐慌。毕竟，模拟人类大脑和思维的人工智能，尚具有一定的可控性，但基于机器思维的人工智能，我们显然不能作出上述简单的结论，因为，根据与人工智能对弈之后的棋手来说，甚至在多次复盘之后，他们仍然无法理解像阿尔法狗这样的人工智能如何走出下一步棋。
不过，说智能增强技术是对人类的取代，似乎也言之尚早，至少第一个提出“智能增强”的工程师恩格尔巴特并不这么认为。对于恩格尔巴特来说，麦卡锡和明斯基的方向旨在建立机器和人类的同质性，这种同质性思维模式的建立，反而与人类处于一种竞争关系之中，这就像《西部世界》中那些总是将自己当成人类的机器人一样，他们谋求与人类平起平坐的关系。智能增强技术的目的则完全不是这样，它更关心的是人与智能机器之间的互补性，如何利用智能机器来弥补人类思维上的不足。比如自动驾驶技术就是一种典型的智能增强技术，自动驾驶技术的实现，不仅是在汽车上安装了自动驾驶的程序，更关键地还需要采集大量的地图地貌信息，还需要自动驾驶的程序能够在影像资料上判断一些移动的偶然性因素，如突然穿过马路的人。自动驾驶技术能够取代容易疲劳和分心的驾驶员，让人类从繁重的驾驶任务中解放出来。同样，在分拣快递、在汽车工厂里自动组装的机器人也属于智能增强类性质的智能，它们不关心如何更像人类，而是关心如何用自己的方式来解决问题。
三
这样，由于智能增强技术带来了两种平面，一方面是人类思维的平面，另一方面是机器的平面，所以，两个平面之间也需要一个接口技术。接口技术让人与智能机器的沟通成为可能。当接口技术的主要开创者费尔森斯丁来到伯克利大学时，距离恩格尔巴特在那里讨论智能增强技术已经有10年之久。费尔森斯丁用犹太神话中的一个形象――土傀儡――来形容今天的接口技术下人与智能机器的关系，与其说今天的人工智能在奇点临近时，旨在超越和取代人类，不如说今天的人工智能技术越来越倾向于以人类为中心的傀儡学，在这种观念的指引下，今天的人工智能的发展目标并不是产生一种独立的意识，而是如何形成与人类交流的接口技术。在这个意义上，我们可以从费尔森斯丁的傀儡学角度来重新理解人工智能与人的关系的伦理学，也就是说，人类与智能机器的关系，既不是纯粹的利用关系，因为人工智能已经不再是机器或软件，也不是对人的取代，成为人类的主人，而是一种共生性的伙伴关系。当苹果公司开发与人类交流的智能软件Siri时，乔布斯就提出Siri是人类与机器合作的一个最朴实、最优雅的模型。以后，我们或许会看到，当一些国家逐渐陷入老龄化社会之后，无论是一线的生产，还是对这些因衰老而无法行动的老人的照料，或许都会面对这样的人与智能机器的接口技术问题，这是一种人与人工智能之间的新伦理学，他们将构成一种跨人类主义，或许，我们在这种景象中看到的不一定是伦理的灾难，而是一种新的希望。
（作者：蓝江，系南京大学哲学系教授）
各国人工智能的政策和挑战
六是开展前沿技术研究。
2、欧盟
欧盟重点关注工业、制造业、医疗、能源等领域，强调发挥创新创造力，应用人工智能使制造业及相关领域智能升级。与美国类似，欧盟较早对人工智能进行研发，并通过颁布政策、扶助资金、推出国家级计划、建立重点科研实验室等行为支持人工智能技术和产业发展，如2018年颁布的《人工智能合作宣言》。
作为数字欧洲计划和地平线2020计划中的重要环节，人工智能相关项目也将受到数十亿欧元的投资。与美国对比，首先，欧盟更加重视人工智能的道德和伦理研究，并在多份文件中表明人工智能发展要符合人类伦理道德，如2020年3月颁布的《走向卓越与信任——欧盟人工智能监管新路径》明确提出，为解决能力不对等和信息不透明，保障人民相关权利，需要建立人为监督的监管框架，重视数据安全和隐私保护。其次，欧盟对人工智能的应用侧重更加细化，不同于美国的全方位领先，欧盟希望借助自身在制造业、工业、汽车等领域的优势，利用人工智能技术进行产业强化升级，如《欧盟2030自动驾驶战略》。
3、日本
日本由于面临严峻的少子化、老龄化等问题，着重研究人工智能在机器人、医疗、汽车交通等领域的应用。日本生育率长期低迷、老龄化水平长期位居世界第一，1992年日本劳动年龄人口占比见顶，2008年日本人口总量见顶，这对日本经济、社会发展产生了深远的负面影响，包括养老、健康等挑战。
以2016年发布的《日本下一代人工智能促进战略》为起点，日本不断推出相关政策规划，围绕基础研究-应用研究-产业化三个方面，其中日本总务省下设的信息通信技术研究所和文部科学省进行人工智能理论和技术研发，经产省解决应用场景问题，经产省建立的人工智能研究中心（AIRC）促进产学研合作，主要承担成果转化和推广。
4、中国
中国人工智能呈三阶段逐步推进，重视与制造业和服务业的融合。自2015年起，我国人工智能相关政策从智能制造时期、互联网+时期，到智能+国家战略时期演变。
政策重心从核心技术攻克到实际场景应用，从特定行业到跨界融合，从单项技术到人机协同。与美国和欧盟类似，我国也强调建立相关试点项目，包括技术示范试点、政策试验和社会实验。
二、挑战与建议
在数字经济浪潮下，5G如同信息高速公路，为庞大数据量和信息量的传递提供了高速传输信道，补齐了制约人工智能、大数据、工业互联网等在信息传输、连接规模、通信质量上的短板；人工智能如同云端大脑，依靠高速公路传来的信息学习和演化，完成机器智能化进程；工业互联网如同桥梁，依靠高速公路连接人、机、物，推动制造走向智造。人工智能具有明显的溢出效应，将与5G、数据中心等一起推动数字经济时代的产业转型升级，是当前及未来各国科技竞赛的制高点。
大国科技实力是国家实力的核心，能否抓住智能时代的变革机遇，是中国建设现代化强国的关键。总体而言，我国人工智能产业仍处于发展初期，面临基础研发欠缺、技术和场景尚未融合、传统基础设施跟不上技术发展等问题。如何解决这些问题，特提出三点建议：
首先，为人工智能发展做好软性支撑，做好人才培养、前沿技术研究和联络合作。加强国内高校开展相关课程、培育本土人才；积极吸引海外科研人员、聚集全球人才。对照美国对科研人才的吸引措施，中国应抓住这一机遇，在研究经费资助、个人税收、签证、户口、子女教育等一系列领域推出引进海外高端人才的一揽子政策，切实解决科研人员后顾之忧，并为其科研、创业提供更大力度的支持。加快科教体制改革，建立市场化、多层次的产学研协作体系。由国家主导加大基础研究投入，由企业主导加大试验开发投入，多类主体形成合理的科研分工。
其次，为人工智能发展做好硬性保障，加快信息化基础设施建设，并对传统物理基础设施进行智能化升级。与铁路、公路、机场三者构成工业时代的基础设施不同，云计算、大数据、人工智能、5G、区块链等将是未来重点，所覆盖的新基建包括两方面，一类是以数字中心、基站等为代表的信息化设备，另一类是公路、铁路等传统基建设备。为应对未来的数字挑战，需要从这两方面入手，一方面加快宽带网络、5G网络等建设，另一方面加强对传统铁路、机场等公共场景例如传感器、控制平台、云平台等智能化配备。为后续技术发展做好数据收集、传输、沟通、分析的硬件基础。
再次，重视人工智能技术所带来的人伦道德问题，从立法和监管两个角度跟上技术革新。人工智能的发展离不开数据，由于大部分的数据是公开透明、自由流通的虚拟产物，会引发由数据所属而产生的权责问题，这也涉及到数据的安全、知识产权保护和隐私问题。例如，企业可以通过消费者的上网浏览信息来分析倾向喜好，进行精准推送，企业降低营销费用的同时消费者可以更好的获得信息或者产品，然而这一行为是否征得消费者同意、是否涉及侵犯个人隐私也值得考虑。由于数据的生产和使用涉及消费者、平台、运营商、服务商等多个环节，数据在每个环节被加工整合，难以使用传统的商品产品标准去统一管理，这对相关立法和监管造成阻碍。因此，要关注人工智能人伦道德、技术标准、人工智能与人类社会关系等问题，以人为本，重视数据安全。
忙碌中欣赏沿路美丽，平淡中品尝三餐美味。幸福是一种心态，执一份简朴，不盲目攀比；守一份淡然，不苛责强求。发现身边的美好，拥有幸福的生活。返回搜狐，查看更多