人工智能的伦理挑战
原标题：人工智能的伦理挑战控制论之父维纳在他的名著《人有人的用处》中曾在谈到自动化技术和智能机器之后，得出了一个危言耸听的结论：“这些机器的趋势是要在所有层面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。很显然，这种新的取代将对我们的生活产生深远影响。”维纳的这句谶语，在今天未必成为现实，但已经成为诸多文学和影视作品中的题材。《银翼杀手》《机械公敌》《西部世界》等电影以人工智能反抗和超越人类为题材，机器人向乞讨的人类施舍的画作登上《纽约客》杂志2017年10月23日的封面……人们越来越倾向于讨论人工智能究竟在何时会形成属于自己的意识，并超越人类，让人类沦为它们的奴仆。
一
维纳的激进言辞和今天普通人对人工智能的担心有夸张的成分，但人工智能技术的飞速发展的确给未来带来了一系列挑战。其中，人工智能发展最大的问题，不是技术上的瓶颈，而是人工智能与人类的关系问题，这催生了人工智能的伦理学和跨人类主义的伦理学问题。准确来说，这种伦理学已经与传统的伦理学旨趣发生了较大的偏移，其原因在于，人工智能的伦理学讨论的不再是人与人之间的关系，也不是与自然界的既定事实（如动物，生态）之间的关系，而是人类与自己所发明的一种产品构成的关联，由于这种特殊的产品――根据未来学家库兹威尔在《奇点临近》中的说法――一旦超过了某个奇点，就存在彻底压倒人类的可能性，在这种情况下，人与人之间的伦理是否还能约束人类与这个超越奇点的存在之间的关系？
实际上，对人工智能与人类之间伦理关系的研究，不能脱离对人工智能技术本身的讨论。在人工智能领域，从一开始，准确来说是依从着两种完全不同的路径来进行的。
首先，是真正意义上的人工智能的路径，1956年，在达特茅斯学院召开了一次特殊的研讨会，会议的组织者约翰・麦卡锡为这次会议起了一个特殊的名字：人工智能（简称AI）夏季研讨会。这是第一次在学术范围内使用“人工智能”的名称，而参与达特茅斯会议的麦卡锡和明斯基等人直接将这个名词作为一个新的研究方向的名称。实际上，麦卡锡和明斯基思考的是，如何将我们人类的各种感觉，包括视觉、听觉、触觉，甚至大脑的思考都变成称作“信息论之父”的香农意义上的信息，并加以控制和应用。这一阶段上的人工智能的发展，在很大程度上还是对人类行为的模拟，其理论基础来自德国哲学家莱布尼茨的设想，即将人类的各种感觉可以转化为量化的信息数据，也就是说，我们可以将人类的各种感觉经验和思维经验看成是一个复杂的形式符号系统，如果具有强大的信息采集能力和数据分析能力，就能完整地模拟出人类的感觉和思维。这也是为什么明斯基信心十足地宣称：“人的脑子不过是肉做的电脑。”麦卡锡和明斯基不仅成功地模拟出视觉和听觉经验，后来的特里・谢伊诺斯基和杰弗里・辛顿也根据对认知科学和脑科学的最新进展，发明了一个“NETtalk”的程序，模拟了类似于人的“神经元”的网络，让该网络可以像人的大脑一样进行学习，并能够做出简单的思考。
然而，在这个阶段中，所谓的人工智能在更大程度上都是在模拟人的感觉和思维，让一种更像人的思维机器能够诞生。著名的图灵测试，也是在是否能够像人一样思考的标准上进行的。图灵测试的原理很简单，让测试一方和被测试一方彼此分开，只用简单的对话来让处在测试一方的人判断，被测试方是人还是机器，如果有30%的人无法判断对方是人还是机器时，则代表通过了图灵测试。所以，图灵测试的目的，仍然在检验人工智能是否更像人类。但是，问题在于，机器思维在作出自己的判断时，是否需要人的思维这个中介？也就是说，机器是否需要先绕一个弯路，即将自己的思维装扮得像一个人类，再去作出判断？显然，对于人工智能来说，答案是否定的，因为如果人工智能是用来解决某些实际问题，它们根本不需要让自己经过人类思维这个中介，再去思考和解决问题。人类的思维具有一定的定势和短板，强制性地模拟人类大脑思维的方式，并不是人工智能发展的良好选择。
二
所以，人工智能的发展走向了另一个方向，即智能增强（简称IA）上。如果模拟真实的人的大脑和思维的方向不再重要，那么，人工智能是否能发展出一种纯粹机器的学习和思维方式？倘若机器能够思维，是否能以机器本身的方式来进行。这就出现了机器学习的概念。机器学习的概念，实际上已经成为发展出属于机器本身的学习方式，通过海量的信息和数据收集，让机器从这些信息中提出自己的抽象观念，例如，在给机器浏览了上万张猫的图片之后，让机器从这些图片信息中自己提炼出关于猫的概念。这个时候，很难说机器自己抽象出来的猫的概念，与人类自己理解的猫的概念之间是否存在着差别。不过，最关键的是，一旦机器提炼出属于自己的概念和观念之后，这些抽象的概念和观念将会成为机器自身的思考方式的基础，这些机器自己抽象出来的概念就会形成一种不依赖于人的思考模式网络。当我们讨论打败李世石的阿尔法狗时，我们已经看到了这种机器式思维的凌厉之处，这种机器学习的思维已经让通常意义上的围棋定势丧失了威力，从而让习惯于人类思维的棋手瞬间崩溃。一个不再像人一样思维的机器，或许对于人类来说，会带来更大的恐慌。毕竟，模拟人类大脑和思维的人工智能，尚具有一定的可控性，但基于机器思维的人工智能，我们显然不能作出上述简单的结论，因为，根据与人工智能对弈之后的棋手来说，甚至在多次复盘之后，他们仍然无法理解像阿尔法狗这样的人工智能如何走出下一步棋。
不过，说智能增强技术是对人类的取代，似乎也言之尚早，至少第一个提出“智能增强”的工程师恩格尔巴特并不这么认为。对于恩格尔巴特来说，麦卡锡和明斯基的方向旨在建立机器和人类的同质性，这种同质性思维模式的建立，反而与人类处于一种竞争关系之中，这就像《西部世界》中那些总是将自己当成人类的机器人一样，他们谋求与人类平起平坐的关系。智能增强技术的目的则完全不是这样，它更关心的是人与智能机器之间的互补性，如何利用智能机器来弥补人类思维上的不足。比如自动驾驶技术就是一种典型的智能增强技术，自动驾驶技术的实现，不仅是在汽车上安装了自动驾驶的程序，更关键地还需要采集大量的地图地貌信息，还需要自动驾驶的程序能够在影像资料上判断一些移动的偶然性因素，如突然穿过马路的人。自动驾驶技术能够取代容易疲劳和分心的驾驶员，让人类从繁重的驾驶任务中解放出来。同样，在分拣快递、在汽车工厂里自动组装的机器人也属于智能增强类性质的智能，它们不关心如何更像人类，而是关心如何用自己的方式来解决问题。
三
这样，由于智能增强技术带来了两种平面，一方面是人类思维的平面，另一方面是机器的平面，所以，两个平面之间也需要一个接口技术。接口技术让人与智能机器的沟通成为可能。当接口技术的主要开创者费尔森斯丁来到伯克利大学时，距离恩格尔巴特在那里讨论智能增强技术已经有10年之久。费尔森斯丁用犹太神话中的一个形象――土傀儡――来形容今天的接口技术下人与智能机器的关系，与其说今天的人工智能在奇点临近时，旨在超越和取代人类，不如说今天的人工智能技术越来越倾向于以人类为中心的傀儡学，在这种观念的指引下，今天的人工智能的发展目标并不是产生一种独立的意识，而是如何形成与人类交流的接口技术。在这个意义上，我们可以从费尔森斯丁的傀儡学角度来重新理解人工智能与人的关系的伦理学，也就是说，人类与智能机器的关系，既不是纯粹的利用关系，因为人工智能已经不再是机器或软件，也不是对人的取代，成为人类的主人，而是一种共生性的伙伴关系。当苹果公司开发与人类交流的智能软件Siri时，乔布斯就提出Siri是人类与机器合作的一个最朴实、最优雅的模型。以后，我们或许会看到，当一些国家逐渐陷入老龄化社会之后，无论是一线的生产，还是对这些因衰老而无法行动的老人的照料，或许都会面对这样的人与智能机器的接口技术问题，这是一种人与人工智能之间的新伦理学，他们将构成一种跨人类主义，或许，我们在这种景象中看到的不一定是伦理的灾难，而是一种新的希望。
（作者：蓝江，系南京大学哲学系教授）
人工智能时代是什么时代?
工业4.0是2013年的汉诺威工业博览会上德国为提升工业竞争力而提出的一个概念。基于工业发展的不同阶段划分出4个时代，即工业1.0蒸汽机时代、工业2.0电气化时代、工业3.0信息化时代和工业4.0智能化时代。显然，这种划分只表示了工业革命以来工业领域的时代变迁。如果说“蒸汽机”、“电气化”可以表示工业革命内涵，那么“信息化”、“智能化”就远远超出了工业领域。把人工智能时代称为第4次工业革命时代显然是错误的。
在“第4次工业革命”这一错误概念的影响下，对人工智能时代性的理解出现了许多混乱。仅从工业生产力变迁的角度来看，划分成蒸汽机工业革命、电气化工业革命、信息化工业革命、智能化工业革命时代，的确具有一定道理，但是，如果把它泛化，认为人工智能的智能化是第4次工业革命时代，甚至由此衍生出第5次工业革命、第6次科技革命、第N次工业革命的提法，显然模糊了人工智能的知识革命与工业革命的本质差异。我们可以从以下5个方面看看人工智能时代与工业革命时代的本质差异:
(1)社会生产力结构的本质差异
工业革命后形成了资本整合下的社会化大生产，其社会生产力结构是“劳动者+机械化工具”，劳动者在知识基础上驾驭工具；人工智能时代，在半导体微处理基础上诞生了智能化工具，智能化工具超越了生产领域、经济领域，全面影响人类社会生活，并且具有独立的财富生产能力，其生产力结构变成了“管理者+智能化工具”。
(2)生产工具的本质差异
机械化工具与智能化工具有本质差异，前者无自主能力，必须由劳动者驾驭，后者有自主能力，可以在无人介入下自主式工作。工业革命后期虽然出现过可以自主运行的自动化工具，但不具有智能行为，它们与计算机软件控制的智能化工具有本质不同。
(3)体力劳动与脑力劳动替代的本质差异
工业革命后，机械化工具以蒸汽机械(以及后来的内燃机械、电动机械)代替劳动者的体力劳动，而人工智能时代，智能化工具普遍代替了人类的脑力劳动。
(4)知识相关性的本质差异
工业革命时代，“知识就是力量”是著名的时代口号，因为驾驭机械化工具都需要相应的知识，工人、技师、工程师形成了严格的知识与技术等级；在人工智能时代，智能化工具具有智力行为能力，使用者不需要有相应的知识。知识与知识行为分离，成为人工智能时代的重要特点。
(5)从经济变革到社会变革的本质差异
工业革命的主要变革是经济基础；人工智能变革后的数字化社会、区块链的无偏见人工智能、诚信体制建设等，从经济基础延伸至上层建筑。同时，从资本时代到金融时代、从贸易全球化到经济全球化、从两种文化到第3种文化，都表明人工智能时代从经济基础到上层建筑的延伸效应。
3人工智能时代是第3次浪潮时代
最早揭示人工智能时代与工业革命时代具有本质差异的是著名的未来学者阿尔文·托夫勒。1980年，阿尔文·托夫勒推出了《第三次浪潮》一书，该书将人类现代文明史划分为3个浪潮时代。阿尔文·托夫勒在书中写道:“到目前为止，人类经历了两次重大的变化浪潮，每一次都抹杀了早期的文化和文明，以前人不能想象的生活方式取而代之。第1次浪潮—农业革命—经历了几千年才结束。第2次浪潮—工业文明的崛起—只有300年的寿命。今天的历史速度更快，很可能第3次浪潮将横扫历史，在几十年内结束。”他十分明确地将“今天的历史”与工业革命时期相分割。26年之后，他在2006年出版的《财富的革命》一书中，将“今天的历史”定义为“知识经济”时代，即一个知识创造财富的时代。
阿尔文·托夫勒首先清醒地、科学地认识到“今天的历史”的时代特征与时代本质，它与“机器”创造财富的工业文明完全不同，是一个用“知识”创造财富的时代。托夫勒还天才地描绘了人类现代文明发展史，几千年农业文明、几百年工业文明、几十年知识经济文明演化速度的倍增现象。所有这些都集中反映人工智能时代托夫勒的知识革命观。必须从知识的本源出发，用知识的创新原理来探索人工智能时代的奥秘。不幸的是，托夫勒未能揭示知识革命的奥秘，对“知识”充满了无奈与绝望。
4人工智能时代是知识革命时代
托夫勒敏锐地认识到，人工智能时代是知识创造财富的知识革命时代，但是，对“知识经济”的定义以及“知识创造财富”的知识革命论述却显得苍白无力。在后来《财富的革命》一书中，他充满了悲观与无奈。托夫勒说:“尽管对新兴的知识经济有着数千种分析和研究，但是，知识对创造财富的影响却一直被低估了，而且现在仍然在被低估。”他充分认识到知识经济时代的知识主导作用、知识探索的重要性，书中也描述了人们对“知识”的无知、漠视与无奈，他在书中写道:知“识已经成为我们经济和社会环境中变化最快的组成部分之一。”“自从‘知识经济’开始半个世纪以来，关于知识经济背后的‘知识’我们却了解得很少，简直少得让我们感到尴尬。托”夫勒虽然界定了今天的时代是与工业革命完全不同的知识创造财富的时代，但是并没有回答知识如何创造财富。这是人工智能时代知识革命必须回答的问题。
“知识创造财富”贯穿于人类的全部历史进程中。在原始社会，人类在知识基础上打造工具、使用工具，开创了“人+工具”的社会生产力的基本结构。其后，一直延续到农业社会、工业社会以及人工智能社会。只是人工智能社会之前的生产力结构是“(人+知识)+工具”，即劳动者在知识基础上驾驭工具；人工智能的社会生产力结构变成了“人+(知识+工具)，”即人类将知识成果转移到智能化工具中，劳动者傻瓜化地使用智能化工具，出现了知识从“人”到“工具”的根本性转移。这就是人工智能时代知识创造财富的本质与知识革命的核心所在。
人们普遍意识到知识在社会生产力中的重要作用，因为没有知识，人类就不会使用工具，也不可能创造工具。然而在经济学家、社会学家、历史学家的视野中，“知识”消失了。他们用“劳动者、劳动资料、劳动对象”的生产力结构观来诠释人类社会发展史。
人类对知识的无知，经济学家对知识的忽视，托夫勒对知识的无奈与无助是有道理的。因为，尽管人类对知识的研究远早于自然科学、社会科学，然而，在自然科学、社会科学充分发展的今天，人类对知识的研究一直停留在两千年前坐而论道的“认识论”、“知识论”的哲学陷阱之中。因为，传统概念中的知识一直是虚无缥缈、捉摸不定、隐含在事物之中的东西。只有到了知识从量变到质变的人工智能时代，知识才走到前台，人们才得以从学科视角重新研究“知识”的本质，它的诞生、发展、演化、基本规律，以及它在人工智能时代的财富革命与知识力量变迁。从人工智能的实践中探索知识革命的奥秘，寻找人类知识起源，演化发展的本质与基本规律，创建科学的“知识学”。
人工智能时代的“知识学原理”走出了“认识论”、知“识论”的陷阱，成为指导实践的新兴科学。不但能有效地诠释人工智能的智能生成机理，还将人们对人工智能的认识从“是什么”的低级阶段提升到“为什么”的高级阶段。由于知识的普遍性，”知识学原理”还将全面诠释人类起源、人类演化的生态体系、工具中的第3种知识、从第2种文化到第3种文化，人类工具起源与智能化工具智能生成机理等众多未解之谜。
5人工智能知识革命的时代特征
人工智能时代，是继农业革命、工业革命后，人类现代社会的第3次浪潮时代。正如托夫勒所说，“很可能第3次浪潮将会横扫历史，生存在这个爆炸性时刻的我们会感受到第3次浪潮对这个时代的全面影响。因”此，了解人工智能的时代特征具有重要意义。
(1)人工智能时代是一个动荡的时代
人类历史呈非线性发展特征，百万年的原始社会、万年的农业社会、几百年的工业社会，以及不到百年的人工智能时代。百万年的原始社会是凝固的，万年的农业社会是缓慢的，几百年的工业社会有了显著的变化，不到百年的人工智能时代则是一个激烈动荡的时代，人们会普遍感受到生存环境与社会生活的全面动荡。
(2)人工智能时代是一个人类体力劳动、脑力劳动全面解放的时代
工业革命的动力机械代替了人类的体力劳动、智力革命的智能化工具代替人类脑力劳动，未来，机器人将养活人类，人类社会将进入一个在少数精英引领下的傻瓜化时代。体现群体智力的人工智能远远超越人类个体智力，人们寄希望于人类智慧驾驭人工智能。
(3)人工智能时代是自然人类的终结时代
不到百年的人工智能时代，众多新兴科技(生物科技、生命科技、基因工程、人工生殖、脑科学、脑机工程等)与强人工智能相结合，必将导致自然人类的终结，人们最终将迎来一个非自然人类的新时代。
(4)人工智能时代是生产力结构彻底革命的时代
人类社会生产力结构一般表达形式是“人+工具”，知识隐含其中，成为社会财富生产能力的基础因素。原始社会、农业社会，人类使用简单工具，财富生产能力的“知识重心”在原始人类；工业社会，机械化工具代替了人类体力劳动，财富生产能力的“知识重心”向工具转移；智力革命时代，智能化工具独立的行为能力，将财富生产能力的“知识重心”彻底转移到工具中，实现了生产力结构彻底变革。
(5)人工智能时代是上层建筑革命的时代
农业革命、工业革命是经济领域的革命。人工智能时代，第3种文化以科技文化对人文文化的全面入侵方式彻底改变了人文文化属性，文化艺术领域不再有纯文化、纯艺术；互联网从信息网、物联网到资源网(区块链)的诚信体系建设、去中心化的智能合约、无偏见的人工智能等，表明人工智能进入到伦理时代，从而掀起了上层建筑的全面革命热潮。
人工智能时代的知识革命改变了一切，因为人类社会的一切事物都与知识相关。
从本质上讲，我们这个时代，是人类在外部以人工方式将“知识”变革到“知识行为能力”(即智力)的革命时代。但迄今为止，我们没能用知识的基本原理准确地诠释人工智能时代，对这个时代的认识尚处于模糊阶段。人们需要从不同视角来阐述我们这个时代。（此文发表在《单片机与嵌入式系统应用》2020年第4期学习园地）
6.嵌入式系统中AI和ML的实际应用
免责声明：本文系网络转载，版权归原作者所有。如涉及作品版权问题，请与我们联系，我们将根据您提供的版权证明材料确认版权并支付稿酬或者删除内容。返回搜狐，查看更多