人工智能的伦理挑战
原标题：人工智能的伦理挑战控制论之父维纳在他的名著《人有人的用处》中曾在谈到自动化技术和智能机器之后，得出了一个危言耸听的结论：“这些机器的趋势是要在所有层面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。很显然，这种新的取代将对我们的生活产生深远影响。”维纳的这句谶语，在今天未必成为现实，但已经成为诸多文学和影视作品中的题材。《银翼杀手》《机械公敌》《西部世界》等电影以人工智能反抗和超越人类为题材，机器人向乞讨的人类施舍的画作登上《纽约客》杂志2017年10月23日的封面……人们越来越倾向于讨论人工智能究竟在何时会形成属于自己的意识，并超越人类，让人类沦为它们的奴仆。
一
维纳的激进言辞和今天普通人对人工智能的担心有夸张的成分，但人工智能技术的飞速发展的确给未来带来了一系列挑战。其中，人工智能发展最大的问题，不是技术上的瓶颈，而是人工智能与人类的关系问题，这催生了人工智能的伦理学和跨人类主义的伦理学问题。准确来说，这种伦理学已经与传统的伦理学旨趣发生了较大的偏移，其原因在于，人工智能的伦理学讨论的不再是人与人之间的关系，也不是与自然界的既定事实（如动物，生态）之间的关系，而是人类与自己所发明的一种产品构成的关联，由于这种特殊的产品――根据未来学家库兹威尔在《奇点临近》中的说法――一旦超过了某个奇点，就存在彻底压倒人类的可能性，在这种情况下，人与人之间的伦理是否还能约束人类与这个超越奇点的存在之间的关系？
实际上，对人工智能与人类之间伦理关系的研究，不能脱离对人工智能技术本身的讨论。在人工智能领域，从一开始，准确来说是依从着两种完全不同的路径来进行的。
首先，是真正意义上的人工智能的路径，1956年，在达特茅斯学院召开了一次特殊的研讨会，会议的组织者约翰・麦卡锡为这次会议起了一个特殊的名字：人工智能（简称AI）夏季研讨会。这是第一次在学术范围内使用“人工智能”的名称，而参与达特茅斯会议的麦卡锡和明斯基等人直接将这个名词作为一个新的研究方向的名称。实际上，麦卡锡和明斯基思考的是，如何将我们人类的各种感觉，包括视觉、听觉、触觉，甚至大脑的思考都变成称作“信息论之父”的香农意义上的信息，并加以控制和应用。这一阶段上的人工智能的发展，在很大程度上还是对人类行为的模拟，其理论基础来自德国哲学家莱布尼茨的设想，即将人类的各种感觉可以转化为量化的信息数据，也就是说，我们可以将人类的各种感觉经验和思维经验看成是一个复杂的形式符号系统，如果具有强大的信息采集能力和数据分析能力，就能完整地模拟出人类的感觉和思维。这也是为什么明斯基信心十足地宣称：“人的脑子不过是肉做的电脑。”麦卡锡和明斯基不仅成功地模拟出视觉和听觉经验，后来的特里・谢伊诺斯基和杰弗里・辛顿也根据对认知科学和脑科学的最新进展，发明了一个“NETtalk”的程序，模拟了类似于人的“神经元”的网络，让该网络可以像人的大脑一样进行学习，并能够做出简单的思考。
然而，在这个阶段中，所谓的人工智能在更大程度上都是在模拟人的感觉和思维，让一种更像人的思维机器能够诞生。著名的图灵测试，也是在是否能够像人一样思考的标准上进行的。图灵测试的原理很简单，让测试一方和被测试一方彼此分开，只用简单的对话来让处在测试一方的人判断，被测试方是人还是机器，如果有30%的人无法判断对方是人还是机器时，则代表通过了图灵测试。所以，图灵测试的目的，仍然在检验人工智能是否更像人类。但是，问题在于，机器思维在作出自己的判断时，是否需要人的思维这个中介？也就是说，机器是否需要先绕一个弯路，即将自己的思维装扮得像一个人类，再去作出判断？显然，对于人工智能来说，答案是否定的，因为如果人工智能是用来解决某些实际问题，它们根本不需要让自己经过人类思维这个中介，再去思考和解决问题。人类的思维具有一定的定势和短板，强制性地模拟人类大脑思维的方式，并不是人工智能发展的良好选择。
二
所以，人工智能的发展走向了另一个方向，即智能增强（简称IA）上。如果模拟真实的人的大脑和思维的方向不再重要，那么，人工智能是否能发展出一种纯粹机器的学习和思维方式？倘若机器能够思维，是否能以机器本身的方式来进行。这就出现了机器学习的概念。机器学习的概念，实际上已经成为发展出属于机器本身的学习方式，通过海量的信息和数据收集，让机器从这些信息中提出自己的抽象观念，例如，在给机器浏览了上万张猫的图片之后，让机器从这些图片信息中自己提炼出关于猫的概念。这个时候，很难说机器自己抽象出来的猫的概念，与人类自己理解的猫的概念之间是否存在着差别。不过，最关键的是，一旦机器提炼出属于自己的概念和观念之后，这些抽象的概念和观念将会成为机器自身的思考方式的基础，这些机器自己抽象出来的概念就会形成一种不依赖于人的思考模式网络。当我们讨论打败李世石的阿尔法狗时，我们已经看到了这种机器式思维的凌厉之处，这种机器学习的思维已经让通常意义上的围棋定势丧失了威力，从而让习惯于人类思维的棋手瞬间崩溃。一个不再像人一样思维的机器，或许对于人类来说，会带来更大的恐慌。毕竟，模拟人类大脑和思维的人工智能，尚具有一定的可控性，但基于机器思维的人工智能，我们显然不能作出上述简单的结论，因为，根据与人工智能对弈之后的棋手来说，甚至在多次复盘之后，他们仍然无法理解像阿尔法狗这样的人工智能如何走出下一步棋。
不过，说智能增强技术是对人类的取代，似乎也言之尚早，至少第一个提出“智能增强”的工程师恩格尔巴特并不这么认为。对于恩格尔巴特来说，麦卡锡和明斯基的方向旨在建立机器和人类的同质性，这种同质性思维模式的建立，反而与人类处于一种竞争关系之中，这就像《西部世界》中那些总是将自己当成人类的机器人一样，他们谋求与人类平起平坐的关系。智能增强技术的目的则完全不是这样，它更关心的是人与智能机器之间的互补性，如何利用智能机器来弥补人类思维上的不足。比如自动驾驶技术就是一种典型的智能增强技术，自动驾驶技术的实现，不仅是在汽车上安装了自动驾驶的程序，更关键地还需要采集大量的地图地貌信息，还需要自动驾驶的程序能够在影像资料上判断一些移动的偶然性因素，如突然穿过马路的人。自动驾驶技术能够取代容易疲劳和分心的驾驶员，让人类从繁重的驾驶任务中解放出来。同样，在分拣快递、在汽车工厂里自动组装的机器人也属于智能增强类性质的智能，它们不关心如何更像人类，而是关心如何用自己的方式来解决问题。
三
这样，由于智能增强技术带来了两种平面，一方面是人类思维的平面，另一方面是机器的平面，所以，两个平面之间也需要一个接口技术。接口技术让人与智能机器的沟通成为可能。当接口技术的主要开创者费尔森斯丁来到伯克利大学时，距离恩格尔巴特在那里讨论智能增强技术已经有10年之久。费尔森斯丁用犹太神话中的一个形象――土傀儡――来形容今天的接口技术下人与智能机器的关系，与其说今天的人工智能在奇点临近时，旨在超越和取代人类，不如说今天的人工智能技术越来越倾向于以人类为中心的傀儡学，在这种观念的指引下，今天的人工智能的发展目标并不是产生一种独立的意识，而是如何形成与人类交流的接口技术。在这个意义上，我们可以从费尔森斯丁的傀儡学角度来重新理解人工智能与人的关系的伦理学，也就是说，人类与智能机器的关系，既不是纯粹的利用关系，因为人工智能已经不再是机器或软件，也不是对人的取代，成为人类的主人，而是一种共生性的伙伴关系。当苹果公司开发与人类交流的智能软件Siri时，乔布斯就提出Siri是人类与机器合作的一个最朴实、最优雅的模型。以后，我们或许会看到，当一些国家逐渐陷入老龄化社会之后，无论是一线的生产，还是对这些因衰老而无法行动的老人的照料，或许都会面对这样的人与智能机器的接口技术问题，这是一种人与人工智能之间的新伦理学，他们将构成一种跨人类主义，或许，我们在这种景象中看到的不一定是伦理的灾难，而是一种新的希望。
（作者：蓝江，系南京大学哲学系教授）
“人工智能”到底对我们的学习生活有什么影响
0分享至人工智能，也称机器智能，是指由人工制造出来的系统所表现出来的智能。通常人工智能是指通过普通电脑实现的智能。人工智能目前尚且是一个高科技技术，还没有形成完整的产业，但是就像几百年前人们发现电一样，当时也是一种新兴的技术，而现今也早已发展为人类不可或缺的一个产业，人工智能不仅离不开电力，它还和电力有着千丝万缕的联系，它正在像电力一样慢慢地侵入并改变着我们的生活。
人工智能的飞速发展，不禁让很多人产生疑问：“人工智能作为一个高科技会给我们的学习生活带来怎样的变革？”看到这个问题，让我想起斯坦福人工智能实验室的主任吴恩达所说的：“100年前电能改变了很多不同行业，包括农业、冰箱甚至通信，现在人工智能也可以改变更多的行业，例如自动驾驶、金融、医疗行业。”目前人工智能正在一点点的挑战那些机器所不擅长的领域，而好多恰恰是人类最简单的感知，但是正是这些最基础、最简单的感知被机器慢慢取代的过程，让人工智能慢慢地融入人类的学习和生活，并慢慢地改变着我们的生活。
1积极意义
1.1提高学习和工作生活效率
由于云计算和API的普及，2019年人工智能将开始为企业带来和提供更有意义的价值，人工智能将会让工作更有效更高效，同时发现更多新的机遇和新的工作方式。就好比清华大学的“云课堂”，过去，学生需要用笔记本手写一个个记录重点，教师使用花名册点名，而大学生在课堂上使用的云课堂app，将能直接理解和保存教师传授的知识点，而教师也能直接在软件签到上更有效率的监督学生的出勤和听课效率等。
同时，随着人工智能在工作场所扮演的角色越来越多，人们不仅会根据它的智商，还会根据它的情商，也就是感知和理解人类所有事物的能力来进行评判。能够理解人类情感和认知状态的能力将成为评估人工智能标准的一部分，从而让公司为工作场所选择哪种人工智能，甚至让消费者决定在家中用哪种虚拟助手或智能扬声器。
“人工智能将超越炒作和媒体的头条新闻。实用的人工智能将专注于让购物变得更容易、让病人更好地参与诊疗、让律师更聪明、让网络安全更强大。我们不会看到永远不会撞车的自动驾驶汽车，但人工智能将在2019年以全新的有趣方式提高工作效率。”企业聊天机器人的创始人RamMenon这样说道。
1.2丰富学习资源与数据
“2019年将是各个组织机构基于自身数据构建专门人工智能系统的一年。考虑到各个组织机构拥有的专有数据量有限，其将会意识到他们需要工具来轻松在内部创建高质量的人工智能数据。”深度学习公司的联合创始人在谈到人工智能与大数据时，这样说道。
同时，随着社会的快节奏步伐的加快，人们对自己记忆力知识储量的要求越来越高，这就要求我们合理安排时间进行有效率的学习和复习。而人工智能的出现，将会带来更多有效率的产品出现，帮助我们丰富学习资源，提高自己的知识储量。例如我们在学习中外新闻史的发展历程的时候，在整个知识框架面前，我们将可以看到各个国家各个年代的新闻发展状况，倘若我们想要悉知民国时期的报业发展，那么这时我们便可以借助人工智能的学习系统来帮助我们填补这一空缺，这样一来，人工智能不仅能丰富我们的学习资源，还能帮助我们省去更多的珍贵时间。
1.3促进部分专业就业的发展
谈到人工智能对专业就业的影响，尤其是在农业专业领域并不缺乏担忧和焦虑。未来的精准农业以及种植更好作物的关键将依赖于人工智能、图像和传感器，这些传感器将能够收集千英亩农场的种植信息并进行学习。随着人们对粮食的需求正在增加，虽然农业学家和农民面临严重劳动力短缺和专业知识匮乏等多种问题，但由于农业经营需求的规模化和多样性，农业从业者需要密切关注劳动力积极性和管理水平，因此，世界各地的农场可以用人工智能技术填补劳动力缺口，而不是取代工作岗位。
2消极意义
2.1网络学习生活的安全存在隐患
随着越来越多的企业依赖人工智能提升自己的产品，不法分子也将利用类似的能力实施大规模欺诈计划，甚至会给企业人员造成数亿美元的损失。一旦自动化落入网络攻击者之手，就能够使用更简单的工具来获取访问权限并渗透进网络，进而干扰我们的网络学习生活。
过去几年，人工智能和机器学习一直是安全行业的杀手锏。恶意行为者也正在注意到这一点。就像是去年十分恐怖的全球多国爆发电脑勒索病毒，受害者电脑会被黑客锁定，提示支付价值约合人民币2069元的比特币才可解锁。
2.2影响部分传统媒体专业的就业和发展
虽然人工智能在许多行业发挥着越来越重要的作用，覆盖从文本翻译、为工业无人机提供动力到患者诊疗等多个领域，但是毫无疑问，任何事物都是具有两面性的，就好比在新闻学下传统媒体的就业与发展将受到很大的影响，许多大学生在对他进行选择时，会有更多的迟疑性心理。
首先，机器新闻写作高效、全天候的模式使它能够生产海量新闻内容。智能写稿机器人较之于编辑记者，更擅长对枯燥的海量数据进行有效的处理，在整体性、精确性和高效能方面，机器人比人具有更多优势。
其次，在突发事件的报道中，人工智能下的机器人新闻写作正在扮演着越来越重要的“守望者”角色。《南方都市报》写稿机器人“小南”首篇春运报道作品共300余字，报到生成用时不到一秒，还写出了“基本都是无座票，一站到底，路途会比较辛苦”这样充满人情味的文字。当人类记者面对突发事件还在惊愕中时，机器人写手已经迅速完成了数据描述和分析、以及进一步的数据价值挖掘、最后迅速完成自动写稿的全过程。因此，人工智能的发展会影响部分传统媒体专业的就业和发展。
人工智能技术是一把双刃剑，有利有弊。人工智能的学习系统能提高学习生活效率，丰富我们的学习资源和数据，促进部分专业行业的发展，但其也会使得网络学习生活存在隐患，影响传统媒体的发展。对于消极影响，我们必须趋利避害，采取积极的措施应对，让人工智能在外面的学习生活中发挥最好的作用。
特别声明：以上内容(如有图片或视频亦包括在内)为自媒体平台“网易号”用户上传并发布，本平台仅提供信息存储服务。
Notice:Thecontentabove(includingthepicturesandvideosifany)isuploadedandpostedbyauserofNetEaseHao,whichisasocialmediaplatformandonlyprovidesinformationstorageservices.
/阅读下一篇/返回网易首页下载网易新闻客户端