人工智能的伦理挑战
原标题：人工智能的伦理挑战控制论之父维纳在他的名著《人有人的用处》中曾在谈到自动化技术和智能机器之后，得出了一个危言耸听的结论：“这些机器的趋势是要在所有层面上取代人类，而非只是用机器能源和力量取代人类的能源和力量。很显然，这种新的取代将对我们的生活产生深远影响。”维纳的这句谶语，在今天未必成为现实，但已经成为诸多文学和影视作品中的题材。《银翼杀手》《机械公敌》《西部世界》等电影以人工智能反抗和超越人类为题材，机器人向乞讨的人类施舍的画作登上《纽约客》杂志2017年10月23日的封面……人们越来越倾向于讨论人工智能究竟在何时会形成属于自己的意识，并超越人类，让人类沦为它们的奴仆。
一
维纳的激进言辞和今天普通人对人工智能的担心有夸张的成分，但人工智能技术的飞速发展的确给未来带来了一系列挑战。其中，人工智能发展最大的问题，不是技术上的瓶颈，而是人工智能与人类的关系问题，这催生了人工智能的伦理学和跨人类主义的伦理学问题。准确来说，这种伦理学已经与传统的伦理学旨趣发生了较大的偏移，其原因在于，人工智能的伦理学讨论的不再是人与人之间的关系，也不是与自然界的既定事实（如动物，生态）之间的关系，而是人类与自己所发明的一种产品构成的关联，由于这种特殊的产品――根据未来学家库兹威尔在《奇点临近》中的说法――一旦超过了某个奇点，就存在彻底压倒人类的可能性，在这种情况下，人与人之间的伦理是否还能约束人类与这个超越奇点的存在之间的关系？
实际上，对人工智能与人类之间伦理关系的研究，不能脱离对人工智能技术本身的讨论。在人工智能领域，从一开始，准确来说是依从着两种完全不同的路径来进行的。
首先，是真正意义上的人工智能的路径，1956年，在达特茅斯学院召开了一次特殊的研讨会，会议的组织者约翰・麦卡锡为这次会议起了一个特殊的名字：人工智能（简称AI）夏季研讨会。这是第一次在学术范围内使用“人工智能”的名称，而参与达特茅斯会议的麦卡锡和明斯基等人直接将这个名词作为一个新的研究方向的名称。实际上，麦卡锡和明斯基思考的是，如何将我们人类的各种感觉，包括视觉、听觉、触觉，甚至大脑的思考都变成称作“信息论之父”的香农意义上的信息，并加以控制和应用。这一阶段上的人工智能的发展，在很大程度上还是对人类行为的模拟，其理论基础来自德国哲学家莱布尼茨的设想，即将人类的各种感觉可以转化为量化的信息数据，也就是说，我们可以将人类的各种感觉经验和思维经验看成是一个复杂的形式符号系统，如果具有强大的信息采集能力和数据分析能力，就能完整地模拟出人类的感觉和思维。这也是为什么明斯基信心十足地宣称：“人的脑子不过是肉做的电脑。”麦卡锡和明斯基不仅成功地模拟出视觉和听觉经验，后来的特里・谢伊诺斯基和杰弗里・辛顿也根据对认知科学和脑科学的最新进展，发明了一个“NETtalk”的程序，模拟了类似于人的“神经元”的网络，让该网络可以像人的大脑一样进行学习，并能够做出简单的思考。
然而，在这个阶段中，所谓的人工智能在更大程度上都是在模拟人的感觉和思维，让一种更像人的思维机器能够诞生。著名的图灵测试，也是在是否能够像人一样思考的标准上进行的。图灵测试的原理很简单，让测试一方和被测试一方彼此分开，只用简单的对话来让处在测试一方的人判断，被测试方是人还是机器，如果有30%的人无法判断对方是人还是机器时，则代表通过了图灵测试。所以，图灵测试的目的，仍然在检验人工智能是否更像人类。但是，问题在于，机器思维在作出自己的判断时，是否需要人的思维这个中介？也就是说，机器是否需要先绕一个弯路，即将自己的思维装扮得像一个人类，再去作出判断？显然，对于人工智能来说，答案是否定的，因为如果人工智能是用来解决某些实际问题，它们根本不需要让自己经过人类思维这个中介，再去思考和解决问题。人类的思维具有一定的定势和短板，强制性地模拟人类大脑思维的方式，并不是人工智能发展的良好选择。
二
所以，人工智能的发展走向了另一个方向，即智能增强（简称IA）上。如果模拟真实的人的大脑和思维的方向不再重要，那么，人工智能是否能发展出一种纯粹机器的学习和思维方式？倘若机器能够思维，是否能以机器本身的方式来进行。这就出现了机器学习的概念。机器学习的概念，实际上已经成为发展出属于机器本身的学习方式，通过海量的信息和数据收集，让机器从这些信息中提出自己的抽象观念，例如，在给机器浏览了上万张猫的图片之后，让机器从这些图片信息中自己提炼出关于猫的概念。这个时候，很难说机器自己抽象出来的猫的概念，与人类自己理解的猫的概念之间是否存在着差别。不过，最关键的是，一旦机器提炼出属于自己的概念和观念之后，这些抽象的概念和观念将会成为机器自身的思考方式的基础，这些机器自己抽象出来的概念就会形成一种不依赖于人的思考模式网络。当我们讨论打败李世石的阿尔法狗时，我们已经看到了这种机器式思维的凌厉之处，这种机器学习的思维已经让通常意义上的围棋定势丧失了威力，从而让习惯于人类思维的棋手瞬间崩溃。一个不再像人一样思维的机器，或许对于人类来说，会带来更大的恐慌。毕竟，模拟人类大脑和思维的人工智能，尚具有一定的可控性，但基于机器思维的人工智能，我们显然不能作出上述简单的结论，因为，根据与人工智能对弈之后的棋手来说，甚至在多次复盘之后，他们仍然无法理解像阿尔法狗这样的人工智能如何走出下一步棋。
不过，说智能增强技术是对人类的取代，似乎也言之尚早，至少第一个提出“智能增强”的工程师恩格尔巴特并不这么认为。对于恩格尔巴特来说，麦卡锡和明斯基的方向旨在建立机器和人类的同质性，这种同质性思维模式的建立，反而与人类处于一种竞争关系之中，这就像《西部世界》中那些总是将自己当成人类的机器人一样，他们谋求与人类平起平坐的关系。智能增强技术的目的则完全不是这样，它更关心的是人与智能机器之间的互补性，如何利用智能机器来弥补人类思维上的不足。比如自动驾驶技术就是一种典型的智能增强技术，自动驾驶技术的实现，不仅是在汽车上安装了自动驾驶的程序，更关键地还需要采集大量的地图地貌信息，还需要自动驾驶的程序能够在影像资料上判断一些移动的偶然性因素，如突然穿过马路的人。自动驾驶技术能够取代容易疲劳和分心的驾驶员，让人类从繁重的驾驶任务中解放出来。同样，在分拣快递、在汽车工厂里自动组装的机器人也属于智能增强类性质的智能，它们不关心如何更像人类，而是关心如何用自己的方式来解决问题。
三
这样，由于智能增强技术带来了两种平面，一方面是人类思维的平面，另一方面是机器的平面，所以，两个平面之间也需要一个接口技术。接口技术让人与智能机器的沟通成为可能。当接口技术的主要开创者费尔森斯丁来到伯克利大学时，距离恩格尔巴特在那里讨论智能增强技术已经有10年之久。费尔森斯丁用犹太神话中的一个形象――土傀儡――来形容今天的接口技术下人与智能机器的关系，与其说今天的人工智能在奇点临近时，旨在超越和取代人类，不如说今天的人工智能技术越来越倾向于以人类为中心的傀儡学，在这种观念的指引下，今天的人工智能的发展目标并不是产生一种独立的意识，而是如何形成与人类交流的接口技术。在这个意义上，我们可以从费尔森斯丁的傀儡学角度来重新理解人工智能与人的关系的伦理学，也就是说，人类与智能机器的关系，既不是纯粹的利用关系，因为人工智能已经不再是机器或软件，也不是对人的取代，成为人类的主人，而是一种共生性的伙伴关系。当苹果公司开发与人类交流的智能软件Siri时，乔布斯就提出Siri是人类与机器合作的一个最朴实、最优雅的模型。以后，我们或许会看到，当一些国家逐渐陷入老龄化社会之后，无论是一线的生产，还是对这些因衰老而无法行动的老人的照料，或许都会面对这样的人与智能机器的接口技术问题，这是一种人与人工智能之间的新伦理学，他们将构成一种跨人类主义，或许，我们在这种景象中看到的不一定是伦理的灾难，而是一种新的希望。
（作者：蓝江，系南京大学哲学系教授）
人工智能将给人类带来七大危害
比如繁荣兴盛，生活中机器人随时提醒，什么时间吃药，喝酒到什么程度刚刚好；机器人还可以洒扫庭除、烧水做饭。人类要么悠闲逛街，要么一心搞研发，其他什么都不用做。
实际上恰恰相反。人类不是更悠闲，而是更懒惰，甚至退化。机器人承担一切家务，打扫拾掇，买米买肉，煮饭烧菜等等。人类则呆在家里不出门，蜷在沙发看电视，窝在床上玩手机。
如今，年轻一代参加户外活动越来越少，他们通过手机和网络相互沟通。下一步，他们就呆在家里，窝在床上，蜷在沙发，动动嘴唇发发指令，智能机器包办一切，而我们越来越懒，身体机能越来越退化。
五、差错更难修正、人犯错了，自己能意识到，能立即改正。“知错能改，善莫大焉。
机器出错，自己意识不到，相反，需要人找到出错的根源。重新检查程序，浏览代码，确定根源，然后编写补丁程序，再检验补丁，更新补丁，有时需要补丁的补丁，最后甚至导致程序整体升级。
两相比较，孰易孰难？高下立判！对人而言，只需一句告诫：“不要再犯错，因为……”对机器而言，修正差错似乎繁琐到令人厌烦，很不值得。
六、方便黑客入侵、
来的冰箱、烤箱、电灯、汽车等，日常用品都将联网。方便我们自己，同样也方便了黑客。
Siri是苹果iOS系统的智能语音助手。未来，它将浓缩进一个小盒子，接入网络，全天候工作，自动更新，自动记录，保存你所有信息。Siri一旦被黑客攻取，后果非常严重。
由人工智能储存保护个人信息，你能放宽心吗？
七、致人大量失业、当机器配上人工智能，它就能自动更新，人类被代替的趋势，愈演愈烈。这将造成失业工人大量涌现，只有少数人从中受益，比如智能机器的制造者、使用者和升级者。
返回搜狐，查看更多
人工智能的快速发展会给我们带来哪些负面影响
（文章来源：方平解数码）
最近这几年人工智能得到了飞速的发展，人工智能与机械的制造是有很大的区别，机械的研究发明主要是为了替代人类做简单重复的体力劳动，是为了提高生产效率并解放双手，而人工智能被制造出来是用来代替人类做复杂的脑力劳动的，目的是解放大脑。因此有很多人担心人工智能的出现会抢走很多人的“饭碗”，这是不可避免的，毕竟这东西造出来就是为了代替人类干活的。
人工智能是大势所趋但可能让人一下子无法接受，但是我们还是应该尝试接受的。我们观察后都能发现，现在的人工智能的目的并不是为了解放我们的大脑，只是让我们的生活能得到更多的便利性。对于人工智能没必要过于担心，电脑和智能手机的出现一样使很多行业消失了，但是由此衍生出的很多行业同样提供了更多的就业机会。
人工智能时代，如同互联网时代的到来一样可以说是不可避免的，但是人工智能时代也同样携带着新的希望和新的挑战。人工智能可以作为承载各行各业发展的新的工具与机遇，如智能制造、智能物流、智能金融、智能商务、智能农业、智能教育、智能医疗等，在以后的各行各业中是不可或缺的存在，可以说人工智能将会变成我们身边的一部分，也是与我们密不可分的一部分。
我们去细究可以发现人工智能的好处有很多，它可以改善人们的生活水平。随着人工智能科技的发展，基于人工智能应用层面上的产品越来越多，从居家的智能设备、智能楼宇、智能家电到出行相关的自动驾驶、空中无人机、水下无人潜艇，满足人们对产品个性化和多样化的需求。随着我国逐步进入老年化社会，一些简单的人工智能产品能够给老年人的生活带来更多的乐趣，也能为老年人的安全提供一些保障。
可以说现在我们人类社会正处在迈向信息时代的重大历史转折点的关键时期，新一轮技术革命是人类发展的重大机遇。在人工智能技术蓬勃发展的大背景下，做好前瞻性研究至关重要，既要研究如何发挥技术进步带来的优势，又要研究如何防范技术带来的风险与不利面。人工智能可以在一些特定的场景里，比如工厂的流水线、安保、疾病的诊断等多方面，通过成千上万次训练，在大数据计算的赋能下逐渐超越人类，替代人类完成大部分重复性、机械性、繁琐工作。但是在逻辑尝试、创新能力、人文关怀方面，人工智能还远远无法替代人类。
不可否认目前的人工智能可以帮助人类从低智能的工作当中抽身，从而让人类用更多时间和精力从事这些机器解决不了的创造性的工作，人工智能带来的是人类双手和大脑的又一次大解放，工作意义将从劳动变成创造，更多的头脑将用于思考科技创新的新燃点，发现文化艺术的新燃点。 （责任编辑：fqj）