人工智能危险性源自情感 人类或败于依赖症
原标题：人工智能危险性源自情感人类或败于依赖症科技生活在线讯谷歌人工智能系统阿法狗(AlphaGo)在围棋人机大战中，最终以4：1战胜了人类顶尖高手之一李世石，也因此再次引发了对人工智能危险性的探讨。分析人员认为，人工智能研发对人类确实存在不可预知的威胁，人类须制定应对预案和伦理规则进行防范。
阿法狗威胁不大
在本次围棋人机大战中，流传着这样一个说法，阿法狗赢了人类并不可怕，最可怕的是阿法狗故意输给人类，表明其已具备自主意识并懂得为获取最大利益使用心机对付人类。前三场横扫李世石确立胜局后，阿法狗在第四场下出了不可思议的问题手，于是不少网友惊呼阿法狗太聪明了，人类应该警惕。
国家“863”类人智能项目首席科学家、科大讯飞轮值总裁胡郁博士表示，“人工智能程序AlphaGo还属于人工智能研究中初级层面的应用。”“可以更多地归结为运算智能的胜利。”人工智能的能力主要包括三大块：运算能力、感知能力和认知能力，而AlphaGo主要依靠的就是其强大的运算能力，在图像理解、语言理解和知识理解等感知能力和认知能力上，人工智能还不能与人类相比。
不过，佳融分析人员则认为，网友的调侃并非无稽之谈。人工智能对人类产生威胁，应该始自具备自主意识。自主意识则发端于欲望的产生，有了欲望就有主动进化发展的内在动力，而情感则是欲望的外化表现。让机器人具备情感与人类进行无障碍沟通，是AI研究的热门课题。痴迷于取得成果的科学家们，往往有意或无意淡化其暗藏的危险性，总以更好服务人类作为推进理由。而掌控了话语权的各种利益体出于贪婪共性，很可能也会刻意回避这一点。
Pepper更危险
SBRH软银机器人控股公司的第一批家用机器人Pepper日前开售，1分钟内被抢购一空。和大家的普遍认知不同的是，Pepper并非家用的劳动机器人，而是一款情感机器人，SBRH将它设计为用来陪伴人类，它可以识别你的情绪，懂得怎么安慰你，可以在和你的生活中学习了解你的喜好和习惯。如果你笑容灿烂，Pepper知道你心情愉悦，如果你眉头紧锁，它能感知你正在为某事而心烦。Pepper可以根据你的外在表情和活动识别你的心理状态，并且对你进行引导。
有学者认为，比起阿法狗，Pepper的发展方向对人类更具威胁性。人工智能是对人的意识、思维的信息过程的模拟，而人类思维很大程度上受控于情感和欲望。如果人工智能不具备情感和欲望，便很难真正模拟人类的思维过程，因而缺乏主动创造的动力和能力。然而，人类希望将所有的事情包括创造性劳动都交由人工智能代工。因此，科学家们的天性决定了，让人工智能具备情感只是时间问题。
佳融分析人员指出，具备情感，是人工智能产生自主意识的标志。情感是欲望的外在镜像，欲望则是进化动力。而当人类对人工智能的使用需求与人工智能谋求自身的发展利益产生冲突的时候，具备自主意识的人工智能不可避免将产生敌意，进而可能激化为你死我活的冲突。
难以应对
知名科幻作家、《三体》作者刘慈欣称，“天网”般的强人工智能如真能出现，人类依然可以应对。人工智能不可能强大到没有弱点。人类也不可能预测不到某种级别的强人工智能即将出现，所以必然会在其出现之前采取一系列措施，譬如不让它与外部世界有硬件上的连接或是断绝所有能量供应，让其没办法生存等。再退一万步，即便强人工智能最后自我生存下来，避免被人类消灭，人类也可能找到与之共存的方法，并不是一定会被其奴役，比如人机结合就是一个共存的途径。
展开全文很多网友持有类似观点，称拔插头最有效。不过，也有学者并不认同这样的看法，认为人工智能不会是一台单机，整个互联网都有它的存在。例如这次围棋人机大战，“在比赛中，坐在李世石对面的人在韩国连接英国的服务器，然后从英国服务器给美国的计算机下指令，最后再把计算结果传回韩国。你把韩国的机器电源拔了，根本不影响比赛。”有学者建议，可以采用电影《黑客帝国》里的方法，就是给地球加一个罩，从而切断风能、太阳能这些可再生能源，等着地球自身能源耗尽，这等于是给地球拔电源。
佳融分析人员表示，说通俗点，阿法狗项目提升的是人工智能的智商水平，而Pepper的研发则在提升人工智能的情商水平。一旦人工智能具备自主意识，将兼具阿法狗们以及Pepper们的认知与能力。如果与人类为敌，人类或被其玩弄于股掌之间而不自知。事实上，真到了人工智能与人类开战的那一天，掌握能源开关的应该是已具备自主意识的人工智能，被“拔电源”的更可能是人类，因为我们已然过于依赖网络和计算机，还能指望通过人工智能控制的系统下达攻击其自身的操作指令吗?当人类对于人工智能而言，已经丧失利用价值而只是负担的情况下，淘汰人类或成大概率的选择。
不容乐观
集智俱乐部创始人张江表示，虽然从目前发展趋势看，人类大部分脑力劳动将来会被人工智能所取代，但创造性劳动能否也被替代，至少目前还看不到。然而，事实上，当下人类所有的社会活动，已经离不开计算机和网络，那是人类根本无力与人工智能争夺的地盘。
也有学者乐观认为，人工智能如果发展到具备了主观意识的地步，那么它可能不会在意人类的生活，憧憬的是整个宇宙。因为火星和地球对人工智能来说没有区别，而且火星地盘大又没人类干扰，因此不用担心人工智能威胁人类。毕竟还有很长的时间，在这段时间，人类本身也会发生变化。“现在的一个趋势是人和机器的结合，比如脑机接口，人通过大脑可以直接控制机器，而不是一方完全替代另一方。”还有学者干脆提出了“投降论”，中山大学人机互联实验室主任翟振明表示，就算真的有“征服”发生，那也是新人类征服了旧人类，而不是人类的末日。
佳融分析人员指出，如果人工智能具备自主意识，事实上也就具备了生命体的核心特征。不再是人工智能，而是人工生命，只是不属于有机生物，而是无机状态下具有高度智慧的硅基生命。虽然是人造，但作为碳基生命的人类，实难接受被其缔造者取代的命运安排。更遗憾的是，到目前为止，人工智能学习效仿的人类并不是好榜样。为利益纷争不择手段，或许是具备自主意识的人工智能从人类发展史的大数据中归纳出的核心认知。最可怕的隐患是，所有的核设备都通过网络系统控制。而令人类致命的核辐射，对人工智能而言则是能源。
科技生活在线首席评论员江炜点评：机器人如果没有情感，只能依照人类编制的指令行事。即使出现偏差，也可通过修正指令来解决。如果人工智能具备了自主意识，并且以人为师，结果不容乐观。在人类做好应对预案和伦理规则前，科学家不宜盲动。返回搜狐，查看更多
责任编辑：中国社会科学杂志社
当前，人工智能在给人类带来重大发展机遇的同时，各种风险和挑战也随之而至。与科学技术领域人工智能热火朝天的技术突破和产业创新遥相呼应，哲学社会科学领域的人工智能伦理与治理问题的研究也如火如荼。这在很大程度上源于人们对人工智能的担忧和焦虑。人工智能的发展导致一些人对其的恐惧心理加重，人工智能恐惧又会给人工智能的发展带来一定阻力。因此，对人工智能恐惧现象进行研究，一方面可以降低甚或消除其对人工智能发展的负面影响，另一方面又可以对人工智能的发展带来警示作用，使其更好地服务于人类。
人工智能恐惧历史溯源
尽管人工智能是包括科学、技术、哲学等在内的综合性学科，但谈到人工智能风险及其引发的人工智能恐惧时，往往主要针对的是技术层面的人工智能。因此，人工智能恐惧属于技术恐惧的一种类型，技术恐惧的本质及特点也会反映在人工智能恐惧上。“技术恐惧”一词源于西方，其英文为“technophobia”，有时也用“technofear”。学界一般认为，技术恐惧是指人们对技术及其产品表现出的不适应、贬低、排斥、抵制、焦虑、恐慌等心理和行为反应，反映的是“人与技术之间的一种负相关关系”。因此，人工智能恐惧与其他技术恐惧一样，也会表现为人们对人工智能及其产品的担忧、焦虑和恐慌，从而产生抵制、否定人工智能的行为态度，表现出的依然是人与人工智能（技术）的负相关关系。人工智能作为一个技术领域或技术产品，像其他新技术一样，在发明和推广利用过程中会遭到一些人的贬低、抵制、排斥和拒绝使用，这是由于技术本身的复杂性、风险性以及技术革新打破了人们原来的技术环境和传统习惯给人们带来的压力造成的。
同时，人工智能恐惧又不同于一般的技术恐惧。与其他技术恐惧的最大不同在于，人工智能恐惧的对象——技术及其产品的智能性上。人工智能恐惧源于人们对人造智能的恐惧。这种恐惧渊源已久，可以表现为两个方面。
一是从智能的演化史看，人类智能或智力有一个从低到高的进化过程，而在这个过程中，同一时期个体的智力水平又有高低之分，智能的进化并不均衡。尤其在现代科技背景下，个人的智力可以定量测量，这从智力上把人进行了划分。这一现实并非现代才有的，而是伴随人类的整个进化过程。从智能进化史来看，不具有智能的生物成为具有智能的人类的牺牲品和主宰对象，智力低下者又会成为智力较高者的统治和奴役对象。所以，高智能或高智力就会成为普通人的梦魇和恐惧对象。而人类对人工智能的恐惧持久而恒远的表现，就是人工智能可能超越人类智能成为人类的主宰。
二是从历史文化的视角，对智能的恐惧可以追溯到远古时代的“泛灵论”，即人类以己度物的思维方式，推出自然万物都像人一样具有智能、具有灵魂。因此，人们形成了图腾崇拜的远古文化，并引发了人们的自然恐惧——恐惧自然的实质是恐惧自然的神灵，是恐惧自然具有智能，甚至其远远高于人类的智能。古人认为，各种天灾甚至人祸都是自然神灵的一种意思表示，代表的是自然意志，是自然万物具有智能的表现。究其实质，自然的智能（意识）是人赋予的，上帝、神灵、妖魔鬼怪等各种富有智能的神话或宗教形象也都是人工塑造的。所以，从此种意义上讲，这些是最早的人造智能，只不过这只是文化上的“人工智能”。自然神灵只是文化层面存在的人类之外的智能他者，人工智能技术的发展使智能他者由文化变为现实。与远古不同，异在智能他者从观念创造已变成现实的技术创造。人类以己度物的思维和认知方式依然存在，对智能的恐惧也从文化再次走向现实。
恐惧人工智能，最朴素的认识就是恐惧机器战胜人类，恐惧人类智能主体地位的丧失。此外，智能机器对人的替代导致的失业，人工智能极大提高和增强了技术的复杂性、不确定性、控制性或统治性，人工智能的伦理问题更加突出等，则是人工智能恐惧的新的生长点。
人工智能恐惧表现形式
通过对人工智能恐惧的理论和现实考察可以发现，人工智能恐惧主要有三个层面的表现形式。
一是技术意义上的人工智能恐惧。这种恐惧把人工智能视为一种技术形式，从恐惧技术化而生发出恐惧人工智能技术，这又包括三种情况。第一，基于自然主义的立场和观点，反对自然的技术化或人工化，向往自然而然的生活，担心技术会破坏自然生态、腐蚀人的心灵、污染道德风尚，从而贬低和排斥技术。一些人担心人工智能代替人的脑力劳动，会造成人脑的退化和思维的停滞，甚至有些人工智能相关技术会破坏人脑的自然进化，颠覆自然人的概念等。第二，基于习惯势力对新事物的排斥而恐惧人工智能技术。技术革新会打破人既有的生活、学习和工作习惯。技术条件的变化使一些人不习惯，或者学习和使用新技术有困难，感到压力从而产生排斥新技术的心理和行为反应。人工智能技术的发展也会打破人们已经熟悉和习惯的学习、工作和生活场景，打乱人际关系乃至国家或地区之间关系的平衡状态，从而引发人们对它的焦虑和担忧。人工智能等新技术的推广和应用，还迫使人们去学习更多相关的技术知识，被迫适应智能环境，也给人们带来巨大的心理压力，导致有些人反对和抵制人工智能等新技术。第三，基于技术双刃剑的认知和安全考量，认为技术发展具有不确定性。任何技术都是有风险的，人工智能也不例外。这样会由恐惧技术风险而恐惧人工智能。
二是现实意义上的智能产品恐惧。这个层级的智能技术尚处于人类智能可控的范围内。从技术层面来讲，虽然目前的人工智能已经具有一定的自主学习能力，但总体来看仍处于弱人工智能或非自主人工智能阶段。在目前的技术背景下，人工智能恐惧主要表现为人们担心人工智能产品在某些行业会取代人，颠覆传统行业，侵占人的工作岗位，造成人的大规模失业，从而使生活无处安放。从机器生产到自动生产线，从自动化到机器人再到人工智能产品，从生产领域到生活服务等领域，每一次技术革新都曾带来产业结构的调整，带来劳动力结构的变化，引发人心动荡，并引起部分人的恐慌甚至社会混乱。因此，人工智能在生产生活各个领域的推广应用，也必然会引起一些人的焦虑和不安。
三是未来意义上对人工智能主体的恐惧。随着弱人工智能向强人工智能的跨越，可能会产生人工智能的自主意识，这种人工智能可能会超越人的设计与制造，开始摆脱人的控制，对人说“不”，拒绝执行人的命令，甚至与人类争夺地球的领导权、反噬人类，这是人们最担心和最不愿意看到的结果。这也是从人类萌生人工智能的想法或人工智能概念诞生（甚至更早）以来一些人一直担惊受怕的事情。尽管这种形态的人工智能恐惧看起来还很远，甚至有点“杞人忧天”，但我们很难完全排除这一天到来的可能性。因此，从理论上讲，这种担忧是合乎逻辑、合乎理性的。
从逻辑上来看，人工智能恐惧的三种表现形式是按照恐惧对象技术层次的高低来划分的，即从一般技术到智能技术，再到超级（高级）智能技术。技术恐惧意义上的人工智能恐惧由对一般技术的恐惧演绎出人工智能恐惧。现实意义上的人工智能恐惧主要针对恐惧对象的智能属性，并且智能机器（人）、智能工具、智能程序已经给人带来了实际的压力和威胁。未来意义上的人工智能恐惧着眼于超级智能理论和未来发展的可能性，是机器智能崛起引发的人类存在意义上的恐惧，是未来视域的现实观照。人工智能恐惧虽然具有不同表现形式，但这些并非根本对立和截然分开的，而是相互联系的。其共同表现是对风险的恐惧：伦理风险、安全风险、环境风险、生存风险等。其基本立场是立足于现实，从现实出发梳理过去、思考未来，然后安排当下。
（本文系国家社科基金项目“人工智能的技术恐惧研究”（18BZX044）阶段性成果）
（作者单位：聊城大学政治与公共管理学院）
人工智能：源自挑战服务人类（第一辑）
开篇——从AIphaGo来到世上说起
何谓人工智能
智能机器为何物
学界对人工智能的解释
人工智能的起源与发展
人工智能的未来应用举例
智能机器人
人工智能在中国
专家系统——让机器成为知识领域内的专家
何谓专家系统
专家系统的起源与发展
专家系统的分类
专家系统的结构
专家系统中的推理机制
专家系统的特点
新一代专家系统
智能感知——让机器像人类一样感知世界
丰富多彩的传感器
感知内部变化的传感器
感知外部变化的传感器
智能感知信息技术的明天
机器视觉一一打开机器观察世界的窗户
人类视觉与机器视觉
机器视觉与计算机视觉
机器视觉系统
机器视觉的典型应用
机器视觉涉及的硬件技术
机器视觉涉及领域
机器视觉发展历程和展望
模式识别——机器理解世界的法器
模式识别技术的兴起
典型的模式识别系统
应用天地
人脸、声纹和虹膜识别谁更胜一筹
人工神经网络——让机器像人一样认知
生物神经网络
神经网络的发展历史
分类器的实现
用神经网络识别英文字母
神经网络的应用
神经网络与人工智能
自然语言理解——机器人与人类沟通的桥梁
什么是自然语言理解
自然语言理解的成长史
自然语言理解的处理范围
自然语言的成分
自然语言理解过程的层次
什么是自然语言理解的语料库
怎么建立汉语的语料库
自然语言理解可以干什么
自然语言理解将来会走向何方
机器学习——让机器学会思考
机器学习的出现
机器学习的研究领域
机器学习与数学的关系
机器学习方法
机器学习的实现技术之一：深度学习
机器学习的应用案例
大数据与云计算——深度学习的矿石和平台
新时代的开启——大数据
奇特的大数据
神奇的工具——云计算
大数据、云计算如何促进人工智能的发展
智能家居——真正“懂”你
智能家居来了
智能家居发展三个阶段
智能照明系统
智能安防系统
智能环境监测系统
智能能源管控系统
适合老年人的智能家居
智能家居未来趋势
智能城市——三元空间互融平台
智能城市的定义
智能城市的发展阶段
人工智能与智能城市
智能电网
智能交通
智能医疗
智能建筑
智能医疗——让我们都有一个健康助理“大白”
AI在辅助疾病诊疗领域大显身手
AI提供健康咨询和管理
AI助力新药智能化研发
AI引领康复医疗
AI与便携设备
AI与医疗机器人
思考：人工智能能代替医生吗
人工智能机器人世界杯——人工智能的检验平台
别开生面的小型足球机器人比赛
机器人世界杯赛
RoboCup仿真组
RoboCup中型组足球赛
RoboCup类人机器人足球赛
RoboCup标准平台组
家庭机器人组RoboCup@Home组
RoboCup青少年组
RoboCup其他赛事
人工智能的未来——人工智能会超越人类吗
人工智能不具有本能特征
“奇点”的概念
人工智能会超越人类吗
人工智能的社会平台特征
阿西洛马人工智能原则
附录阿西洛马人工智能原则
参考文献
人工智能终结说，源于今天的人类思绪
欢迎关注“创事记”的微信订阅号：sinachuangshiji
文/陈根(微信公众平台：陈述根本)
这是一个提倡脑洞的时代，当然，这更是一个科学领路的世界。伴随着科技的发展，我们在欢欣鼓舞中迎接一个个科幻新生儿走入现实。而在今天，吸引我们眼球和心思最多的，非人工智能莫属。也正因为如此，它在万众瞩目中，迅速地向“人类”迈进。
机器拟人化，智能情感化
最近，科技界不断爆出人类对于机器人或人工智能的开发和研究新成果。
被谷歌收购的波士顿动力，最新发布的视频显示，他们开发的人形机器人Atlas已经可以模拟人类的行走方式，通过调整重心来适应凹凸不平的路面和各种障碍物，顺利地实现在森林行走。
两年前东京大学开发的猜拳机器人，现在已经升级到3.0版本。新版本虽然功能和以前一样，就是能和人玩石头剪子布；但是，其胜率达到了骇人的100%。虽然猜拳机器人可能存在后出拳之嫌，可以说存在着些许的“胜之不武”，但是这中间反映出来的灵敏度，却也是另一方面的进步。
如果这些还只是让你觉得，这只是升级了一些的“机械化”而已，那么，由日本软银集团和法国AldebaranRobotics公司联手研发的人形情感机器人小辣椒，或许会让你有点砰然心动。这款不仅拥有可爱的造型、灵巧的双手，还有一双洋妹妹般大眼睛的机器人，不仅能歌善舞，最重要的是，还具备与人深入交互的功能，能够判断对方的脸部表情以及语言和语音、语调，进而读懂人类感情。这些功能顿时让机器人变得“温暖”了起来。以致售价约合1万元人民币的小辣椒，在今天6月20日正式发售的当天，在1分钟之内，预定的1000台小辣椒被销售一空。随后，软银公司还推出了向企业出租Pepper机器人的服务，亦受追捧。显然，带着情感钥匙而来的小辣椒将带领着人类步入了新一轮的机器人革命。
传统“机器人”观将得到刷新
对于机器人的概念，或许我们还是更多地停留于冷冰冰的工业机器人层面。那些让流水线变得更简易的工具，能提拿起更重的物品、能更高效率地进行标准化操作。所以，面对着他们的铜骨铁臂，再看看自己的肉体凡胎，一种“被虐”的心绪便凭空油然而生。
小辣椒的到来，或许能在一定程度上影响这种观念和看法。
作为一款情感机器人，小辣椒的能力更多地体现在“情感”的交流和陪伴上。她可以通过搭载在身上的情感引擎，识别人类的情绪。“笑得这么勉强，这种不发自内心的笑容。在谈生意的时候，很有可能失败哦”，这样的提醒和交流是不是让你有一种更亲切、更温暖的感觉呢？当然，小辣椒还可以通过身上的情感引擎，发展自己的人工情感，对人们的反映做出高兴、生气、烦躁等各种回应。
据软银集团创始人孙正义介绍，目前，小辣椒的情感引擎主要模拟了与人类情感有关联的三种激素，分别是多巴胺，去甲肾上腺素，以及血清素；取自于六种基本的情绪反应，三种是正面情绪，包括喜欢，好感，以及平衡；另外三种是负面情绪，包括憎恨，痛苦，以及不平衡。这个引擎还可以区分更加复杂的感情。举个例子，如果你刚刚完成工作，然后热情的对Pepper打个招呼，那么就会触发它做出“喜欢”的反应，接着如果你坐下来，然后和这款机器人进行对话，那么就会触发它做出“喜爱”的反应。
这样的一个贴心宝贝，显然跟钢铁侠的形象有些不同。你也很难将她与一脚将你踩扁，一手把你捏碎的“终结者”形象联系起来。不仅难以联系，事实上小辣椒也的确不具备这种能力。作为一款情感机器人，小辣椒甚至不具备洗碗、洗衣服等做家务的能力。当然，软银公司也表示，将会推出约200个应用让小辣椒变得“更有用”，但是这些也都是一个“普通人”层面的功能。比如，Pepper日记(Pepper’sDiary)可以在家庭活动中拍照留念，还可以写日记，像智能影集一样储存家庭成员的回忆；小辣椒所具备的基本的手部功能，也仅限于抓取一些较轻的物体，比如递包纸巾之类。
用发展思维走出人工智能终结说
小辣椒的出现，不能不说是人类在人工智能发展道路上又向前迈进了一小步；同时，也是让我们脑补的一大步，让我们走出了机器人都如钢铁侠一般“威武”、如艾娃一般无情的的思维定式。
其实人工智能的发展就如同人类自身的发展一样，同样有着从“野蛮人”到“文明人”的历程。当然，用“野蛮”两字来形象我们的祖先，可能并不太合适，其实在这里，我只是想表达伴随着科技进步的文明进步。
世界在发展，科技在发展，人类社会的文明自然也在发展。今天的人类，斗不过科幻片中的钢铁侠，也干不过奥创，那是很正常的一件事情。但是，这并不代表明天的人类还是干不过明日生活中的奥创与艾娃。换句话说，古代的人干不过肺结核，而今天多少肺结核患者，不仅被治愈了而且活动依然精彩；今天的人还干不过癌症，但是明天呢，虽然我们还不知道这个明天有多远，但我想没有人会怀疑明天人类是可以战胜癌症的。所以，以现有的经验和胆怯为由去限制科学的脚步，那结果就是，人类的确不会被人工智能所终结了，但是，被控制了的科技文明，对不可知未来风险的抵抗能力或许也将受到禁锢，那带给人类的又何尝不是另外的一种终结呢？
今天的人工智能已经与昨天不同，今天的人类思维理应跳出昨天的经验和桎梏。当大量的机器人摆脱生产线上冷冰冰的形象，走向服务行业，走进家庭的时候，或许我们会看到另一个版本的《真实的人类》，在那里人类与机器人的界限愈发模糊，人类与机器人之间也会有千丝万缕的纠葛与冲突，只是焦点已非铜骨铁臂与肉体凡胎之间的力量对决。而具体到底是怎样的一种对决呢？从现在来说，那还是一个可以任由“脑洞”的问题。
（声明：本文仅代表作者观点，不代表新浪网立场。）