人工智能对人类构成威胁吗
对人工智能的忧虑之见值得关注。美国图片新闻（PDN）杂志科技编辑格雷格·斯科勃列特（GregScoblete）认为，高度发达的智能是创造性的力量，而非工具。它的力量越强大，就越能重塑周遭的世界。
想象你是以下这类人，你们担忧未来机器人将变得智慧过人，足以威胁到人类自身的存在。多年以来，你都被当成怪人打发走，与那些胡扯说见到猫王潜藏于某处的人归为同类。
缘起
2014年，史蒂芬·霍金（他可以说是全球现存的科学家中最了不起的一位）、前沿的科技实业家伊隆·马斯克说出了他们的担忧，人工智能的崛起潜藏着危险。与他们意见一致的人士还包括哲学家、物理学家及计算机科学家，所有这些人士都大胆发表了看法，即比人类更强大的机器智能的发展会造成严重的风险。 霍金与麻省理工学院物理学家马克思·泰格马克（MaxTegmark）、诺贝尔奖得主弗朗克·韦尔切克（FrankWilczek）、计算机科学家斯图亚特·罗素（StuartRessell）合写了一篇署名评论文章，该文得到了广泛引用。霍金在文章中表达了对人工智能的忧虑：“可以想象到，人工智能会智胜金融市场，在投资上胜过人类研究者，在操纵民意方面胜过人类领导人，研发出人类甚至理解不了的武器。尽管人工智能的短期影响取决于控制人工智能的人，它的长期影响取决于人工智能到底能否受到控制。” 据报道，马斯克的看法更加引人注目，他用个人推特账号发布警示，进行长篇论述，称人工智能是人类遇到的最严重的“生存风险”，将它比拟成“召唤魔鬼”。 最近，关于人工智能的争论由于哲学家尼克·博斯特罗姆（NickBostrom）的著作《超级智能：路径、危险与策略》的出版而愈显热烈。博斯特罗姆的著作具体地研究了人工智能为何有可能酿成灾祸，又会如何酿成灾祸（2013年纪实作家詹姆斯·巴拉特（JamesBarrat）出版的《我们最后的发明》一书表达了相似的观点）。 博斯特罗姆是牛津大学“人类未来研究所”的所长，该研究所专注于研究人类面临的生存威胁（人工智能是最主要的威胁），是多个类似的新设研究机构之一。2014年5月，麻省理工学院成立了“生命未来研究所”。起码在学术界，对人工智能的忧虑愈来愈多了。忧虑
最迫在眉睫的议题便是人工智能有可能令大量人类失业。在牛津大学教授“未来技术之影响”课程的卡尔·弗雷（CarlFrey）与迈克尔·奥斯本（MichaelOsborne）所做的一项研究清楚地表明了情况。他们对超过700份工作进行了分析，其中几乎一半工作在未来都能由电脑来完成。这一波由电脑来取而代之的浪潮不仅能摧毁那些低薪酬、低技能的工作（尽管那些工作确实面临严重的风险），还能摧毁某些白领工作和服务业工作，此前这些工作被认为是安全无虞的。技术正在大步前进，将接过人类的体力劳动和智力工作。 普遍失业确实是种严重的威胁，可我们早已见识过这一幕。在过往的技术剧变时期，人类聪明地从过时的工作的灰烬中创造出全新的工作与行业。我们也许能幸免于难，逃过一劫，即使人工智能侵蚀更多依赖智慧的创造性行业（哎，我们甚至可能开始更短的工作时间）。 我们更应该关注的的问题是，人类会不会失去它作为地球上最高智能生命的地位？ 对于那些为人工智能感到焦虑的人士来说，当前研发自我-纠正算法（机器学习）的努力，再加上计算能力的持续增长，传感器无处不在愈来愈多、收集全球各地的各种情报与信息的局面，会推动人工智能逼近人类，并最终成为超越人类的智能。这一事件已经被命名为“智能爆炸”，计算机科学家欧文·约翰·古德（IrvingJohnGood）于1965年在一篇概述了人工智能发展路径的论文中提出了这一术语。 智能爆炸缘何如此令人担忧？原因在于智能并非工具或技术。我们也许认为人工智能是我们使用的某种东西，就像榔头或螺旋开瓶器一样，但那基本上是错误的想法。那些足够高级的智能――譬如我们人类――是创造性的力量。它的力量越强大，就越能重塑周遭的世界。 人工智能无需怀有恶意，也能对人类构成灾难性的危险。当计算机科学家们谈论超级聪慧的人工智能可能对人类构成的威胁时，他们并不是指电影中的“终结者”或《黑客帝国》中的“矩阵”。 相反，更具代表性的会是一种平淡得被授予了简单任务（比方说制造回形针，这是一个常常被用到的例子）的人工智能征用了地球上的所有能源与原材料，永无休止地大量制造回形针，人类试图阻止，但人工智能无论斗智斗勇都胜过了人类。在好莱坞出品的电影中，总是会剩下一些人类实施反击，但假如人类面临的是真正超越人类的智能体，好莱坞版的结局就不太可能成真。局面会像小白鼠企图智胜人类一样（那时的我们就是小白鼠）。如果那种情况发生了，基夫·罗德希尔默（KeefeRoedersheimer）之类的人工智能研究者看到的是不那么令人振奋的大结局：“所有人类都死了。”《黑客帝国》，人类与AI的战争
他论
无需多言，并非人人都认同这种灰暗的预测。在人工智能乐观派的阵营里，未来学家、谷歌公司工程总监雷·库茨韦尔（RayKurzweil）也预见智慧机器会促成人类某种意义上的“灭绝”，只是按照库茨韦尔的说法，人类没有彻底消失，而是被包容成为超级智能的机器。库茨韦尔的人类-机器共生体并非技术灾难，而是人类从自身生物学弱点中获得最终的解放。 其他人怀疑人工智能是否会达到人类的智慧程度与认知程度，更勿论超越人类了。有些人――譬如纽约大学的加里·马库斯（GaryMarcus）――就保持中立。“我不知道任何表明我们应该担忧的证据，”马库斯告诉我说，“但也没有任何证据表明我们不应该担忧。” 欧文·约翰·古德有过一段著名的描述，他把超智能机器的发展形容为“人类需要做的最后一项发明”，因为在超智能机器出现后，人类会把创新与技术研发的工作让给超智能机器这位更为智慧的继任者。即使从Siri出现到人类灭绝并非是一条直线式的发展，我们人类大概还是应该更加严密地盯着点我们的机器。资料来源 CNN
责任编辑彦隐
人工智能的三种威胁论
周灵悦上海大学
摘要：随着人工智能的应用越来越广泛，威胁论层出不穷。其中包括生存威胁论、失业威胁论和机器威胁论。具体是指强人工智能对人类的生存威胁，机器自动化可能会造成人们的大规模失业以及自主性增强的智能机器做出的决策存在违反伦理道德和隐私泄露的可能。
关键词：人工智能；威胁论
学术研究和商业化研究快速地推动着机器智能的崛起，人工智能应用正广泛地影响着人类的社会生活，同时，关于威胁论的论调层出不穷。在《人工智能——一种现代方法（第二版）》中，作者总结出了八种潜在威胁。分别是：“人们可能由于自动化而失业；人们可能拥有过多（过少）的闲暇时间；人们可能会失去作为人的独一无二的感觉；人们可能会失去一些个人隐私权；人工智能系统的应用可能会导致责任感的丧失；人工智能的成功可能意味着人类种族的终结”。在人工智能对人类社会造成的影响层面，我们将讨论几种主要的威胁论论证，分别是生存威胁论，失业威胁论和智能机器威胁论。
一、生存威胁论
关于人工智能是否会毁灭人类的问题，最早仅仅出现在科幻作品中，例如电影《终结者》（TheTerminator）（1984）和《黑客帝国》（TheMatrix）（1999）。
汉斯·莫拉维克（HansMoravec）认为人工智能在50年内与会与人类的智能想匹配，并超越之。他在《机器人：由机器迈向超越人类心智之路》（Robot:MereMachinetoTranscendentMind）中写道：“它们将相当迅速地取代我们的存在，我并不因为这后一种可能性而像许多人一样惊慌失措，因为我认为这些未来的机器就是我们的后裔，是依照我们的想象和喜好建造的‘精神子孙’，是更强有力形态的我们自己。如同目前世代的生物形态子孙一样，它们将承载着人性对长远未来的最美好希望。这值得我们为它们提供每个有利条件，并且在我们无法再做出贡献时从容引退。”
各领域著名的科学家、企业家都表示了对人工智能超越甚至代替人类的担忧，如斯蒂芬·霍金、埃隆·马斯克、比尔·盖茨。
2014年，霍金在利弗休姆未来智能研究中心的成立仪式上发表演讲，他指出成功创造人工智能将成为人类文明史上最重要的事件，倘若我们不规避风险，这将成为我们最后的事件。尽管人工智能的发展会带来种种好处，例如消除疾病和贫困，改变人类生活的方方面面，然而自动化武器的智能化也会破坏人类文明的发展，对我们的经济造成巨大破坏。同年，他与另外几名科学家（计算机科学家斯图亚特·罗素、诺贝尔物理学奖得主弗兰克·韦尔切克等）在英国《独立报》上共同署名发表公开信，对人工智能崛起的后果发出警告。信中表示，人们目前对待人工智能的潜在危险“不够认真”，“短期来看，人工智能的影响在于谁控制它，而长期看来，这种影响取决于我们能否控制它”。
牛津大学哲学家尼克·博斯特罗姆（NickBostrom）提出了“回形针最多化”（paperclipmaximiser）的思想实验。该实现假设人类给人工智能一个清晰的目标，比如“在全世界尽可能多生产回形针”，如果AI足够聪明，它可能会制造出超级工厂，AI在确定回形针何时达到最大量时，可能会对人类造成伤害，因为人类可能会关掉计算机以至于超级工厂无法生产或者为了得到尽可能多的资源，人体当中的铁元素也会成为计算机的目标。
特斯拉创始人埃隆·马斯克多次发表对强人工智能的“威胁论”，他认为人工智能对于人类来说是一场灾难，并有可能成为人类文明的最大威胁，短期内直接表现为智能自动化对人类工作的取代和剥夺，而在未来人工智能成为地球的独裁者，人类需要与机器结合成为“半机械人”才不至于在AI时代被淘汰。比尔·盖茨对未来人工智能的担忧立场更为中立一些。他认为在未来几十年人工智能会成为人类的心头大患，然而，如果人类可以很好地驾驭技术，人工智能也会反过来造福人类。
关于人工智能威胁的讨论离不开“奇点理论”，其依据是摩尔定律。关于“奇点”的讨论并非首先来自于科学，而是来自于曾获得雨果奖的科幻小说家弗诺·文奇，他在自己的小说《为和平而战》和《实时放逐》中，首先描绘了虚构的未来世界，他称之为“技术奇点”。那时，人类已经依靠指数增长的超级科技进入了另一种形式的存在。在1993年的一篇文章中，他更清晰地表达了这种思想，指出超人类人工智能的诞生将会成为历史上“人类时代的结束”。雷·库兹维尔接受并发展了文奇的构想，他论断：科技正以史无前例的速度发展，2045年，计算机将能够赶超人类智能的各个方面，下一个阶段便是人类与机器的联合，人类智能会逐渐非生物化，这种融合便是奇点的本质。
二、失业威胁论
“机器问题”的产生是伴随着工业革命和自动化的发展而兴起的。早在两个世纪以前工业革命时代的英国，“机器问题”就曾引发了人们的担忧和激烈的争论。有些人担忧机器只是有选择地让少数人受益，它会抢走所有人的工作并最终彻底颠覆社会。如今，“机器问题”又卷土重来，只不过它伪装成了另一副面孔。科学家、经济学家和哲学家纷纷在探讨人工智能技术带来的深刻潜在影响。人工智能技术突飞猛进，机器人能够执行曾经只有人才能胜任的各种任务。很多人担心机器会让越来越多的人下岗，引发不平等问题和社会动荡。
大量的研究机构与高校对此进行了相关数据的调查，著名媒体也对此发表了看法。
牛津大学2013年的一项研究表明，在未来20年里，美国47%的工作都有转向自动化并被机器所取代的风险，这使得许多工人感到更加担忧。2014年，皮尤研究中心发布报告《人工智能，机器人学和工作的未来》，称52%的参与专家认为，到2015年由人类完成的许多工作将会被机器所取代。2015年下半年，英国央行首席经济学家安迪·霍尔丹(AndyHaldane)估计，英国大约有1500万个工作岗位（大约为总量的一半）可能受到机器的威胁，而欧洲主要国家多达50%的工作岗位估计面临被机器替换的风险。《未来简史》和《人类简史》的作者、以色列著名未来学家尤瓦尔·赫拉利（YuvalNoahHarari）认为，智能机器的普及必然会导致人类社会生活的许多改变。首先是工作方面，可以把人类从简单枯燥的工作中解放出来。但另一方面必将造就更多的“无用阶级”。2016年10月，AINOW发布的专题报告TheAINowReport指出，人工智能为经济价值的生产带来了新的方式，也对价值分配产生了新的影响。在某种程度上，人工智能的价值分配会使一部分群体受益，从而延续甚至加剧现有的财富分配差距。
人工智能对“最安全”的职业的危险应征了汉斯·莫拉维克和布鲁克斯在1980年提出莫拉维克悖论（Moravec’sparadox），该悖论指出人类所独有的高阶智慧能力只需要非常少的计算能力，例如推理，然而一岁小孩所具有认知和直觉却需要极大的运算能力，语言学家和认知科学家史蒂芬·平克在《语言本能》也提及，人工智能的研究发现的最重要课题是：“困难的问题易解，而简单的问题是难解的”。如四岁小孩具有的本能—辨识人脸，举起铅笔，在房间内走动，回答问题—事实上是工程领域内目前为止最难解的问题。例如伯克利研究团队装配的类人机器人，这样的机器人被设置来识别单块和成堆毛巾在哪里，机器人要花费大部分时间观察毛巾在哪里，以及如何才能抓住它。它们由此得出，像厨师，园艺师，修理工，木工，牙医和家庭健康护理员在短时间内是不会被机器所取代的。但这些职业也可能在未来面临激烈竞争，因为机器的自动化对具有技能的人员会造成威胁。
三、机器威胁论
机器人伤害人的案例在历史上早有发生。世界上首例机器人伤人事件发生在1978年日本广岛的一家工厂，切割机器人在工作时发生异常，误将一名值班工人当作钢板进行操作。随后，1979年一位年仅25岁的美国福特工厂装配线工人RobertWilliams，在密歇根州的福特铸造厂被工业机器人手臂击中身亡。2016年11月，中国深圳高交会上，名叫“小胖”的机器人突发故障，在行进中碰撞到人和玻璃，一度引起网友恐慌，认为是“首例机器人‘造反’事件”。随着机器人在生产生活中的应用，类似伤人事件出现的概率会显著上升，智能机器对人类造成的威胁显而易见。
如今，智能机器的运用场景越来越广泛，机器威胁不仅仅停留在工业机器体型庞大和工人操作不慎这些外在方面，还在于机器自主化程度地提升所做出的不符伦理道德的决策。
智能机器最先应用的场景是交通、医疗、金融、娱乐，其中涉及到图像识别、语音识别等多项技术，如自动驾驶、智能机器人、智能医疗、智能投顾、智能家居等。在一些场合，例如医疗、法律咨询，机器人开始帮助人类进行决策。“人工智能技术助力智能机器加速到来，机器逐步从被动工具向能动者转变”，“在不远的将来，交通运输、医疗、看护、工业和服务业等诸多领域的各式各样的智能机器（IntelligentMachine）或者智能机器人（SmartRobot）将成为人类社会中司空见惯的事物”。
当自主程度逐渐提高的智能机器的应用普遍化之后，遵循理性规则的机器人无法具有与人类相同的价值观，经由“算法”黑箱做出的决策会偏离人类预期。区别与传统的编程式机器，智能机器具有高度自主性。取代程序员每一步具体指令的是机器学习中的学习算法（LearningAlgorithm），学习算法从被给予的训练数据中推论生成新的规则。因此，智能机器的新生规则可能会愈来愈偏离人们旧有的传统规则，这会使人们担心智能机器自主习得的规则、行为产生偏离，甚至对人们造成伤害。譬如扫地机器人机械化地打扫屋子，不理解人类价值观的机器人为了使得屋中一尘不染，清除掉主人不小心掉落在地上的现金或衣物。
类比于古希腊神话故事——迈达斯国王点石成金。迈达斯国王真实地存在于古希腊神话故事，大约生活在2700年以前。国王在成年后解救酒神迪奥索斯（Dionysus）的导师后得到了梦寐以求的点石成金法宝。然而，该法宝却不明白国王的真正意图，因为国王碰到的所有东西都变成了黄金，甚至包括食物，国王的女儿。
参考文献：
[1]腾讯研究院等著.人工智能[M].北京：中国人民大学出版社,2017.
[2]StuartRussell,PeterNorvig.人工智能——一种现代方法(第二版)[M].姜哲,金奕江,张敏,杨磊等译,北京：人民邮电出版社，2004.
[3]霍金，让人工智能造福人类及其赖以生存的家园[EB/OL],http://www.sohu.com/a/137173188_609518.
[4]Carl,BenediktFrey,aMichael,A,Osborneb.Thefutureofemployment:Howsusceptiblearejobstocomputerisation?[J].TechnologicalForecastingandSocialChange,2017,114(1):254-280。
[5]LeeRainie,JannaAnderson:TheFutureofJobsandJobsTraining[EB/OL],http://www.pewinternet.org/2017/05/03/the-future-of-jobs-and-jobs-training/。
[6]史蒂芬·平克.语言本能[M].浙江：浙江人民出版社,2015.