【时评】人工智能会统治人类 别吓唬我了
“人工智能的彻底发展可能将招致人类的终结，”物理学家斯蒂芬·霍金曾警告说。
SunMicrosystems公司的共同创始人比尔·乔伊也曾担心，我们有可能研制出微型智能机器人，有朝一日它们能摆脱我们的控制，遍布地球并根据自己的计划一点点重建这个世界。
到目前为止，类似的言论和担忧一直没有间断过。在最近一场人机棋类对决上，人类确实已经感受到了某种挫败感，并再次唤起了人们对于机器是否有一天会成为人类的可怕“异己”力量的热烈讨论。很多人如特斯拉CEO埃隆·马斯克所担忧的，人工智能的发展可能将成为全人类面临的最大生存威胁。
3月12日下午，全球媒体都在报道这则消息：在一场5局的人机对决战中，谷歌人工智能AlphaGo与韩国国际顶尖棋手李世石进行了第三场较量，最终AlphaGo战胜李世石，连续取得三场胜利。
这并非人类历史上第一次人机大战了，你们还记得IBM公司那台超级国际象棋电脑“深蓝”吧，它就是为挑战人类智慧而生的。
人类与“深蓝”的对决开始于1963年。当时，国际象棋大师大卫·布龙斯坦怀疑计算机的能力，决定与计算机一决高下。下棋的时候他非常自信的让了一个子，结果当对局进行到一半时，计算机就把布龙斯坦的一半兵力都吃掉了。
1997年5月11日，人机大战又迎来历史性的一天。等级分排名世界第一的棋手加里·卡斯帕罗夫以1胜2负3平输给IBM最新版本的计算机程序“深蓝”。
计算机技术的不断进步以及人机对决中机器的不断胜利开始让更多人憧憬一个人工智能时代的到来。
针对这次最新的人机对战，英国《金融时报》网站3月9日的一篇社论称，“阿尔法围棋”是一个令人生畏的人工智能机器。它的研发只是计算机科学的“牛刀”在娱乐消遣领域的小试。然而，它的胜利提醒我们，世界正在迅速克服人工智能发展途中的各种障碍。
不过，人类在与机器对战中的一次次落败，也令很多人开始担心，智能机器总有一天会在智力上超越人类，成为凯文·凯利笔下的“有心智的机器”。
斯蒂芬·霍金去年还告诫说，除非我们谨慎从事，否则棋盘游戏或许只是开始：人工智能最终可能“变得比我们所有人都更聪明”。
有些人更加担心，智能机器会如《黑客帝国》或者《终结者》中那些具备自我心智、不可控制的机器一样作恶并成为我们的敌人。
人们又翻出了美国未来学家库兹韦尔的“奇点”理论。“奇点”理论论认为，技术的加速发展会导致一个“失控效应”，人工智能将超越人类智能的潜力和控制，迅速改变人类文明。
上百年来，科幻小说和科幻电影不断加深着人类的这种恐惧。越来越多的人相信机器统治世界的那一天迟早要到来。他们更加具有心智，他们像《星际迷航》里的机器人一样能理解自然语言并且能回答问题，他们更精于计算，更加崇拜极权，更加喜欢杀戮和奴役，他们更具野心。
随着人工智能技术的不断发展，上述担忧也愈发强化。在某些人的脑海中，机器怪物似乎正大踏步向人类走来。
这或许真的是杞人忧天之举。霍金斯在他那本《人工智能的未来》书中称，我们当然有能力造出智能机器，但它可不是你想象的那个样子。霍金斯认为，未来技术无论多么强大，人工智能的产物都远远不会有人一样的心智，也永远不会有人类大脑那样的复杂结构与功能。
忧心忡忡者们或许对此并不以为然，他们的理由是新技术的最终发展常常是无法预料的，就像100年前还无法理解人类可以登上月球一样。
按照这种思路，我们其实更不必担心和恐惧，因为人工智能技术如果真有一天可以发展到科幻电影中那样的高度，那么随之而来的反制技术或者控制技术也一定更为强大。
几年前诞生的新媒体平台Medium上的一篇相关文章分析得更为清晰。该文称，关于人工智能，最为盛行的反乌托邦式的观点并不正确，原因在于这种观点是在将“智能”等同于“自主”。它所假设的是，一台电脑能够建立自己的目标、有自己的意愿、依靠自己更快速的处理能力以及强大的数据库来打败人类。也就是说，这种观点假设了人工智能拥有完全自由的智能，但智能和自主是两件完全不同的事。
该文作者进一步认为，“智能”与“自主”两个概念的混淆源于我们对于自己在世界上变得“越来越无关紧要”的恐惧。看了玛丽·雪莱的《弗兰肯斯坦》，我们害怕“机械怪物”，读了艾萨克·阿西莫夫的机器人小说，我们可能会对机械怪物接近我们这件事变得更加畏惧，这也是所谓的“科学怪人情结”（FrankensteinComplex）。
作者对于霍金的话也不以为然，他说，接下来四分之一个世纪，出现“全人工智能”的可能性，还不如小行星撞地球让人类灭绝的几率高。
科幻作家们笔下机器怪物推动着人们对非人类智慧的想象和担忧，但同时也令我们更多思考自己作为人类本身的特质以及技术可能造成的“变异性”破坏。
事实可能正是如此。更多的时候，与其恐惧机器人，还不如恐惧我们自己。
当谷歌人工智能AlphaGo与韩国棋手李世石进行较量时，全世界的一些角落和地区正发生着一些更关系到人类未来命运的事情。这些事情涉及到核武器等大规模杀伤性武器扩散风险，涉及到种族矛盾和地区冲突的加剧，涉及到因各种分歧和利益引起的外交争端，涉及到贫穷和饥饿、恐怖和暴力……
站在这些层面上看，我们应该警惕的仍然应该是我们自己。如果我们不堕落为自己的“异己”，人工智能也不可能轻易“异化”为“弗兰肯斯坦”。
其实，我更相信目前正在进行着各种稀奇古怪且神秘的超级研究项目的谷歌所宣称的那样，研究人工智能，用人工智能把世界变成一个更美好的地方。
人工智能十问：AI会统治人类吗
摘要：即便是最先进的人工智能系统也存在局限性，它们还不如一只猫聪明······
网络图片
人工智能常常被认为是一项将要颠覆世界的技术，从这一概念诞生至今的65年中，无数电影与小说塑造了各种经典的人工智能角色，AI（ArtificialIntelligence）也很快成为人类未来世界蓝图中的重要组成部分。但在人工智能不断拓宽我们对未来想象的同时，也不乏“AI统治世界”、“AI监视隐私”等等一类的消极论调，那么，我们当下讨论的AI真的即将统治人类吗？AI真的在威胁着个人数据与隐私吗？......又或者，AI真的比我们更聪明吗？
如果你也对这些问题心存疑虑，又想免于被互联网上的各种言论牵着鼻子走，那么，图灵奖得主杨立昆（YannLeCun）的新书《科学之路：人，机器与未来》或许可以为你提供一份更科学、客观且前沿的人工智能问题参考手册。
在真正开始有关AI的伦理思考之前，我们首先要弄清楚以下三个名词的关系：人工智能、机器学习与深度学习。人工智能是试图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。目前，开发新应用最常用的人工智能技术之一就是机器学习，而深度学习是实现机器学习的重要方法之一，也被杨立昆以及其他许多科学家认为是人工智能的未来。
杨立昆在书中对人工智能提出了10个问题并进行了深入探讨，让我们更全面、更客观的了解人工智能。
01
人工智能是不可理解的黑匣子吗？
一些悲观主义者认为深度学习系统是“黑匣子”，我们未来没办法理解和操控人工智能，但他们错了。诚然，深度学习以模拟人类神经网络为基础，当神经网络具有数百万个单位和数十亿个连接时，似乎很难完全理解它的工作原理，但这不正是所有智能决策的特点吗？
我们不了解让出租车司机、工匠、医生或航空公司飞行员完成他们的工作的神经运作机制，但我们会选择相信他们。为什么要对一台反应更快、不知疲倦、从不分心的机器提出更高的要求呢？当你可以证明它比人类更可靠时，为什么还要对它产生怀疑呢？
人工智能系统每天做出数万亿个决策，其中大多数都与查找、分类和过滤信息以及一些稍显无聊的应用程序有关，例如应用于照片和视频的效果。你是否真的愿意花时间和精力来详细了解它们？人工智能的工作能够带来令人满意的效果，这不就够了吗？
而且使用没有深入了解其运行机制的系统是一种常见的现象。许多常用药物都是通过反复试错获得的，而我们对其作用机制了解甚少。比如，我们熟悉的且在日常生活中不可被替代的阿司匹林是有史以来使用最广泛的药物，它于1897年首次被合成，可是直到1971年我们才明确其作用机制。
02
大脑只是一部可模拟的机器吗？
如今，大多数科学家都接受了大脑是生化机器的概念。虽然这是一台复杂的机器，但总归是一台机器。神经元对输入的电信号做出反应，根据从上游神经元接收到的信息计算是否产生电脉冲信号、动作电位或放电脉冲，并将其发送给所有下游神经元。这是一种十分基本的机制。但是，通过结合数十亿个相对简单的神经元的活动，我们便获得了大脑和思想。
我意识到，模拟人脑的想法可能会让一些哲学家或有宗教信仰的人极力反对，但是有许多科学家认为思维机制最终将会由可以学习的人工智能系统重现。
质疑此观点的人认为，我们对生物、物理、量子和其他系统如何在人体内结合以使大脑发挥作用的了解还远远不够。的确，我们并不能理解这一切，但是我坚信，哺乳动物或人类的大脑是可以“计算”的机器，并且这些计算原则上可以通过电子机器或计算机进行再现。
03
人工智能会产生意识吗？
意识是一个很难讨论的话题，我们不知道如何衡量和定义它。它与自我意识混淆在了一起，同时，意识被认为是动物存在超级智力的标志。在镜子中认出自己的大象和黑猩猩已经具有自我意识，而狗不行。
我个人认为意识是一种幻觉，它似乎在许多聪明的动物身上存在。人类的意识与注意力息息相关，当面对特殊情况时，我们将注意力集中于此，此时我们会非常专注。当我们玩益智游戏时、准备新的烹饪食谱时、参加辩论时，我们的注意力将毫不犹豫地集中在这个不寻常的复杂任务上。它迫使我们开启“世界模型”以规划下一步行动。
对我来说，毫无疑问，未来的智能机器应该具备某种形式的意识。也许与人类的不同，它们可以同时专注于多项任务。但它是无法培养意图或发展意识的。我的同事安托万·博兹总结道：“我们甚至没有配方的原料去制造一台既能够制定战略，又对世界有敏锐了解的真正智能机器。如今我们还缺乏一些基础概念。”
04
人工智能比人类更聪明吗？
如今，即便是最先进的人工智能系统也存在局限性，它们还不如一只猫聪明。虽然我们已经了解了大脑学习的原理，知道了大脑的结构，但重现其功能所需的计算量是无比巨大的，大约是每秒1.5×1018量级的操作。现在一块GPU每秒可执行1013次计算，功耗约为250瓦。为了达到人脑的计算能力，必须将10万个这样的处理器连接上功耗至少25兆瓦的巨型计算机才能实现。这巨大的能量消耗是人脑的100万倍！
因此，深度学习的能力十分强大却又十分有限。目前的深度学习系统仍无法进行逻辑推理，因为当前的逻辑与学习能力并不匹配，这是未来几年的主要挑战。只受过国际象棋训练的机器根本无法下围棋，而且它完全不理解自己所做的事情，它只不过是机械化地执行指令。如果以生物的智能做一把标尺，人类的智能为100，老鼠的智能为1，那么人工智能在标尺上的位置可能更接近后者。
科学面临的挑战是巨大的，技术也是如此。
也许你要提起那些仿真机器人来反驳我了，比如“索菲亚”。索菲亚是一位面带神秘微笑、长着一双玻璃眼珠的美丽的光头女人，“她”在2017年的许多舞台上都大放异彩。“她”动人的脸庞能够呈现数十种不同的表情，在调侃一个记者关于地球上有太多机器人的担忧时，“她”笑道：“您好莱坞电影看太多了！”这个经典笑话让她如此酷似人类，以至沙特阿拉伯在当年授予了“她”沙特国籍。实际上，“她”只是一个由工程师预先设定好一系列标准答案的“木偶”。当我们与“她”交流时，所有的谈话内容均会经过匹配系统处理，并从得到的答案中选择最合适的一个输出。索菲亚欺骗了人们，“她”只是一个完成度很高的塑料制品，只不过是我们（被这个激活了的物体所感动的人类）赋予了它某些智能。
所以，人工智能比人类聪明吗？也许它们在执行十分精确严密的特定任务时所表现出的性能远超人类。但至少目前，任何一种机器学习方法都没有人类的学习更加有效。
网络图片
05
人工智能会产生人类感情吗？
我丝毫不会怀疑自主智能机器有一天会产生情感。
当用于测量机器人电池电量的镜头元件产生了较高的成本而致使机器人开始寻找电源时，不正与饥饿的感觉相似吗？
当机器因成本高昂而避免采取行动时，或者由于成本低廉而执行任务时，这是否已经可以看作是一种情感的标志？
当计算饥饿的目标函数的组成部分产生高成本时，它会触发对食物的搜索。普遍地观点认为，这些行为是目标模块组件不满意的结果。
我很清楚地意识到所有这些似乎都是可以简化的。情感是人性的重要组成部分，因此人们不愿意将其数字化为简单的数学函数计算，对将人类行为简化为目标函数的最小化也心存疑虑。但是，我在此提出的仅是关于智能系统的一般体系结构的假设，没有否认目标函数和世界模型的丰富性或复杂性。
06
人工智能可以预测未来吗？
人们都很喜欢预测，例如预测库存、预测产品的需求、预测一只股票或财务价值的演变曲线......那么，人工智能可以预测未来吗？
如今的人工智能有一个悖论：它功能极其强大、极其专业化，却没有一点常识。
常识至关重要，它制约着我们与世界的联系，它能填补空白，弥补隐含的信息。当我们看到一个坐在桌子旁的人时，可能看不到他的腿，但我们知道他肯定有腿，因为我们对人类有一定的常识。我们的大脑还整合了物理学的基本定律，比如，如果有人打翻了眼前的玻璃杯，那么杯子里的水就会洒得满桌子都是。我们知道如果不拿住某个东西，它就会掉下去。我们还能够意识到时间流逝、万物运动。
目前，机器带有的预测能力十分有限。当然，如果给定一个有些删减的文本，机器有能力给出一个可能的后续单词列表。但是，如果这段文字是阿加莎·克里斯蒂(AgathaChristie)的小说，在最后一幕波罗探长宣布“凶手是......先生”，那么，为了完成这个句子需要读者有很强的常识和对人性的了解。很显然，没有哪一台机器能做到这一点。更不用提预测人类世界的未来了。
07
人工智能会统治世界吗？
在经典科幻电影《我，机器人》（I,Robot）中，机器人具有自我进化能力，转化成了人类的“机械公敌”，制造者和被制造者展开了战争。这恐怕也是很多人对人工智能未来的担忧。
我们对机器人想要取得权力的恐惧主要来自人性特质在机器上的投射。对大多数人来说，人类与智慧生物的唯一互动就是与其他人类的互动，正因如此，我们混淆了智力和人性。这是一个错误，因为还有其他形式的智力存在，即使在动物界也是如此。
人类同倭黑猩猩、黑猩猩、狒狒和其他一些灵长类动物一样具有复杂且通常带有等级制的社会组织，每个个体的生存（或舒适度）取决于它影响该物种其他成员的能力（统治只是影响的一种形式）。我们是社会性动物的事实解释了我们为什么把对统治的渴望与智力联系在一起。
除了对统治的渴望，为了人类物种（或基因）的生存，我们的许多冲动和情感已通过进化建立了起来，其中包括好奇心，对探索的渴望，竞争力，屈服，渴望与我们的同类接触，爱，仇恨，掠食，以及我们对家庭成员、我们的部族、我们的文化、我们的国家的偏爱，没有这些冲动和情感的人、动物或机器也都可以是有智慧的。我们必须将这个问题说得清晰透彻：只有当我们在智能机器中明确地建立了这种欲望时，它们才会渴望统治人类。但我们为什么要这样做呢？
电影《我，机器人》剧照
08
人工智能会被滥用吗？
霍金于2014年向英国广播公司称，“人工智能可能意味着人类的毁灭”，但后来他改变了想法。就像任何一位出色的天体物理学家一样，他的时间尺度是以数百万或数十亿年为单位的。试想，我们怎么会如此聪明地设计出一个超人类的智能机器，同时又如此愚蠢地赋予它荒谬至极的目标呢？
请记住，人工智能始终都是由人类开发出来为人类服务的工具，目的是放大人类的智能。
我们认可的造福人类的所有技术革命都有其阴暗面，每一项技术都带来了问题，而这些问题最终都得到了解决。
为了防止这些滥用，我帮助创建了“人工智能伙伴关系”（PAI），这个组织汇集了约100名成员，包括大型公司、互联网巨头、学者社团、人权组织（国际特赦组织、美国公民自由联盟、电子前沿基金会）、媒体（《纽约时报》）、大学团体和政府机构等。我们讨论道德问题，警告危险并发布建议。人工智能是一个新领域，其深度展开的后果并非总是可预测的，我们必须多加考虑。
09
人工智能会带来军事风险吗？
像其他所有技术一样，人工智能可以被用于做最好的事情，也可能被用于做最恶的事情。有些声音反对在军事上使用人工智能，主要是反对致命性自主武器系统（lethalautonomousweaponsystems），它通常也被称为“杀手机器人”。相对应的保障措施已经较为成熟，大多数军队都有极为严格的规则来管理启动打击的授权程序。无论是何种武器，决策的源头始终是高级军官。我们都知道，自动或半自动武器已经存在很长时间了，弹道导弹、巡航导弹也是如此。在所有具有很强杀伤性的自动武器中，最古老的当属地雷。自1999年以来，地雷就被一项国际公约禁止使用，不是因为它们很聪明，而是因为它们很愚蠢。
那么，智能化武器是否会有滑向军备竞赛的危险？弗拉基米尔·普京（VladimirPutin）在曾表示，“人工智能的领导者将成为世界的统治者”。面对人工智能推动的可能存在的军事失控，危险是无比真实的。避免这些危险最重要的力量来自我们的国际机构，坚定捍卫已有的保护措施比以往任何时候都更加有必要，因为它们受到了民粹主义、民族主义和孤立主义的威胁。
10
你会被人工智能取代吗？
我不确定人工智能革命是否会影响所有人。与那些从事可能被（部分或全部）系统化和自动化工作的人相比，深耕于有资质的、创新性的、专注于人际关系或人力资源职位的人更有可能保住工作。如果我们的政府不通过财政措施纠正存在的问题，那么人工智能带来的收益将无法平均分配，贫富差距会进一步扩大。
自动化已经取代了人类来完成重复性或艰巨的任务，而人工智能将在那些一定程度上需要加入感知、推理、决策和行动计划等内容的工作中取代人类。自动驾驶汽车会减少卡车、出租车和载客专车（VTC）的驾驶员的数量，因为它们会更加安全。医学图像分析系统已经走进放射科医生的日常工作中，患者也因此得到更可靠、更便宜的检查。在以上这些健康和交通运输领域，人工智能将会挽救更多的生命。
所有的职业都将受到科技变化带来的影响。有一件事是可以确定的：人工智能及其应用无法参与竞争的东西会变得更有价值。
我们每个人都可以花不到2欧元的低价或通过订阅的方式聆听最喜欢的音乐家的作品，然而如果要欣赏摇滚音乐会或歌剧，我们就需要支付50～300欧元。区别在哪里？区别在于，独特的事物赋予了生命独特的时刻。一顿大餐，参观自然景点或博物馆，听一场爵士乐音乐会—作为一个开明的业余爱好者，我因为能够做这些事情而感到高兴！—我们越来越重视创造力和独到的体验，越来越不看重大众化的产品。在健康、艺术、科学、教育、体育等领域的职业中，感性的方面在未来将占有重要的一席之地。
网络图片
本文摘编自中信集团8月新书《科学之路：人、机器与未来》
【内容简介】
“图灵奖”得主、“深度学习三巨头”之一、“卷积神经网络之父”……由于在人工智能领域的突出贡献，杨立昆被中国计算机科学界和企业界所熟知。
杨立昆的科学之路，谱写了一段关于勇气的宣言。他为了知识本身求学，而不是文凭，他用自己的经历，证明了通过激烈的考试竞争进入名校不是科学成功的唯一路径。他广泛阅读，为他科学思维的形成奠定了坚实的理论基础。他特立独行，做自己感兴趣的事情，即便那件事在短时间里不被人看好。在人工神经网络研究的低谷期，他寂寞地坚持，终于取得了举世瞩目的成就。
人工智能正在颠覆人类社会，未来机器能思考吗？杨立昆的这部著作，讲述正是人工智能在我们面前崛起——这个历史上绝无仅有的时刻发生的故事。
END