人工智能十问：AI会统治人类吗
摘要：即便是最先进的人工智能系统也存在局限性，它们还不如一只猫聪明······
网络图片
人工智能常常被认为是一项将要颠覆世界的技术，从这一概念诞生至今的65年中，无数电影与小说塑造了各种经典的人工智能角色，AI（ArtificialIntelligence）也很快成为人类未来世界蓝图中的重要组成部分。但在人工智能不断拓宽我们对未来想象的同时，也不乏“AI统治世界”、“AI监视隐私”等等一类的消极论调，那么，我们当下讨论的AI真的即将统治人类吗？AI真的在威胁着个人数据与隐私吗？......又或者，AI真的比我们更聪明吗？
如果你也对这些问题心存疑虑，又想免于被互联网上的各种言论牵着鼻子走，那么，图灵奖得主杨立昆（YannLeCun）的新书《科学之路：人，机器与未来》或许可以为你提供一份更科学、客观且前沿的人工智能问题参考手册。
在真正开始有关AI的伦理思考之前，我们首先要弄清楚以下三个名词的关系：人工智能、机器学习与深度学习。人工智能是试图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器。目前，开发新应用最常用的人工智能技术之一就是机器学习，而深度学习是实现机器学习的重要方法之一，也被杨立昆以及其他许多科学家认为是人工智能的未来。
杨立昆在书中对人工智能提出了10个问题并进行了深入探讨，让我们更全面、更客观的了解人工智能。
01
人工智能是不可理解的黑匣子吗？
一些悲观主义者认为深度学习系统是“黑匣子”，我们未来没办法理解和操控人工智能，但他们错了。诚然，深度学习以模拟人类神经网络为基础，当神经网络具有数百万个单位和数十亿个连接时，似乎很难完全理解它的工作原理，但这不正是所有智能决策的特点吗？
我们不了解让出租车司机、工匠、医生或航空公司飞行员完成他们的工作的神经运作机制，但我们会选择相信他们。为什么要对一台反应更快、不知疲倦、从不分心的机器提出更高的要求呢？当你可以证明它比人类更可靠时，为什么还要对它产生怀疑呢？
人工智能系统每天做出数万亿个决策，其中大多数都与查找、分类和过滤信息以及一些稍显无聊的应用程序有关，例如应用于照片和视频的效果。你是否真的愿意花时间和精力来详细了解它们？人工智能的工作能够带来令人满意的效果，这不就够了吗？
而且使用没有深入了解其运行机制的系统是一种常见的现象。许多常用药物都是通过反复试错获得的，而我们对其作用机制了解甚少。比如，我们熟悉的且在日常生活中不可被替代的阿司匹林是有史以来使用最广泛的药物，它于1897年首次被合成，可是直到1971年我们才明确其作用机制。
02
大脑只是一部可模拟的机器吗？
如今，大多数科学家都接受了大脑是生化机器的概念。虽然这是一台复杂的机器，但总归是一台机器。神经元对输入的电信号做出反应，根据从上游神经元接收到的信息计算是否产生电脉冲信号、动作电位或放电脉冲，并将其发送给所有下游神经元。这是一种十分基本的机制。但是，通过结合数十亿个相对简单的神经元的活动，我们便获得了大脑和思想。
我意识到，模拟人脑的想法可能会让一些哲学家或有宗教信仰的人极力反对，但是有许多科学家认为思维机制最终将会由可以学习的人工智能系统重现。
质疑此观点的人认为，我们对生物、物理、量子和其他系统如何在人体内结合以使大脑发挥作用的了解还远远不够。的确，我们并不能理解这一切，但是我坚信，哺乳动物或人类的大脑是可以“计算”的机器，并且这些计算原则上可以通过电子机器或计算机进行再现。
03
人工智能会产生意识吗？
意识是一个很难讨论的话题，我们不知道如何衡量和定义它。它与自我意识混淆在了一起，同时，意识被认为是动物存在超级智力的标志。在镜子中认出自己的大象和黑猩猩已经具有自我意识，而狗不行。
我个人认为意识是一种幻觉，它似乎在许多聪明的动物身上存在。人类的意识与注意力息息相关，当面对特殊情况时，我们将注意力集中于此，此时我们会非常专注。当我们玩益智游戏时、准备新的烹饪食谱时、参加辩论时，我们的注意力将毫不犹豫地集中在这个不寻常的复杂任务上。它迫使我们开启“世界模型”以规划下一步行动。
对我来说，毫无疑问，未来的智能机器应该具备某种形式的意识。也许与人类的不同，它们可以同时专注于多项任务。但它是无法培养意图或发展意识的。我的同事安托万·博兹总结道：“我们甚至没有配方的原料去制造一台既能够制定战略，又对世界有敏锐了解的真正智能机器。如今我们还缺乏一些基础概念。”
04
人工智能比人类更聪明吗？
如今，即便是最先进的人工智能系统也存在局限性，它们还不如一只猫聪明。虽然我们已经了解了大脑学习的原理，知道了大脑的结构，但重现其功能所需的计算量是无比巨大的，大约是每秒1.5×1018量级的操作。现在一块GPU每秒可执行1013次计算，功耗约为250瓦。为了达到人脑的计算能力，必须将10万个这样的处理器连接上功耗至少25兆瓦的巨型计算机才能实现。这巨大的能量消耗是人脑的100万倍！
因此，深度学习的能力十分强大却又十分有限。目前的深度学习系统仍无法进行逻辑推理，因为当前的逻辑与学习能力并不匹配，这是未来几年的主要挑战。只受过国际象棋训练的机器根本无法下围棋，而且它完全不理解自己所做的事情，它只不过是机械化地执行指令。如果以生物的智能做一把标尺，人类的智能为100，老鼠的智能为1，那么人工智能在标尺上的位置可能更接近后者。
科学面临的挑战是巨大的，技术也是如此。
也许你要提起那些仿真机器人来反驳我了，比如“索菲亚”。索菲亚是一位面带神秘微笑、长着一双玻璃眼珠的美丽的光头女人，“她”在2017年的许多舞台上都大放异彩。“她”动人的脸庞能够呈现数十种不同的表情，在调侃一个记者关于地球上有太多机器人的担忧时，“她”笑道：“您好莱坞电影看太多了！”这个经典笑话让她如此酷似人类，以至沙特阿拉伯在当年授予了“她”沙特国籍。实际上，“她”只是一个由工程师预先设定好一系列标准答案的“木偶”。当我们与“她”交流时，所有的谈话内容均会经过匹配系统处理，并从得到的答案中选择最合适的一个输出。索菲亚欺骗了人们，“她”只是一个完成度很高的塑料制品，只不过是我们（被这个激活了的物体所感动的人类）赋予了它某些智能。
所以，人工智能比人类聪明吗？也许它们在执行十分精确严密的特定任务时所表现出的性能远超人类。但至少目前，任何一种机器学习方法都没有人类的学习更加有效。
网络图片
05
人工智能会产生人类感情吗？
我丝毫不会怀疑自主智能机器有一天会产生情感。
当用于测量机器人电池电量的镜头元件产生了较高的成本而致使机器人开始寻找电源时，不正与饥饿的感觉相似吗？
当机器因成本高昂而避免采取行动时，或者由于成本低廉而执行任务时，这是否已经可以看作是一种情感的标志？
当计算饥饿的目标函数的组成部分产生高成本时，它会触发对食物的搜索。普遍地观点认为，这些行为是目标模块组件不满意的结果。
我很清楚地意识到所有这些似乎都是可以简化的。情感是人性的重要组成部分，因此人们不愿意将其数字化为简单的数学函数计算，对将人类行为简化为目标函数的最小化也心存疑虑。但是，我在此提出的仅是关于智能系统的一般体系结构的假设，没有否认目标函数和世界模型的丰富性或复杂性。
06
人工智能可以预测未来吗？
人们都很喜欢预测，例如预测库存、预测产品的需求、预测一只股票或财务价值的演变曲线......那么，人工智能可以预测未来吗？
如今的人工智能有一个悖论：它功能极其强大、极其专业化，却没有一点常识。
常识至关重要，它制约着我们与世界的联系，它能填补空白，弥补隐含的信息。当我们看到一个坐在桌子旁的人时，可能看不到他的腿，但我们知道他肯定有腿，因为我们对人类有一定的常识。我们的大脑还整合了物理学的基本定律，比如，如果有人打翻了眼前的玻璃杯，那么杯子里的水就会洒得满桌子都是。我们知道如果不拿住某个东西，它就会掉下去。我们还能够意识到时间流逝、万物运动。
目前，机器带有的预测能力十分有限。当然，如果给定一个有些删减的文本，机器有能力给出一个可能的后续单词列表。但是，如果这段文字是阿加莎·克里斯蒂(AgathaChristie)的小说，在最后一幕波罗探长宣布“凶手是......先生”，那么，为了完成这个句子需要读者有很强的常识和对人性的了解。很显然，没有哪一台机器能做到这一点。更不用提预测人类世界的未来了。
07
人工智能会统治世界吗？
在经典科幻电影《我，机器人》（I,Robot）中，机器人具有自我进化能力，转化成了人类的“机械公敌”，制造者和被制造者展开了战争。这恐怕也是很多人对人工智能未来的担忧。
我们对机器人想要取得权力的恐惧主要来自人性特质在机器上的投射。对大多数人来说，人类与智慧生物的唯一互动就是与其他人类的互动，正因如此，我们混淆了智力和人性。这是一个错误，因为还有其他形式的智力存在，即使在动物界也是如此。
人类同倭黑猩猩、黑猩猩、狒狒和其他一些灵长类动物一样具有复杂且通常带有等级制的社会组织，每个个体的生存（或舒适度）取决于它影响该物种其他成员的能力（统治只是影响的一种形式）。我们是社会性动物的事实解释了我们为什么把对统治的渴望与智力联系在一起。
除了对统治的渴望，为了人类物种（或基因）的生存，我们的许多冲动和情感已通过进化建立了起来，其中包括好奇心，对探索的渴望，竞争力，屈服，渴望与我们的同类接触，爱，仇恨，掠食，以及我们对家庭成员、我们的部族、我们的文化、我们的国家的偏爱，没有这些冲动和情感的人、动物或机器也都可以是有智慧的。我们必须将这个问题说得清晰透彻：只有当我们在智能机器中明确地建立了这种欲望时，它们才会渴望统治人类。但我们为什么要这样做呢？
电影《我，机器人》剧照
08
人工智能会被滥用吗？
霍金于2014年向英国广播公司称，“人工智能可能意味着人类的毁灭”，但后来他改变了想法。就像任何一位出色的天体物理学家一样，他的时间尺度是以数百万或数十亿年为单位的。试想，我们怎么会如此聪明地设计出一个超人类的智能机器，同时又如此愚蠢地赋予它荒谬至极的目标呢？
请记住，人工智能始终都是由人类开发出来为人类服务的工具，目的是放大人类的智能。
我们认可的造福人类的所有技术革命都有其阴暗面，每一项技术都带来了问题，而这些问题最终都得到了解决。
为了防止这些滥用，我帮助创建了“人工智能伙伴关系”（PAI），这个组织汇集了约100名成员，包括大型公司、互联网巨头、学者社团、人权组织（国际特赦组织、美国公民自由联盟、电子前沿基金会）、媒体（《纽约时报》）、大学团体和政府机构等。我们讨论道德问题，警告危险并发布建议。人工智能是一个新领域，其深度展开的后果并非总是可预测的，我们必须多加考虑。
09
人工智能会带来军事风险吗？
像其他所有技术一样，人工智能可以被用于做最好的事情，也可能被用于做最恶的事情。有些声音反对在军事上使用人工智能，主要是反对致命性自主武器系统（lethalautonomousweaponsystems），它通常也被称为“杀手机器人”。相对应的保障措施已经较为成熟，大多数军队都有极为严格的规则来管理启动打击的授权程序。无论是何种武器，决策的源头始终是高级军官。我们都知道，自动或半自动武器已经存在很长时间了，弹道导弹、巡航导弹也是如此。在所有具有很强杀伤性的自动武器中，最古老的当属地雷。自1999年以来，地雷就被一项国际公约禁止使用，不是因为它们很聪明，而是因为它们很愚蠢。
那么，智能化武器是否会有滑向军备竞赛的危险？弗拉基米尔·普京（VladimirPutin）在曾表示，“人工智能的领导者将成为世界的统治者”。面对人工智能推动的可能存在的军事失控，危险是无比真实的。避免这些危险最重要的力量来自我们的国际机构，坚定捍卫已有的保护措施比以往任何时候都更加有必要，因为它们受到了民粹主义、民族主义和孤立主义的威胁。
10
你会被人工智能取代吗？
我不确定人工智能革命是否会影响所有人。与那些从事可能被（部分或全部）系统化和自动化工作的人相比，深耕于有资质的、创新性的、专注于人际关系或人力资源职位的人更有可能保住工作。如果我们的政府不通过财政措施纠正存在的问题，那么人工智能带来的收益将无法平均分配，贫富差距会进一步扩大。
自动化已经取代了人类来完成重复性或艰巨的任务，而人工智能将在那些一定程度上需要加入感知、推理、决策和行动计划等内容的工作中取代人类。自动驾驶汽车会减少卡车、出租车和载客专车（VTC）的驾驶员的数量，因为它们会更加安全。医学图像分析系统已经走进放射科医生的日常工作中，患者也因此得到更可靠、更便宜的检查。在以上这些健康和交通运输领域，人工智能将会挽救更多的生命。
所有的职业都将受到科技变化带来的影响。有一件事是可以确定的：人工智能及其应用无法参与竞争的东西会变得更有价值。
我们每个人都可以花不到2欧元的低价或通过订阅的方式聆听最喜欢的音乐家的作品，然而如果要欣赏摇滚音乐会或歌剧，我们就需要支付50～300欧元。区别在哪里？区别在于，独特的事物赋予了生命独特的时刻。一顿大餐，参观自然景点或博物馆，听一场爵士乐音乐会—作为一个开明的业余爱好者，我因为能够做这些事情而感到高兴！—我们越来越重视创造力和独到的体验，越来越不看重大众化的产品。在健康、艺术、科学、教育、体育等领域的职业中，感性的方面在未来将占有重要的一席之地。
网络图片
本文摘编自中信集团8月新书《科学之路：人、机器与未来》
【内容简介】
“图灵奖”得主、“深度学习三巨头”之一、“卷积神经网络之父”……由于在人工智能领域的突出贡献，杨立昆被中国计算机科学界和企业界所熟知。
杨立昆的科学之路，谱写了一段关于勇气的宣言。他为了知识本身求学，而不是文凭，他用自己的经历，证明了通过激烈的考试竞争进入名校不是科学成功的唯一路径。他广泛阅读，为他科学思维的形成奠定了坚实的理论基础。他特立独行，做自己感兴趣的事情，即便那件事在短时间里不被人看好。在人工神经网络研究的低谷期，他寂寞地坚持，终于取得了举世瞩目的成就。
人工智能正在颠覆人类社会，未来机器能思考吗？杨立昆的这部著作，讲述正是人工智能在我们面前崛起——这个历史上绝无仅有的时刻发生的故事。
END
人工智能与人类生存：刘慈欣发表看法
【ITBEAR科技资讯】6月25日消息，刘慈欣近日在联合国中文日上发表了题为《人工智能的影响与未来》的演讲。他在演讲中探讨了人工智能对于职业取代和人类生存的影响，并对人工智能是否会消灭人类的问题做出了回应。
刘慈欣指出，人工智能在取代人类工作方面，首先会影响那些被社会视为高尚而受人尊敬的职业。然而，与业界分析预测相反，他强调了一种不同的趋势。据刘慈欣表示，这主要是因为现阶段的人工智能在满足资本市场稳定要求方面仍存在局限性。相较于简单劳动行业，那些被视为高大上但实际上具有相对较低沉没成本和高人力部署成本的职业，例如教师、作家、开发者和股票经纪人，反而可能首先受到人工智能的替代。
在回答人工智能是否会消灭人类的问题时，刘慈欣从暴力与非暴力的角度进行了思考。他指出，由于人类的算力限制，人工智能难以实现自我迭代，并最终使用暴力统治世界的情况并不现实。然而，他也提出了另一种可能性，即人类可能在未来过度沉浸于人工智能提供的服务中，最终导致自身沦为被舒适陷阱束缚的梦幻世界中的旁观者。
刘慈欣的演讲引起了广泛的关注和讨论。他对于人工智能的观点既传递了希望，也警示着人们应该审慎看待人工智能对社会和个体的潜在影响。无论如何，人工智能的发展仍需在道德、伦理和可持续性的框架下进行，以确保其对人类社会的贡献能够真正符合人类的整体利益。
人工智能发展是否会对人类社会造成危害
原标题：人工智能发展是否会对人类社会造成危害近来，人工智能已成为热词，这次不是因为某部科幻电影，而是因为理论物理学家斯蒂芬·霍金、特斯拉公司首席执行官埃伦·马斯克等一些科学家、企业家及与人工智能领域有关的投资者联名发出的一封公开信。他们在信中警告人们必须更多地注意人工智能的安全性及其社会效益。要警惕其过度发展，并提醒科学家和研发人员关注强人工智能的潜在威胁，因为得到充分发展的人工智能或许预示着人类最终被超越。
斯蒂芬·霍金曾警告“人工智能的全面发展可能意味着人类的终结”；伊隆·马斯克担心人工智能的发展可能是人类生存面临的最大威胁；比尔·盖茨则提醒人们要小心人工智能。由于他们的影响力，人工智能威胁论因此得到广泛传播。而有一个有趣的现象是，提倡人工智能毁灭人类的基本是物理学家，企业家，但最了解人工智能原理的科学家，却几乎没有一位认为人工智能对人类有威胁。
在人工智能的问题上霍金认为，“如果人类继续这样无止境地开发人工智能，那么总有一天，人工智能将拥有自己的发展方式。”而对于这个问题有人有着不同的看法。库兹韦尔表示，他更愿意相信，如果人工智能真正地融入了社会，它将帮助人类解决一些社会问题。但是他也承认，没有人能够保证人工智能一定会有利于人类发展。“我认为，面对潜在的风险，最好的方式就是继续保持民主、包容和自由的价值观。”
展开全文人类对未知事物产生恐惧并不是什么新鲜事，但是，著名的理论物理学家及硅谷企业家和微软创始人对人工智能的担心，则为这种恐惧增添了新的注解。像科幻电影一样，担心机器人会奋起革命似乎有点自欺欺人，重要的是如何合理的进行分析。
如果人工智能只是一种可以代替人类工作的机器，它的出现并不足以让人们恐惧。当机器帮助我们创造世界上大部分财富的时候，困扰人类的充其量不过是一个从未得到解决的财富分配问题，还不足以带来毁灭性的灾难。也就是说，人工智能存在比替代人类工作更深层的威胁。
从历史来看，每一次新生事物的诞生，某些人都会感觉有威胁。现在机器人来了，很多工厂流水线上的工人就感觉要下岗了。历史上从来没有一样新生事物会受到全部人的欢迎，总有一部分人会感受到威胁。问题是怎样面对威胁?人类不能因为有一部分人受到威胁，或者有反对的声音，就不前进了。
任何事物都有两面性，科学也是一把双刃剑。科学新发现、新发明在推动社会向前发展，在对一部分人造成威胁的同时，也创造出很多发展机遇，只要我们掌握新知识、新技术，就会找到广阔的发展空间。如果我们能直面威胁，积极应对，顺势而为，勇于创新，更有可能屹立潮头，成为新时代的骄子。返回搜狐，查看更多
责任编辑：人工智能快速崛起，未来是否有可能取代人类，统治地球
机器人的英文单词叫做Robot，实际上来自Robo（奴隶）这个单词，机器人的诞生实际上就是人类希望可以把它当成奴隶，为我们提供服务。随着时代的发展，科技的进步，越来越多的人工智能机器人走进了我们的生活，酒店、银行以及各个办事处的大堂，几乎都能看到智能小助手的身影。
再来说说最贴近我们生活的扫地机器人，这个被号称为21世纪最贴心的智能产品，究竟是怎么个贴心法？扫地机器人在清扫时，可以适应各种复杂的家居环境，就像长了眼睛一样，完美避开障碍物，高效智能的完成清扫任务，对当代忙碌的年轻一代，可是减轻了不少负担…..
众所周知，韩国现代汽车集团在前段时间以11亿美元从软银手中收购了波士顿动力公司。波士顿动力公司是一家美国的工程与机器人设计公司，此公司的著名产品包含：波士顿机械狗，波士顿机器人等等。
根据相关资料显示，波士顿机器人的“进化”速度可谓是相当惊人！2009~2013年学会了走路，2013~2016年学会了跳，而且摔倒之后还会自己爬起来。而就在前段时间，波士顿机器人又学会了跳舞！就在2020年的12月底，波士顿动力更新了最新机器人视频，还是跳舞，不过跟以往不同的是，这次是波士顿动力的整个机器人阵容：类人机器人Atlas、狗形机器人Spot、Handle全部汇聚在一起，演出了一套协调的舞蹈动作，配乐为TheContours的DoYouLoveMe。
波士顿机器人属于专业智能化机器人，主要是用于研究机器人制造技术之用。不过，人工智能机器人发展速度如此迅速，对人类来说是否是一件好事呢？人类之所以能够成为地球上的统治者，和其它生物最主要的区别，就是人类可以制造使用各种工具，其中也包括我们熟悉的机器人。
机器人的诞生，可以说是人类非常得意的“作品”，随着科技的不断进步，人工智能机器人拥有非常强大的大数据算法，超强的学习能力，能够独立完成各项复杂艰巨的任务。世界著名的围棋大师柯洁，在阿法狗面前都毫无招架之力。人工智能机器人，不论是在哪个方面，它都远胜于人类。
随着人工智能的崛起，人工智能危机的声音也同时响起。有人认为，人工智能最终将取代人类，统治地球。霍金、马斯克、比尔盖茨都曾提醒要“警惕”人工智能，因为当人工智能发展到一定程度之后，就会威胁到人类的生存，最终取代人类主宰地球。
那么在遥远的未来，人工智能真的会像我们想的这样可怕吗？我们不否认这种可能性的存在，但从现在来看，这种可能性无限接近于零，因为以人类目前的技术水平，还远远制造不出能够威胁人类生存的人工智能，我们现在担心的未免太早了。
有观点认为，人工智能它只是在海量数据知识库中，检索合适的方案来应对当前的问题，支持它的是无数次场景试错的结果。它对问题本身并没有哲学上的思考，纯粹是基于算法和数据库的检索。虽然在外人看来，足够大的数据库看起来已经很“智能”了，但它不具备思维，没有自我意识，讲玄幻一点，它没有“灵魂”，最终它只能是人工智能，而不是智慧。