经济学人封面：人工智能会导致大面积失业甚至让人类灭绝吗
【写在前面】
最新一期的《经济学人》杂志的封面报道将人工智能对世界的影响和19世纪工业革命联系起来，文章提到工业革命时人们提出了一个著名的“机器问题”（MachineryQuestion），意思是机器的大规模应用是否会让工人大规模失业。而随着人工智能技术的发展，这个问题又被人提了出来。本文经机器之心（微信公众号：almosthuman2014）授权转载，禁止二次转载。
1.“机器问题”重现
从最初的屡屡失败，到现在的朝气蓬勃，人工智能会导致大面积失业甚至让人类灭绝吗？或许历史会给我们一些有用的线索。
有些人害怕机器会抢走所有人的工作，而只是有选择地让少数人受益，并最终彻底颠覆社会。然而在历史上，类似的一幕曾出现过。两个世纪前，工业化的浪潮席卷英国，与今天同样的担忧曾引发了激烈的争论。那个时候，人们不说"工业革命"而大谈"机器问题（machineryquestion）"。1821年，经济学家DavidRicardo第一个表达了这种看法，他重点关注“机器对于不同社会阶层的利益的影响”，特别是“劳动阶级怀有的意见，他们认为使用机器通常会不利于他们的利益”。1839年，ThomasCarlyle（苏格兰哲学家，被看作是那个时代最重要的社会评论员）对所谓"机械恶魔（demonofmechanism）"予以了抨击，他写道，"机械恶魔"破坏性的能力将会扰乱整个工人团体。
现在，这个"机器问题"卷土重来，虽然它伪装成了另外一副样子——人工智能（AI）技术正突飞猛进，机器得以执行曾经只有人才能胜任的各种任务。科学家，经济学家和哲学家正在热议人工智能技术的潜在影响。这种影响可能是非常深刻的。因为人工智能技术，之前看起来不可能自动化的工作——从放射科到法律工作——现在也同样面临着危机。2013年，牛津大学的CarlBenediktFrey和MichaelOsborne进行了一次调查研究，其结果后来被人们广泛引用，该研究发现美国有47%的工作有很高的可能性会在不久后被「计算机资本取代」。更近的一个报告是：美国美林银行预测，2025年以前，人工智能的“每年产生的创造性破坏的影响”可能会达到14到33万亿美元，其中包括因人工智能实现了知识工作自动化，导致雇佣成本减少的9万亿美元，制造业和医疗护理开销减少的8万亿美元，以及部署无人驾驶汽车和无人机后因效率提升增加的两万亿美元。智囊机构麦肯锡全球研究院（McKinseyGlobalInstitute）说，人工智能正在促进社会发生转变，这种转变比工业革命“发生的速度快10倍，规模大300倍，影响几乎大3000倍”。
跟两个世纪前的人们一样，很多人担心机器会让几百万人下岗，引发不平等问题和社会动乱。MartinFord曾写过两本关于自动化威胁的畅销书，他担心中产阶级的工作将会消失，经济流动性将（即个人，家庭或团体提高经济水平的难易程度）停止，财阀们会「将自己关在封闭式小区或精英城市里，还可能有自动化军事机器人和无人机在旁保护。」还有人则担心，人工智能会威胁人类的生存，因为超级智能计算机可能不会认同人类的目标，转而攻击创造它们的人类。很多人表达过这类担忧，比如物理学家史蒂芬·霍金。更让人惊讶的是，伊隆·马斯克，火箭公司SpaceX和电动汽车制造商Tesla的创始人，也有同样的想法。与Carlyle相似,马斯克警告人类：“我们正在用人工智能召唤恶魔。”他的特斯拉汽车可以利用最新的人工智能技术实现自动行驶，但马斯克却担心未来的人工智能霸主可能会太过强大，失去人类的控制。他说：“马可·奥勒留（罗马帝国贤君）当国王挺好的，但如果国王是卡利古拉（罗马帝国早期的典型暴君）情况就不太乐观了。”
有人看到风险，有人洞见机遇。投资者正在不断涌入这个领域，科技巨头们则在不断收购人工智能创业公司，并争先吸引学术界最优秀的研究人才。根据数据分析公司Quid的研究数据，在2015年，人工智能企业的成本创下85亿美元的记录，几乎为2010年的四倍。投资公司PlayfairCapital的NathanBenaich说，2015年人工智能企业的投资轮数比上一年多16%，而与此同时科技产业整体投资轮数减少了3%。PlayfairCapital是一家基金管理机构，该公司在人工智能的投资组合达到25%。“XX＋人工智能”取代了“XX行业的Uber”，成为创业公司默认的商业模式。谷歌，Facebook，IBM，亚马逊和微软都想方设法在云端建立人工智能服务的生态系统。“这项技术将会用在各行各业中，只要这个行业有任意种类的数据，图像，语言等数据类型都可以。”MetaMind的创始人RichardSocher说，“人工智能将遍地开花。”MetaMind是一家人工智能创业公司，最近被云计算巨头Salesforce收购。这意味什么？本篇特别报道将会审视这项新科技的崛起，探索它对工作，教育，政策的潜在影响，思考它在道德和监管方面的作用。同时，本文还思考了能从机器问题最初的答案中学到的东西。AI引发的担忧和热情不相上下，同时带来了很多问题，然而值得记住的是，其中的很多问题我们在以前都曾问过，并已经有了答案。
2.技术：从无法工作到神经网络
人工智能的繁荣基于传统与现代想法的结合。
人工智能如何从刚开始的傲慢与失望，突然成为科技界最热门的领域呢？人工智能（artificialintelligence）这个术语最早被写在1956年的一份研究计划中，该计划声称“如果一个精心挑选的科学家小组花一个夏天一起研究，就能使机器解决各种人类无法解决的问题……”，从而实现重大的进步。那被证明只是疯狂过度地乐观，人工智能虽然偶有突破，但其承诺的远比其所能提供的多得多。最终，大多研究者都避免使用这个术语，而更喜欢用“专家系统”或“神经网络”。现在“人工智能”的名誉恢复和重新兴起要追溯到2012年被称为ImageNet挑战赛的在线竞赛。
ImageNet是一个拥有数百万张图片的在线数据库，所有图片都有人工做的标签。对于任何给定词，例如“气球”或“草莓”，ImageNet里都能找到上百张对应的图片。每年的ImageNet竞赛鼓励该领域的人在计算机识别和自动标记图片上进行比赛，并衡量他们的进展。这些系统首先使用被正确标记的图片集进行训练，然后挑战标记之前没见过的测试图片。在后续的研讨会上，优胜者会分享并讨论他们的技术。2010年获胜的系统可以正确标记72%的图片（人类平均有95%的准确率）。2012年，多伦多大学的GeoffHinton带领的团队实现了85%的准确率，这要归功于一项叫“深度学习”的新技术。这带来了一种长远快速的改进，在2015年的ImageNet竞赛上，一个深度学习系统以96%的准确率第一次超过了人类。2012年的成果被认为是一项突破，但YoshuaBengio说，他们依靠的是“结合以前已经有了的东西。”YoshuaBengio是蒙特利尔大学的计算机科学家，他与Hinto以及另外几个人被称为深度学习的先驱。大体上，这项技术使用了大量的计算和训练数据，对来自人工智能发展初期的一个旧思路进行改进，这个旧思路也就是人工神经网络（ANN）——这是生物学启发的人工神经元（脑细胞）网络。
在生物大脑中，每个神经元都能被其它神经元触发，将输出的信号馈送给另一个神经元，而且此神经元的输出也能继续触发其它神经元。一个简单的ANN网络有一个输入神经元层，在这里数据被馈送进网络中；还有一个输出层输出结果，中间可能还会有三两个隐藏层对信息进行处理。（实际中，ANN网络全部在软件中模拟。）网络中的每一个神经元都有一系列的「权重」和一个「激活函数」控制着输出的信号发射。训练一个神经网络涉及到对神经元权重的调整，以便一个给定的输入产生期望的输出。ANN在20世纪90年代早些时候就已经实现了一些有用的结果，例如识别手写数字。但在完成更为复杂的任务上，ANN陷入了困境。
在过去的十几年中，新技术的出现和对激活函数的一种简单调整使得训练深度网络变得可行。同时，互联网的兴起产生了数十亿可用于目标训练的文档、图片、视频数据。这所有的一切都需要大量的数字操作能力，而2009年左右当几个人工智能研究团体意识到个人计算机和视频游戏机上用于生成精致画面的GPU也同样适用于运行深度学习算法之后，计算能力也不再是个问题了。斯坦福大学由吴恩达带领的一个人工智能团队发现GPU能够几百倍地加速深度学习系统。然后，训练一个四层的神经网络突然就变得很快了，由之前需要花费几周的时间变成了不到一天时间。GPU生产商NVIDIA的老总黄仁勋说这是一个令人高兴的对称：GPU这一游戏工作者用于为游戏玩家构建幻想世界的芯片也能用于帮助计算机通过深度学习理解真实世界。
ImageNet的结果显示了深度学习的能力。突然间，深度学习就获得了关注——不只是在人工智能界，而是在整个科技产业界内！深度学习系统因此变得更加的强大：20或30层的网络变得很常见，微软的研究人员曾建立过152层的网络。更深层的网络能进行更高水平的抽象并产生更好的结果，事实证明这些网络擅长解决众多领域的难题。
“让人们激动的是这一领域的一种学习方法：深度学习，能够应用于众多不同的领域，”谷歌机器智能研究部门负责人、如今负责搜索引擎的JohnGiannandrea表示，谷歌正在使用深度学习提升其网页搜索结果的质量、理解智能手机端的口语指令、帮助人们在他们的照片中搜索特定的图片、推荐电子邮件的自动回复、改善网页的翻译服务，并且帮助它们的自动驾驶汽车理解周围环境。
学习如何学习
深度学习有很多不同的方式。最普遍使用的是“监督学习（supervisedlearning）”，这项技术能使用标记样本集训练系统。例如，过滤垃圾邮件：收集出邮件信息样本的大数据集，每一个都标上“垃圾邮件”或者“非垃圾邮件”。一个深度学习系统能够使用这些数据集进行训练，重复的进行样本训练进而调整神经网络内的权重，提高评定垃圾邮件的准确率。这一方法的巨大优点是不需要人类专家写出规则列表，也不需要程序员用代码编写这些规则，系统能直接从有标签的数据中进行学习。
使用有标签数据训练系统也被用于图片分类、语音识别、信用卡交易欺诈侦测、垃圾和恶意软件识别以及广告定位，所有这些应用领域中的正确答案都可通过之前的大量案例获得。Facebook能在你上传一张照片后识别、标记照片里你的朋友和家人，它们近期还发布了一个能够为盲人描述照片中的内容（比如两个人、微笑、太阳眼镜、户外、水等）的系统。有大量的数据可用于监督学习，吴恩达先生说，这一科技的应用已经使现在的金融服务领域、计算安全领域和销售领域的公司将自己重新标记为了人工智能公司。
另一项技术是无监督学习（unsupervisedlearning），其通过将网络暴露在大量样本中来对网络进行训练，但不会告诉它要寻求什么模式。相反，该网络学习识别相似样本的特征和聚类，从而揭示数据中的隐藏分组、连接和模式。
无监督学习能在你不知道会是什么样的情况下被用于事物搜索：例如，监控网络中反常的通信模式，那可能代表着网络攻击；或检查大量的保险声明以检测新类型的诈骗方式。一个经典的案例：2011年当吴恩达在谷歌工作时，他领导的一个名为谷歌大脑（GoogleBrain）项目中的一个大型的无监督学习系统本是用于在千部无标记YouTube视频中发现共同模式。一天，吴恩达的一个博士生给了他一个惊喜。吴恩达回忆说“我记得他把我叫道他的电脑前说，‘看这个’”，电脑屏幕上是一个毛茸茸的面孔，从数千的样本中发现的模式。系统发现了猫。
强化学习位于监督学习和无监督学习之间，它涉及到训练一个神经网络与只以奖励作为偶然的反馈的环境进行交互。本质上，训练涉及到调整网络的权重，从而获得能带来更高奖励的搜索策略。DeepMind是这个领域的专家。2015年2月，它们在Nature上发表的一篇论文描述了一个能够学习玩49种经典的Atari视频游戏的强化学习系统，它只使用屏幕上的像素和游戏分数作为输入，输出则连接到一个虚拟的控制器上。这个系统从头学起玩游戏，最终在其中29种游戏中达到或超过了人类水平。
把系统游戏化
电子游戏是人工智能研究的理想训练场，DeepMind的DemisHassabis说，因为“它们是真实世界的缩影，但更纯净和约束化。” 游戏引擎也可以轻松生成大量训练数据。Hassabis先生以前从事过电子游戏行业的工作，后来取得了认知神经学的博士学位并创立了DeepMind。这家公司现位于伦敦国王十字车站附近，相当于谷歌的人工智能研究分部。
今年三月，AlphaGo于首尔的五轮比赛中打败了世界顶尖围棋选手李世石，作为开发公司的DeepMind因此登上头条。AlphaGo是一个有着独特特性的强化学习系统。它由几个相互连通的模块组成，包括两个深度神经网络，它们各有所长——像人脑中模块一样。其中一个通过大量的棋局分析训练提出一些可能的走法，另一个网络则负责根据随机采样技术来评估这些走法。这个系统把生物启发的技术与纯机器化的技术结合了起来。人工智能研究者们就哪种技术更优越这个问题已经争论了几十年，而AlphaGo却另辟蹊径两者都用。“这是一个复合型系统，因为我们认为解决智能问题只有深度学习是不够的”，Hassabis说。
他和其他研究者们已经开始探寻一种叫做迁移学习（transferlearning）的新技术了。这种技术能让强化学习系统把基础建立在已习得的知识上，而不用每一次都从头开始训练。Hassabis先生解释道，人类可以毫不费力地做到这一点。Giannandrea先生回忆起他四岁的女儿已经能辨别出penny-farthing（一种前轮大后轮小的脚踏车）就是一种自行车，即使她之前从没见过这样的东西。“但计算机无法做到。”他说。
一家最近被Salesforce收购的初创公司MetaMind也在研发一种相关的技术——多任务学习（multitasklearning），这种系统用同样的神经网络架构解决多种不同的问题，在一件事情上获得的经验能用来更好地解决其它事情。跟DeepMind类似，它也在探寻模块化的架构；其中一个被称为“动态记忆网络（dynamicmemorynetwork）”的系统能消化一系列陈述，然后回答相关问题，并且推断出其中的逻辑联系（Kermit是一只青蛙；青蛙是绿色的；所以Kermit是绿色的）。MetaMind还把自然语言网络和图像识别网络融合到一个系统中，它可以回答有关图像的问题（“这里面的汽车是什么颜色的？”）。这种技术可以用到智能客服聊天机器人中，或者用于Salesforce的客户呼叫中心。
过去，很多有前景的人工智能技术发展都会逐渐疲软。但深度学习却不同。“这东西真的能起作用。”MetaMind的RichardSocher说。人们每天都会用到它，虽然他们并未意识到。Hassabis、Socher和其他人的长远目标是开发出“通用人工智能（AGI)”—一种能完成各种各样任务的系统，有了它就不必再为每个特定问题都专门开发出一个系统了。人工智能多年来的研究方向都集中在解决专业化的特定问题上，Socher先生说，但现在研究人员们「正努力用更先进的乐高积木块拼出不一样的东西」。即使他们中最乐观的人也认为还需至少十年才能做出人类智力水平的AGI。但Hassabis说，“我们认为我们已经知道实现接近AGI的系统所需的几十种关键元素了”。
同时人工智能已经在发挥作用了，而且很快会更有用。例如谷歌的智能回复系统，它通过两个神经网络推荐邮件回复，从研究项目到产品上线只用了四个月（虽然刚开始它因为对每条信息建议回复的有「我爱你」而令人失望）。“在科研期刊上发表文章刚一个月，就有某个公司正确使用你的系统了。”Socher说。人工智能公司，不论规模大小都能都能定期发表学术文章；人工智能研究者即使在转行进入公司后也能继续在同行评议期刊上发表研究成果。很多人都是边为公司工作边发表科研文章。“如果你不允许他们发表，他们就不会为你工作了。”AndreessenHorowitz的ChrisDixon解释说。
谷歌，Facebook，微软，IBM，亚马逊，百度以及其他公司都开源了某些深度学习软件。部分原因是这些公司中的研究人员想要发表自己的成果，因为这有利于公司招募更多人才。从更现实的角度来看，这也是因为大型互联网公司不在乎把自己的人工智能软件公之于众，因为他们真正的优势在于能获取大量用于训练的用户数据。一家投资基金公司BloombergBeta的ShivonZilis说，这使得他们能在某些方面占尽优势，但初创公司也在寻求打入市场的独特途径。比如无人机初创公司能在人群密集的地方通过模拟数据进行飞行训练。而且很多训练数据都能从网上找到，孵化器公司YCombinator的董事长SamAltman说道。他注意到人类可以用有限的数据进行学习，“这意味着大量训练数据并不是实现智能的必要条件”。像Numenta和GeometricIntelligence这样的初创公司正在探索低数据依赖性的新智能系统。
在这股人工智能淘金热中，公司们排着队为参与者提供铁锹。出现最为频繁的名字是英伟达，Dixon先生说；似乎每一家人工智能创业公司都在使用它的GPU芯片来训练神经网络。GPU能力也可从亚马逊和微软的云中租用。与此同时，IBM和谷歌则正为更快更高效地运行人工智能软件而设计专门的新芯片。谷歌、微软和IBM也正使其语音识别、句子解析和图像分析等人工智能服务免费在线提供，让创业公司可以结合这些开发模块来构建新的人工智能产品和服务。IBM的GuruBanavar说：来自多个行业的300多家公司已经使用IBM的Watson平台开发出了人工智能驱动的应用，其中包括筛选应聘者和挑选葡萄酒。
对大多数人而言，所有这些人工智能领域的进步都将体现为他们每天都在使用的互联网服务的不断进步。搜索引擎将得到更相关的结果；推荐将会更加准确。Hassabis预测说：几年之内，所有东西都将会嵌入某种程度上的智能。人工智能技术将让计算机接口变成对话式和有预测力的，而不只是简单的菜单和按钮。而且对话式的交互让不能阅读书写和目前不能使用互联网的人也能使用计算机，Bengio说。
厚积多年，一朝薄发；机器将能够执行之前只有人类才能完成的任务。自动驾驶汽车正快速变得越来越好，到某个点时它们也许能够取代出租车司机，至少在市中心等受控环境中可以做到。送货无人机，不管是地上跑的还是天上飞的，类似地可以与人类送货员竞争。改进后的视觉系统和机器人技术让机器人可以码放超市货架和在仓库中移动物体。而且还给意想不到的突破留下了很多余地，Dixon说。
其他人却很担心，担忧人工智能技术会增压特定任务中现有的计算机化和自动化；就像200年前的蒸汽动力一样，让很多工人成了多余。英国诗人RobertSouthey宣称：“蒸汽可怕地加剧着已经正在进行的过程，但太快了。”他担心“这强大之力的发现”已经在“我们知道如何正确使用它”之前到来。许多人对今天的人工智能也这么想。
3.对工作的影响：自动化与焦虑
更加智能的机器会导致大规模失业吗？
坐在位于旧金山的一间办公室里，IgorBarani在屏幕上调出几张医学扫描结果。他是Enlitic公司的首席执行官，这是一家从对X光扫描与CT扫描图像分析开始将深度学习应用于医疗业的创业公司。这也是对这项技术的很明显的应用。深度学习因它在图像识别的某些形式上有着超人的实力而闻名；大量的标签化训练数据需要消化，而它有着巨大的潜力，去让医疗变得更加准确和有效。
Barani博士（曾经是一位肿瘤学家）指着从三个角度拍摄的患者肺部CT扫影。随着Enlitic的深度学习系统的加入，屏幕上出现了红色闪烁点，比对它们来看是否是血管、无害的成像物体或恶性的肺部肿瘤。最终系统会给出一个重点标注的特征以进一步调查。在与三个放射科专家一起合作的测试中，Enlitic系统在识别恶性肿瘤上优于人类50%，其假阴性率（没诊断出癌症）为零，相比之下人类则有着7%。Enlitic的另一个系统，可以用来检查X射线扫描来检测腕关节骨折，并有效地超出了人类的表现。
在2013年广为关注的一篇研究中，CarlBenediktFrey和MichaelOsborne核查了702种职业的计算能力，并发现美国47%的工人都面临着工作自动化的风险。尤其是，他们警告说大部分运输业和客运业（例如出租车司机和运货司机）和公关类（例如接待员与保安）“都有可能会被计算机所取代”，还有许多销售业与服务业人员（例如收银员，柜台人员，租赁人员，电话推销员和审计师等）也面临着工作被计算机取代的威胁。他们总结道：“机器学习近期的发展会占据大量的职业分布，在近期面临风险的职业分布广阔。”后续的研究指出英国有35%的职业可能被取代（英语有许多人从事创业公司，也因此难以被取代），在日本这个比例是49%。经济学家正在担心“职业两极化”的风险，也就是说中层技术的工作（例如制造业）正在消失，而低等和高等工作在扩张。实际上，工作可以被划分为两种常规职业：第一种即高薪水高技术的职业（建筑师，高级管理），还有低薪水低技术的职业（清洁工，快餐员）。许多西方国家中层职业薪水的停滞都表现出自动化已经开始产生影响——尽管这与外包的影响很难区分出来，后者也取代了许多发展中国家的底薪国家中日常化的工作（例如制造业和呼叫中心）。圣路易斯联邦储备银行发表的数据显示，在美国，非常规认知型工作以及非常规手工型工作自1980年后逐步增长，而常规化工作则一直维持几乎不变。随着更多工作自动化，这种趋势很可能会延续下去。
在更近的例子中，自动取款机（ATM）可能已经有望通过接替一些日常任务来取代银行出纳员的工作，而Bessen指出，事实上美国每个银行支行的出纳员平均数量已经从1988年的20人降低到了2004年的13人。这减少了运营一家支行的成本，让银行可以开设更多支行以响应客户的需求。城市银行支行的数量同期上升了43%，所以总体上雇员的数量增加了。ATM并没有摧毁工作，而是改变了银行雇员的工作组合——让他们远离了日常任务，进入到了机器不能做的销售和客服领域。那么谁是正确的：是认为这一次不同于以往而机器将真正夺走所有工作的悲观者（他们中许多是技术者类型的），还是坚持认为技术终将创造更多工作乐观者（大部分是经济学家和历史学家）？而事实可能介于两者之间。人工智能不会导致大规模失业，但它会加速与计算机相关的自动化的趋势，像技术改变之前做的那样扰乱劳动力市场，并要求工作者比以往更快地学习新技能。Bessen预计会有一次“艰难转型”，而不是“尖锐地打破历史”。但尽管人们表达了广泛不同的意见，但几乎所有人都同意这个处方：公司和政府将需要想办法让工作者更容易掌握转换工作所需的新技能。这将在悲观者看法正确的事件中提供更好的防御，同时预防比乐观者所预计的人工智能的更快和更重大的影响。
4.教育和政策：你会失业还是变得富有？
人工智能将会给教育、福利和地缘政治的政策制定者带来影响。
教育
2011年7月，拥有多个头衔的斯坦福大学教授SebastianThrun在YouTube上发布了一段短视频，宣布他和他的同事PeterNorvig正在使他们的“人工智能入门（IntroductiontoArtificialIntelligence）”课程可以在网上免费观看。到10月份该课程开始的时候，来自190个国家的160000人报名参加了该课程。与此同时，另一位斯坦福教授吴恩达也将自己的一门关于机器学习的课程免费发布到了网上，有100000人参加了这个课程。这两个课程都持续10周。最后，有23000人完成Thrun的课程，13000人完成了吴恩达的课程。
这样的在线课程，以及短视频讲座、学生的在线讨论板块和自动为他们的课程成绩评级的系统，变成了众所周知的大规模开放式在线课程（MOOC）。2012年，Thrun创立了在线教育创业公司Udacity，吴恩达也联合创立了另一家在线教育创业公司Coursera。就在同一年，哈佛大学和麻省理工学院（MIT）联合组建了edX——一个非营利性的MOOC提供组织，该组织由MIT人工智能实验负责人AnantAgarwal所领导。一些人认为MOOC会取代传统的大学教育。最初围绕MOOC的炒作现在差不多也已经偃旗息鼓了（尽管已有数百万学生参加了某种形式的在线课程），但MOOC的繁荣说明了在线教育的巨大潜力。
Udacity、Coursera和edX都是从人工智能实验室涌现出来的，这个事实凸显了人工智能研究社区希望对教育系统进行大改的信念。Thrun说他创立Udacity是将其作为“正在进行的人工智能革命的解药”——这场革命将催生对工作者的新型工作技能的需求。类似地，吴恩达认为：鉴于人工智能研究者的工作对劳动力市场的潜在影响，研究者“在应对和解决我们导致的问题上负有道德上的责任”；他说，Coursera是他在这方面作出的贡献。此外，人工智能技术在教育方面有很大的发展潜力。根据每一个学生的情况各自调整课程，从而实现最轻松最高效的学习方法“适应性学习（AdaptiveLearning）”多年前就应该出现了。但新的机器学习技术可能最终有望帮助实现这一目标。
吴恩达说，适应性学习对大量学生使用同一材料进行学习的情况最有效，因为这样可以收集到大量的数据。在这方面的创业公司有Geekie、Knewton、SmartSparrow和DreamBox等，教育行业的巨头也对此很有兴趣：2013年McGraw-Hill买下了适应性学习系统ALEKS；Pearson最近宣布扩大了与Knewton的合作关系。
“老系统将不得不得到认真的修改”，美国西北大学的JoelMokyr指出，教育系统鼓励专业化，这样学生就能在越来越少的主题上学到越来越多。但随着知识过时的速度越来越快，重要的是要学会再学习（relearn）。Mokyr认为当下的教育像粘土——“塑造它，然后烘烤它，就定型了”。未来，随着越来越多任务变得自动化，人类技能显得最有价值的任务会不断变化。「你必须终生学习——很长时间来显然都是这样」，吴恩达说，“你在大学里学到的东西不足以让你继续前进40年。”
政策政治
对人工智能和自动化的担忧也导致了对更强大的保护人们免受劳动力市场动乱影响的安全网的呼吁。尤其是一些人工智能评论者认为应该建立一套福利系统，让每个人（不管什么情况）都享有保障基本生存的收入（比如说一年1万美元？）类似的想法在工业革命时也由ThomasPaine和JohnStuartMill等一些人提出过。其基本思想是：人们做得更多让自己的收入增加时，这个福利不会减少，这样人们就会愿意去做事。这会让人们能自由决定自己希望做什么，活在失业中接受合适的再培训。很多预言会有终极工作破坏的人都认为可以把这个情况用来保持消费型经济和支持非劳动人口。如果大部分工作都被自动化取代了，我们就将需要一种重新分配财富的可选机制。
与改革教育系统相比，保障基本收入似乎更简单、更有吸引力。这个想法在技术行业内享有广泛支持：创业孵化器YCombinator甚至还支持着加利福尼亚州奥克兰市的一项对该想法的研究。其总裁SamAltman认为基本保障收入可以确保「向未来工作的平稳过渡」。看起来似乎是一个未来乌托邦，但一些怀疑论的观点认为这会导致抑制技术造成的不平等和抱怨，从而让极客能发明无拘束的未来。Altman先生说，根据他的经验，技术人会支持基本收入保障的想法。
但基本收入保障的前提是要有收入，这就将意味着更高的税收。此外因为人们本身的财富水平和各地的消费水平不一样，公平性方面也难以得到保证。而且还有人认为保障基本收入事实上会抑制人们接受再训练，催生一个不愿意劳动（而不是不能劳动）的“懒人”群体；从而加重纳税人的负担。
芬兰和荷兰等富裕国家计划在明年开始有限地试验基本收入政策，而其它较为贫穷的国家显然从没考虑过这样的事。自动化的发展对地缘政治的影响也将逐渐显现。MIT的DavidAutor说，自动化对发展中经济体的影响比对富裕经济体的影响更大，因为发展中经济体有更高比例的体力劳动工作：低工资的工人制造廉价的产品、在客服中心提供廉价的服务、在国内或海做建筑工作……如果自动化使发达国家能在这些方面自给自足，它们对发展中国家提供的产品和服务的需求就越少——发展中国家将失去在这些方面的比较优势，而与此同时，机器人和人工智能的技术和专利也基本上都掌握在发达国家手里。
自动化可能会让发达国家通过全面工业化断掉贫穷国家的发展机会。经济学家常谈论「过早去工业化」；哈佛大学的DaniRodrik指出第一次世界大战前英国的制造业就业人数达到了峰值的45%，而巴西、印度和中国的制造业就业人数比例已经度过了峰值，却还没超过15%。这是因为制造业已经远比过去自动化了。据花旗银行和牛津大学马丁学院的一份报告指出，中国已经取代美国成为了第一大工业自动化市场。然而对于非洲和南美的其它一些新兴经济体而言，自动化却并不是好消息，它们再也无法通过“农田到工厂”的劳动力转移模式来推动经济增长了，它们必须寻找新的增长模式。乔治·梅森大学经济学家TylerCowen说：如果没有制造业的工作构成中产阶层，这些国家的“核心经济结构中将出现非常高的收入不平等。”
5.道德：弗兰肯斯坦的回形针
技术专家不相信人工智能会失去控制，但还是会有道德上的忧虑
随着《末日侵袭》这部电影情节的发展，它看起来也没有那么可怕。所谓的“回形针最多化”（paperclipmaximiser）是牛津大学哲学家NickBostrom提出的一个思维实验。这个实验假设一个人工智能能够希望能收集尽可能多的回形针。它会想尽一切办法来收集回形针，并且会通过自我升级来找到收集回形针的新方法，它还会反抗一切阻止它做这件事情的企图。最后它“把整个地球和一部分宇宙空间都变成了一个回形针制造工厂”。这种明显非常愚蠢的试图想表达一个非常严肃的观点：人工智能不需要人类一样的行为和心理动机。它们可能不会出现人类常会犯的错误和偏差，但是会犯别的错误，例如执着于回形针。它们的目标已开始可能看起来是无害的，但如果人工智能能够自我复制并升级自己的性能就会非常危险了。即使是一个运行在一台不联网的计算机上的“被束缚的超级人工智能”也会竭尽全力地劝说它的主人让他获得自由。先进的人工智能不仅仅是一门新技术，而是一个对人类的威胁，Bostrom说。
机器能够自己独立运行并不是一个新鲜想法，英国作家玛丽·雪莱在1818年就在她的小说《弗兰肯斯坦》中提出过这个想法。但直到1965年，人们才提出这种能够不断自我升级的人工智能概念。但最近人们在人工智能方面取得的进展又引起了新的担忧，Bostrom就是一个人工智能威胁论的知名倡导者，他更喜欢把人工智能叫做「超级智能」，这也是他的新书的书名。一些人工智能研究者给出了几个理由来证明为什么人们没必要恐惧人工智能，最起码是在当前阶段。第一，吴恩达曾说过智能和感性能力以及意识是不同的。在IBM的人工智能道德小组工作的FarancescaRossi也说过，人工智能「总有一天会觉醒并获得自己的思想」的想法并不现实。第二，所谓的“智能爆发”也是不可能出现的，因为这需要一个人工智能在比它的前一个版本的智能升级更短的时间内升级出新的版本。但是大多数计算问题，即使是比人工智能简单得多的，在规模化的的时候也需要花很长的时间。
第三，即使机器能够从经验和环境中学习，它们也不会总在学习。例如一辆自动驾驶汽车并不是在每次驾驶的时候都在进行训练。相反地，深度学习系统在神经网络中建立一个执行特定任务的计算模型也需要花上好几天时间。这个模型可以被应用到一个执行机器中，例如汽车、无人机、app或者其他的地方。但是这些汽车和无人机并不能在实际工作时学习，相反地，他们在实际工作中得到的数据会被传回后方来改进模型，然后模型又会被再次应用。因此一个单一的系统不会在环境中学到“坏行为”，因为它在环境中并没有学习。
6.结论：机械问题的答案
人工智能未来一瞥
之前看起来非常紧要的、亟待解决的原始的机器问题，最终将自我解决。尽管DavidRicardo以及其他人都表达过“机器取代人类劳力可能致使人口冗余”这样的恐惧，机械化的总体影响将会是创造史无前例规模的职位。机器让个人工作者能生产更多产品，降低大量商品的价格，扩大需求并且将需要更多工人。全新的工作职位将被创造出来，对机器进行监督。随着公司变得更大，他们将会需要更多经理、会计和其他职位。而且随着铁路、电信、电气的到来，全新的、前所未有的、我们难以想象的产业将会涌现。
诚然，所有这些都将花费一段时间。当一些工作消失的时候，工业化会造成普遍的劳力市场聚变，其他改变难以知晓，而全新的职位将会出现。工厂内的情况曾经非常糟糕，从显著的工人收入变化上反映出经济的增长需要几十年的时间，这种现象也就是我们所熟知的“恩格斯停顿”。
在人工智能发展缓慢而备受挫折的数年之后，现在很多人却认为它前进过快，这是一件非常讽刺的事。然而，一份冷静的评估表明我们应该欢迎人工智能，而不是害怕人工智能。在19世纪40年代，JohnStuartMill写道，“将来我们会看到，机械发明对劳工的最终好处是毋庸置疑的。”未来可能会有一位经济学家同样如此描述人工智能的好处，并不只是对劳工而言，而是对每一个人而言。
人工智能是否会超越人类
导语：随着人工智能的飞速发展，很多人都在担忧人工智能是否会超越人类、甚至毁灭人类，比如像特斯拉的CEO埃隆.马斯克认为也许只有人看到人工智能在街上杀人的时候，才会意识到这个问题的严重性。很多人对这个问题都有自己的答案，但是他们的答案也许只是因为他们的直觉，而真正的原因恐怕连他们自己也不清楚，比如有的人可能会说因为自己觉得未来人工智能会有自主学习的能力，所以人工智能会超越人类，而另一类人也许会说因为人工智能也是由人制造的，所以不会超越人类。一般人这么思考问题也许不能算错，但是作为一名IT人，必须学会用工程的思维来思考问题，而不是靠自己的直觉，本篇文章就带大家了解一下吴军老师是如何用工程的思维论证这个问题的：
图灵机是什么？图灵博士被认为是神一样的人。在20世纪，全世界智力水平可以和爱因斯坦平起平坐的人恐怕只有图灵和冯.诺依曼两个人了（而后者被认为的智力甚至超越了爱因斯坦）。在上个实际30年代中期，图灵在思考三个问题：
1.世界上是否所有的数学问题都有明确的答案？
2.如果有明确答案，是否可以通过有限步骤的计算得到答案？
3.对于那些有可能在有限步骤计算出来的数学问题，能否有一种假想的机械，让它不断运动，最后当机械停下来的时候，那个数学问题就解决了？
图灵思考问题的这个方法后人称之为图灵机，是一个数学模型。今天所有的计算机，包括全世界正在设计的计算机，从解决问题的能力来讲，都没有超出图灵机的范畴。
人工智能的边界在哪里？解释完图灵机，我们可以回到最初的问题了，人工智能的边界在哪里？其实给出图灵思考问题的答案就可以得到结论了：
世界上有很多问题，其中只有一小部分是数学问题
在数学问题中，只有一小部分是有解的
在有解的问题中，只有一小部分是理想状态的图灵机可以解决的
在后一类问题中，又只有一部分是今天实际的计算机可以解决的
而人工智能可以解决的问题，又只是计算机可以解决问题的一部分
吴军老师把这个问题画成了一张图：
至此，我们应该可以得到问题的答案了：人工智能所能解决的问题只是世界上的很小一部分。对于人工智能来讲，个人觉得现在世界没有解决的问题太多，无论是人还是机器（其实是背后编写程序的人），都应该想办法解决各种问题，而不是杞人忧天，担心人工智能这个工具太强大。
版权所有：【得到】APP订阅专栏：吴军的谷歌方法论