深度丨为什么变革性人工智能很难实现
0分享至撰文：《经济学人》记者ArjunRamani；谷歌DeepMind研究工程师ZhengdongWang来源：TheGradient人类在创新方面有着不错的成绩。农业机械化、蒸汽机、电力、现代医学、计算机和互联网，这些技术从根本上改变了世界。尽管如此，世界前沿经济体人均GDP的趋势增长率从未超过每年百分之三。当然，增长加速是可能的。[1]在增长开始之前会有那么一段时间，或者至少是在增长远接近于零的时候。但过去改变游戏规则的技术尚未突破百分之三的门槛的事实给了我们一个基线。只有强有力的证据才能让我们期待一些截然不同的东西。然而，许多人乐观地认为人工智能可以胜任这项工作。他们说，人工智能与之前的技术不同，因为它通常能够执行比以前技术更广泛的任务，包括创新过程本身。一些人认为它可能导致“一切事物的摩尔定律”，甚至是与疫情和核战争一样的风险。SamAltman说，OpenAI将通过首先发明通用人工智能，然后询问它如何赚钱来实现盈利，这让投资者感到震惊。四年前，DemisHassabis在英国皇家科学院描述了DeepMind的使命，分两步进行：“1.解决智能问题。2.用它来解决其他一切。”这种操作顺序具有强大的吸引力。人工智能是否应该与历史上其他伟大的发明区分开来？它是否会像伟大的学者约翰-冯-诺伊曼和I.J.古德推测的那样，有一天会自我完善，引发智力爆炸，并导致经济增长的奇点？本文和经济增长文献都没有排除这种可能性。相反，我们的目的只是为了降低您的期望。我们认为人工智能可以像互联网那样具有“变革性”，提高生产力并改变习惯。但是，在实现一些人所预测的加速增长的道路上有许多令人生畏的障碍。在这篇文章中，我们汇集了我们遇到的最好的论据，说明为什么变革性人工智能难以实现。为了避免拉长文章，我们不会深入重申他们的论点。我们不是第一个提出这些观点的人。我们的贡献是把别人首先提出的一套经过充分研究的、多学科的观点整理成一个综合案例。以下是我们论点的一个简要概述：人工智能的变革潜力受制于其最难解决的问题尽管在一些人工智能子领域取得了快速进展，但主要的技术障碍仍然存在即使人工智能的技术进步继续下去，社会和经济障碍可能会限制其影响1.人工智能的变革潜力受制于其最难解决的问题变革性人工智能的愿景始于一个在所有具有经济价值的任务上与人类一样好或更好的系统。哈佛大学卡尔人权政策中心的一篇评论指出，许多顶级人工智能实验室都提出了这个明确目标。然而，衡量人工智能在一组预定任务上的表现是有风险的——如果现实世界的影响需要执行我们甚至不知道的任务怎么办？因此，我们以其观察到的经济影响来定义变革性人工智能。生产力的增长几乎明确地体现了新技术何时有效地执行有用的工作。有一天，强大的人工智能可以执行所有富有成效的认知和体力劳动。如果创新过程本身能够实现自动化，一些经济增长模型预测，人均GDP增长不仅会突破每年3%，还会加速。这样的世界是很难实现的。正如经济学家WilliamBaumol在20世纪60年代首次指出的那样，不平衡的生产力增长可能会受到最薄弱部门的制约。为了说明这一点，请考虑一个包含两个领域的简单经济：撰写思想文章和建造建筑物。想象一下，人工智能加快了写作，但没有加快建筑。生产力提高了，经济就增长了。然而，一篇思想文章并不能很好地替代一栋新建筑。因此，如果经济仍然需要人工智能不能改善的东西，如建筑，这些领域就会变得相对更有价值，并吃掉写作的收益。写作速度的100倍提升可能只会导致经济规模的2倍提升[2]。这个例子与过去几十年来生产力增长的广泛模式并没有什么不同。EricHelland和亚历克斯-塔巴罗克AlexTabarrok在他们的WhyArethePricesSoDamnHigh?一书中引用了Baumol的观点，解释技术如何提高制造业和农业等部门的生产率，降低电视和食品等产出的相对价格，并提高平均工资。然而，电视和食品并不能很好地替代医疗保健和教育等劳动密集型服务。这些服务仍然很重要，就像建造建筑物一样，但事实证明很难提高其效率。因此，它们的相对价格已经增长，占据了我们收入的更大份额，并拖累了经济增长。Acemoglu、Autor和Patterson使用美国历史经济数据证实，各领域的不均衡创新确实减缓了总的生产率增长。鲍莫尔效应；美国企业研究所(2022)
Aghion、Jones和Jones解释说，创意本身有一些容易受到瓶颈影响的步骤。[4]大多数任务的自动化与所有任务的自动化对增长的影响截然不同：......经济增长可能不会受制于我们做得好的地方，而会受制于那些必不可少但却难以改进的地方。当应用于人工智能自动生产创意的模型时，这些考虑同样可以阻止爆炸性增长。考虑一个两步的创新过程，包括总结arXiv上的论文和将液体移入试管。每一步都取决于另一步。即使人工智能实现了论文总结的自动化，人类仍然需要自己实验来写下一篇论文。（在现实世界中，我们还需要等待IRB批准我们的拨款）。在“如果我们能够实现发明自动化会怎样”一文中，MattClancy提供了最后一剂直观的信息：发明已开始类似于一个课堂项目，每个学生负责项目的不同部分，在每个人都完成之前，老师不会让任何人离开……如果我们不能把所有的事情都自动化，那么结果就会很不同。我们不会仅仅以较慢的速度得到加速--我们根本就没有加速。我们的观点是，瓶颈的概念--从60年代的鲍莫尔到今天的MattClancy--值得更多的报道。[5]这清楚地表明了为什么人工智能进步的障碍在一起时比单独时更严重。人工智能必须改变所有重要的经济部门和创新过程的步骤，而不仅仅是其中的一部分。否则，我们应该将人工智能视为类似于过去的发明的可能性就会增加。也许论述中缺乏对生产和创新中难以改进的步骤的具体说明。但幸运的是，这方面有许多例子。2.尽管在一些人工智能子领域取得了快速进展，但主要的技术障碍仍然存在精细运动控制方面的进展大大落后于神经语言模型的进展。当“在几个隔间之外，生成模型的进展感觉在质量上更令人印象深刻”时，机器人研讨会正在思考应对方法。Moravec的悖论和StevenPinker在1994年的观察仍然适用：“三十五年来人工智能研究的主要教训是，困难的问题是容易的，而容易的问题是困难的”。最难的“容易”问题，如系鞋带，仍然存在。机器人技术的突破会紧随生成建模的突破吗？OpenAI解散其机器人团队并不是一个强烈的信号。在我们看来，如果在操纵物理世界方面没有取得进展，那么经济增长就不可能大幅加速。目前的许多经济瓶颈，从住房和医疗保健到制造和运输，都有相当大的物理世界成分。与变革性人工智能相关的开放性研究问题清单仍在拉长。学习因果模型就是其中之一。Ortega等人展示了一个简单的案例，其中采取行动的序列模型会在没有获得因果模型的情况下出现错觉。MurrayShanahan认为认知和拥有身体是不可分割的：认知的存在是为了身体的生存和发展，在身体的感觉运动循环中不断调整，并且认知本身建立在身体的物理承受力上。看着球场上的勒布朗-詹姆斯，我们倾向于同意这一点。FrançoisChollet认为效率是核心，因为“无限的先验或经验可以产生几乎没有泛化能力的系统”。此外，Cremer和Whittlestone列出了更多技术专家没有达成一致的问题。更多的资源并不能保证会有所帮助。AriAllyn-Feuer和TedSanders在“到2043年变革性AGI的可能性