人工智能革命：人类会永生还是灭亡（中）
人工智能革命：人类会永生还是灭亡（中）Travis发布于2019-06-2619:01/734人阅读摘要：对年奇点的描述是由生物技术，纳米技术以及最强大的人工智能领域同时发生的三场革命引起的。如果人类是巨大的巨人，头部可以达到国际空间站，它们将比现在大万倍。
为什么未来会是我们最大的希望当我了解人工智能的世界时，我发现有很多人站在这里：
在自信角落里面的人们兴奋地嗡嗡作响。他们把目光投向了平衡木的乐趣的一面，他们确信这就是我们所有人的目标。对他们来说，未来就是他们所希望的一切。
这些人与我们后面讨论的其他思想家的不同之处在于，并不是他们对幸福生活的欲望，而是他们相信这就是我们未来生活的方向。
这种信心从何而来还有待商榷。批评人士认为，它来自于一种令人眼花缭乱的兴奋，以至于他们忽略或否认潜在的负面结果。但是相信这一观点的人表示，如果设想世界末日的情景是天真的，那么技术在接下来肯定会帮助我们，而不是伤害我们。
NickBostrom描述了超级人工智能系统的三种功能:
作为一个回答者，几乎可以准确回答任何问题，包括人类无法轻易回答的复杂问题-即如何制造更高效的汽车发动机？谷歌就是一种原始的回答者。
作为一个执行者，执行给出的任何高级指令-使用一个分子汇编程序来构建一种新的、更高效的汽车引擎-然后等待它的下一个命令。
作为一个自由者，它被赋予了广泛而开放的追求并被允许在世界上自由运作，自己决定如何最好地选择-发明一种比人类汽车更快，更便宜，更安全的方式供人类自己出行使用。
这些问题和任务对我们来说似乎很复杂，听但是对一个超级智能系统来说就像有人要求你解决“我的铅笔从桌子上掉下来”的问题，你可以轻松的将铅笔从地上捡起来。
在自信角落里有很多热切的科学家，发明家和企业家-但是为了参观人工智能中最光明的一面，我们需要一个人作为我们的导游。
RayKurzweil是非常两极分化的。在我的阅读中，我听到了一切，从神的崇拜、他的想法以及鄙视的事务。其他人在作家DouglasHofstadter的某书中讨论Kurzweil的想法时，雄辩地提出“就好像你吃了很多非常好的食物和一些狗屎并将它们混合起来这样你就不能分辨出来什么是好什么是坏“
无论你是否喜欢他的想法，大家都任务Kurzweil的观点令人印象深刻。他在青少年时期发明东西，在接下来的几十年里，他想出了几项突破性的发明，包括第一台平板扫描仪，第一台将文本转换为语音的扫描仪（允许盲人阅读标准文本），著名的Kurzweil音乐合成器（第一个真正的电子琴），以及第一个商业营销词汇量语音识别。他是五本全国畅销书的作者。他以其大胆的预测而闻名，并且在实现这些预测方面有这良好的记录-包括他在80年代后期的预测，当时互联网是一个不起眼的东西，到21世纪初，它才成为一种全球现象。Kurzweil被华尔街日报称为“永不停歇的天才”，被福布斯称为“终极思考机器”，被Inc杂志称为“爱迪生的合法继承人”，以及比尔盖茨口中的“我所知道的预测人工智能未来的最佳人选”。2012年，谷歌联合创始人LarryPage找到了Kurzweil并要求他担任谷歌工程总监。2011年，他与人共同创办了奇点大学，由NASA主办，谷歌赞助，对于一个人来说这样的一生还不错。
他的这本传记很重要。当Kurzweil阐述他对未来的看法时，他听起来完全像个疯子，而疯狂的是，他不是一个疯子-他是一个非常聪明，知识渊博，与世界息息相关的人。你可能认为他对未来的看法不对，但他并不傻。知道他是一个正人君子让我很开心，因为当我了解到他对未来的预测时，我非常希望他是对的。你也一样。当你听到Kurzweil的预测时，很多在自信角落里面思考的如PeterDiamandis和BenGoertzel这样的人都会赞同他的观点，不难看出为什么他有如此多的，热情的追随者-这些追随者被称为奇点主义者。
以下是他认为会发生的事情：
时间线Kurzweil认为计算机将在2029年达到AGI，到2045年，我们不仅会有ASI，而且还会拥有一个全新的世界-他称之为奇点。他的人工智能相关时间表在过去被认为过分狂热，但现在被大多数人认为就应该这样，但在过去的15年，ANI系统的快速发展让更大范围内的人工智能更接近Kurzweil的时间表。他的预测仍然比穆勒和博斯特罗姆调查的中位数受访者（2040年拥有AGI，2060年拥有ASI）更加雄心勃勃，但是并没有那么多。
Kurzweil对2045年奇点的描述是由生物技术，纳米技术以及最强大的人工智能领域同时发生的三场革命引起的。
在我们继续前进之前，纳米技术几乎出现在你所读到的有关人工智能未来的所有内容中，所以我们接下来进入纳米技术的部分，对它进行一些讨论
纳米技术纳米技术指的是处理涉及操纵尺寸在1到100纳米之间的物质。纳米是米的十亿分之一，或毫米的百万分之一，DNA（10纳米宽），DNA（10纳米宽），以及像血红蛋白（5纳米）这样的大分子和中等分子如葡萄糖（1nm）。如果/当我们征服纳米技术时，下一步将是操纵单个原子的能力，这些原子将比纳米小一个数量级（~1nm）
为了理解人类试图操纵该范围内的物质所面临的挑战，让我们在更大范围内采取相同的措施。国际空间站距离地球268英里（431公里）。如果人类是巨大的巨人，头部可以达到国际空间站，它们将比现在大25万倍。如果你将1nm-100nm纳米技术范围扩大250，000倍，你会得到0。25毫米--2。5厘米。因此，纳米技术相当于一个像国际空间站一样高大的人类巨人，如何使用一粒沙粒和一个眼球之间的材料仔细地建造复杂的物体。为了达到下一级操纵单个原子-巨人必须仔细定位1/40毫米的物体-如此小的物体需要正常尺寸的人用显微镜才能看到它们。
RichardFeynman在1959年的一次谈话中首次讨论了纳米技术，他解释说：“就我所见，物理学原理并不反对以原子为单位操纵物质的可能性。原则上，物理学家合成化学家写下的任何化学物质都是可能的。“就这么简单。如果你能弄清楚如何移动单个分子或原子，你可以做任何事情。
纳米技术于1986年首次成为一个严肃的领域，当时工程师EricDrexler在他的开创性著作《EnginesofCreation》中提供了基础，但EricDrexler建议那些希望了解纳米技术最现代想法的人，最好读一读他2013年的著作《RadicalAbundance》
灰色粘性
我们现在讨论一下有趣的灰色粘性。
无论如何，我把你们带到了这里，是因为我需要告诉你关于纳米技术传说中的不可思议的部分。在纳米技术理论的旧版本中，提出的纳米组装方法涉及创建数万亿个微小的纳米机器人，这些微型纳米机器人可以协同工作来构建某种东西。创造数万亿纳米机器人的一种方法是制造一个可以自我复制的纳米机器人，然后让复制过程将一个变为两个，然后将这两个变成四个，四个变成八个，并且在大约一天内，就会有他们准备好了几万亿。这是指数增长的力量。非常聪明，对吗？
这是很聪明的，直到它导致了宏大的完整的地球范围内的大灾难意外。问题在于，指数增长的能力使得快速创建万亿纳米机器人变得非常方便，这也使得自我复制成为一个可怕的前景。因为如果系统出现故障，当总数达成预期的数量时，并没有启动停止程序，那么它们只会继续复制。纳米机器人将被设计为消耗任何碳基材料以供给复制过程，并且令人不快地，所有生命都是基于碳基的。地球的生物量含有约1045个碳原子。纳米机器人将由约106个碳原子组成，因此1039个碳原子纳米机器人将消耗地球上的所有生命，这将在130次重复中发生（2130次约为1039次），因为大量的纳米机器人在地球上滚动。科学家认为纳米机器人可以在大约100秒内复制，这意味着这个简单的错误会在3。5小时内简单地终止地球上的所有生命。
更糟糕的情况-如果一个恐怖分子以某种方式获得了纳米机器人的技术并拥有编程技术，他可以制作最初的几万亿，然后安排他们悄悄地花几周时间在全世界范围内均匀地传播。然后，他们一下子全部开工，只需要90分钟就可以消耗所有东西-而且随着它们全部散开，我们将没有办法打击它们。
虽然这个恐怖故事一直被广泛讨论，但好消息是它可能被夸大了-创造了“灰色粘性”一词的EricDrexler在这篇帖子后给我发了一封电子邮件，上面写着他对灰色粘性剧情的看法：人们喜欢恐怖故事，而这个想法就是一个来自大脑的恐怖故事。
一旦我们真正得到纳米技术，我们可以用它来制造技术设备，服装，食品，各种生物相关产品-人造血细胞，微型病毒或癌细胞破坏者，肌肉组织等等-任何存在的的东西。在一个使用纳米技术的世界中，材料的成本不再与其稀缺性或制造工艺的难度联系在一起，而是由其原子结构的复杂程度决定。在纳米技术领域，钻石可能比铅笔橡皮擦便宜。
我们还没有到那一步。目前尚不清楚我们是否低估或过高估计到达这一目标会有多困难。但我们似乎距离目标并没有那么遥远。Kurzweil预测，到2020年我们将实现这一目标。各国政府都知道纳米技术可能是一个惊天动地的发展，他们已投入数十亿美元用于纳米技术研究（迄今为止，美国，欧盟和日本已投资超过50亿美元）。
仅仅考虑到超级智能计算机可以访问强大的纳米级汇编程序的可能性很大，就已经很让人紧张了。但纳米技术是我们提出来的，我们正处于获得这项技术的边缘，而且由于我们所能做的任何事情都是对ASI系统的一个笑话，我们必须假设ASI会提出更强大的技术。我们的大脑要这么去理解。出于这个原因，当考虑“如果人工智能革命对我们来说是好是坏的”情景时，我们几乎不可能高估可能发生的范围-所以如果以下对ASI未来的预测看起来言过其实的话，请记住，他们可以用我们无法想象的方式完成。而且最有可能的是，我们的大脑无法预测将会发生的事情。
人工智能可以为我们做什么拥有了超级智能和所有的技术，超级智能将明白如何创建ASI，并解决人类的每一个问题。全球暖化？ASI首先提出更好的方法来生产与化石燃料无关的能源，从而阻止二氧化碳的排放。然后，它可以创建一些方法开始移除大气中多余的二氧化碳。癌症和其他疾病？ASI来说没有任何问题会发生超乎想象的革命性变化。世界饥饿？ASI可以使用纳米技术等技术从无到有的制造出分子与真正的肉完全相同结构的东西，换句话说他们就是真正的肉。纳米技术还可以将一堆垃圾编程一个巨大的桶，里面装满了新鲜的肉类或其他食物（这些食物不需要有正常的形状-比如一个巨大的立方体苹果）-并使用超先进的运输方式将所有这些食物分配到世界各地。当然，对于不再需要被人类杀死的动物来说，这也是非常好的，ASI可以做很多其他事情来拯救濒临灭绝的物种，甚至通过保存DNA的工作来拯救灭绝的物种。ASI甚至可以解决我们最复杂的宏观问题-我们关于如何运行经济以及如何最好地促进世界贸易的辩论，甚至是我们在哲学或道德方面最模糊的争论-对于ASI来说都是非常明显的。
但有一件事，我认为它对他们是那么的诱人，我所认知的一切都被它给改变了：
ASI可以让我们战胜死亡率。几个月前，我提到了我对更先进的潜在文明的季度，他们已经战胜了自己的死亡，但我从未考虑过我后来会写了一篇文章，真正的让我相信这是人类在我的有生之年中可以做的事情的帖子。但阅读人工智能的有关书籍会让你重新考虑你认为确定的一切-包括你对死亡的概念。
进化没有充分理由来延长我们的寿命，使我们的寿命比现在更长。如果我们活得足够长，可以繁殖并照顾我们的孩子到一个他们可以照顾自己的年龄，从进化的角度来看这就足够了-从进化的角度来看，这个物种可以茁壮成长到30多年的寿命，因此在自然选择过程中没有理由会受到青睐突变异常寿命。因此，我们就像WBYeats所描述的那样，“一个与濒死动物紧密相连的灵魂。”没那么有趣。
因为每个人都会死，我们生活在“死亡与税收”的假设之下，死亡是不可避免的。我们认为老化就像时间一样-都在不断的向前运动，你无力阻止它们。但这种假设是错误的。RichardFeynman写道：
在所有的生物科学中，没有关于死亡必然性的线索，这是最值得注意的事情之一。如果你说我们想做永动机，但我们在学习物理的过程中已经发现了足够多的定律，这些定律要么是不可能的，要么是错的。但是生物学中没有任何证据可以表明了死亡的必然性。这对我来说，这根本不是不可避免的，生物学家发现导致我们麻烦是什么只是一个时间问题，人类身体上的这张可怕的疾病或着是暂时性的疾病将会被治愈。
事实上，衰老并不是一成不变的。时间将继续前进，但衰老并不一定会继续。仔细想想，这是有道理的。所有的老化都是身体物质的磨损。随着时间的推移汽车也会磨损-但它的老化是不可避免的吗？如果汽车其中一个零件开始磨损但是如果你能完美的修理或更换汽车的零件那么汽车将永远运行下去。人体没有任何不同-只是复杂得多。
Kurzweil谈到了血液中智能wifi连接的纳米机器人，他们可以为人类健康执行无数任务，包括定期修复或更换身体任何部位的磨损细胞。如果完善，这个过程（或ASI会提出更智能的一个过程）不仅可以保持身体健康，还可以逆转衰老。一个60岁的身体和一个30岁的身体之间的区别只是一堆物理的东西，如果我们有这项技术可以改变这些东西。ASI可以建立一个60岁的老人可以走进去的“年龄清洗剂，他们会带着30岁的身体和皮肤走出来。即使是那些迷迷糊糊的大脑也可以被ASI这样智能的设备所刷新来回复活力，ASI会在不影响大脑数据（个性，记忆等）的情况下弄清楚如何做到这一点。患有老年痴呆症的90岁患者可能会进入返老还童阶段，并且能够以全新的姿态出现，准备开始一段全新的生涯。这看起来很荒谬-但身体只是一堆原子，ASI可能很容易操纵各种原子结构-所以这并不荒谬。
Kurzweil将事情向前推进了一大步。他认为，随着时间的推移，人造材料将越来越多地融入身体。首先，器官可以被超级先进的机器版本取代，这些机器版本将永远运行并且永不失败。然后他认为我们可以开始重新设计身体，例如用完善的红细胞纳米机器人替换红血细胞，这些机器人可以为自己的运动提供动力，根本不需要心脏。他甚至可以进入大脑增强我们的大脑活动，使人类能够比现在更快地思考数能力的十亿倍并访问外部信息，因为大脑的人工智能可以添加云中的所有信息。
人类新体验的可能性将是无穷无尽的。人类将性与其目的分开，允许人们为了乐趣而进行性行为，而不仅仅是为了繁衍后代。Kurzweil相信我们能够对食物做同样的事情。纳米机器人将负责为身体细胞提供完美的营养，智能地指导任何不健康的事物通过身体而不会影响任何事物。就好像一个万能的避孕套。纳米技术理论家RobertA。Freitas已经设计了一种血细胞替代品，如果有一天在体内实施，将允许人类在不呼吸的情况下冲刺15分钟-所以你只能想象ASI可以为我们的身体能力做些什么。虚拟现实将呈现一种新的意义-体内的纳米机器人可以抑制来自我们感官的输入，并用信号取代它们，让我们完全进入一个新的环境，一个我们可以看到，听到，感觉到和闻到的新环境。
Kurzweil认为，人类最终能够达到完全人工的程度;当我们看到生物材料的时候，我们回想到人类曾经是多么原始，多么的难以置信;当我们读到人类历史的早期阶段时，微生物或事故或疾病或人体磨损可能会违背自己的意愿杀死人类;人工智能革命可能随着人类和人工智能的融合来结束。这就是Kurzweil认为人类将最终征服我们的生物学并变得坚不可摧和永恒的方式-这是他对平衡木另一侧的愿景。而且他确信我们很快就可以成功的。
当你发现Kurzweil的想法引起了很多批评时，你不会感到惊讶。他对2045年的奇点以及其后人类达到永生的可能性预测被嘲笑为“书呆子的狂喜”或“140智商的智能设计”。其他人质疑他乐观的时间表，或者他对大脑和身体的理解，或他对Moore’slaw定律模式的应用，Moore’slaw定律模式通常应用于硬件的进步，包括软件在内的广泛的事物。对于每一位狂热相信Kurzweil正确的专家来说，可能有三个人认为他错了。
但令我惊讶的是，大多数不同意他的专家并不是真正的反对他所说的一切都是可能的。读到如此一个对未来的古怪愿景，我原以为他的批评者会说，“显然，这些事情是不会发生的”，但他们说的话，“是的，如果我们安全地过渡到ASI，所有的这一切都会发生，但这是最难的部分。“Bostrom是警告我们人工智能危险的最突出的声音之一，但他仍然承认：
很难想象一个超级智能无法解决或至少不能帮助我们解决任何问题。疾病，贫困，环境破坏，各种不必要的痛苦：这些是配备先进纳米技术的超级智能能够消除的东西。此外，超级智能可以通过使用纳米医学来阻止和逆转衰老过程，或者为我们提供上传自己的选项，从而为我们提供无限期的生命。超级智能也可以为我们创造机会，大大增加我们自己的智力和情感能力，它可以帮助我们创造一个极具吸引力的体验世界，在这个世界中，我们可以过着充满快乐的游戏生活，彼此相关，体验，个人成长，更贴近我们的理想。
这是一个焦虑角落的人的说的一句话，但这就是我一直遇到的-专家们嘲笑Kurzweil有很多原因，但他们并不认为他所说的是不可能的，如果我们能够安全的到达ASI。这就是为什么我发现Kurzweil的想法如此具有感染力的原因-因为他阐述了这个故事光明的一面，也因为实际上他们是可能的，如果这是一个好神的话。
我听到有关自信角落的思想家的最著名的批评是，他们在评估ASI的不利方面可能是危险的错误。Kurzweil著名的书“TheSingularityisNear”长达700多页，他将这些页面中的大约20页用于潜在的危险。我之前说过，当这种巨大的新力量诞生时，我们的命运取决于谁将控制这种力量以及他们的动机将是什么。Kurzweil巧妙地用一句话回答了这两个问题，“ASI正在从许多不同的努力中产生，并将深深融入我们文明的基础设施中。实际上，它将深入地嵌入我们的身体和大脑中。因此，它将反映我们的价值观，因为它就是我们自己。“
但如果这就是答案，为什么这么多世界上最聪明的人现在如此担心呢？StephenHawking为什么说ASI的发展“可能意味着人类的终结”，BillGates说他不“理解为什么有些人不关心”，而ElonMusk则害怕我们“召唤恶魔”？那么为什么这么多专家就这个话题称ASI是对人类是最大的威胁？这些人，以及焦虑道路上的其他思想家，并没有相信Kurzwei对人工智能危险的拒绝。他们非常非常担心人工智能革命，他们并没有专注于平衡木的乐趣一面。他们太忙于盯着另一边，他们看到了一个可怕的未来，一个不确定我们能否逃脱的未来。
针对于未来人工智能对人类的好的一面就先到这里，系列文章的下篇将描述为什么人工智能在未来可能会是我们的噩梦，探讨了人工智能可能对人类的不好的一面，欢迎大家到时候继续观看。
AI在线服务UAIInferenceAI训练服务UAITrain人工智能永生工业革命人工智能人工智能人类人工智能超过人类文章版权归作者所有，未经允许请勿转载,若此文章存在违规行为，您可以联系管理员删除。
转载请注明本文地址：https://www.ucloud.cn/yun/20070.html
上一篇：人工智能革命:人类会永生还是灭亡（下）下一篇：80万年薪招聘AI人才，仍然供不应求！AI到底是啥？一张神图秒懂人工智能革命――人类的永生或灭绝（6）
[美]蒂姆•厄本作黄菁编译
我们面对的可能是一个不知何时才能解决的、极端困难的问题。而人类的整个未来，都将取决于这个问题会如何解决。
――尼克•博斯特罗姆（NickBostrom）
欢迎来到这个让人脑袋里满是：“等等，这怎么可能！”“我简直不明白我读了些啥！”“为什么人们都不聊这个”的混乱帖子的第二部分。
在帖子的第一部分，我们讨论了窄域人工智能，或称ANI（专注于某一狭窄领域的人工智能，比如开车或下棋）；今日世界，ANI已无处不在。接着考察了为何从ANI到宽域人工智能（或称AGI，一台在任何方面都至少和人类一样聪明的计算机）如此之难。然后，我们讨论了为何技术在过去的指数级增长暗示着我们，AGI的实现，可能并不像看上去那么遥远。在第一部分的结尾我提到，一旦机器达到人类级别的智能水平，它们很可能会立马甩下我们，绝尘而去：
这会让我们盯着屏幕，面对着超级人工智能（或称ASI，在任何方面都比任何人类聪明的人工智能）这个极具冲击力的概念，设想着假如ASI在我们有生之年实现，我们该摆出怎样的表情。
在深入探讨之前，让我们回顾一下，机器成为超级人工智能到底是什么意思。
其中一个关键，是搞清楚“超级智能”究竟指“速度”超级还是“品质”超级。通常，当人们想象一台超级聪明的计算机时，他们的第一个念头是：这台计算机和人类一样聪明，但是运算速度却要快很多很多――他们会想象这台计算机和人类的思考方式相同，只不过运算速度是人类的100万倍，人类花上10年才能弄明白的事情，它只用5分钟就能搞定。
听起来令人印象深刻，而且ASI确实比任何人的思考速度都快得多――但真正将它与人脑区分开来的，是它在智能品质上的优势，它，是一种与人脑完全不同的智能。人类比黑猩猩聪明很多的原因，不在于思考速度的差异――而在于人脑拥有大量黑猩猩大脑所不具备的复杂认知模块，足以支持复杂的语言表达、长期规划或抽象推理。即使把黑猩猩的大脑加速几千倍，也无法令它的智能达到人类水平――就算花上10年工夫，它也搞不懂怎样用一套定制工具组装出一个复杂模型，而人类几个小时就能完成。人类的认知能力，无论黑猩猩尝试多少次，都是无法达到的。
黑猩猩不仅做不到我们能做的事，更在于，它的大脑压根儿就无法理解人类的世界――一只黑猩猩可以渐渐熟悉什么是人、什么是摩天大楼，但它永远也理解不了摩天大楼是由人类建造出来的。在它的世界里，摩天大楼这样的庞然大物是自然界某一时期的产物，而建造摩天大楼，甚或认识到有人能够建造出摩天大楼，则完全超出它的认知。这就是智能品质上的一点点差异造成的结果。
而不论是在我们今天计划探讨的智能范围里，还是在生物之间差异更小的智能范围里，黑猩猩与人类之间的差距都微不足道。在帖子的第一部分，我使用了一组阶梯来描述生物的认知能力范围：
要理解一台超级智能机器有多厉害，想象一下，在上图比人类高两阶的深绿色台阶上，站着一台机器。这台机器的智能只算“稍稍”有点超级而已，但它与我们之间认知能力的差距，恰似前文提到过的我们与黑猩猩之间的差距。而正如黑猩猩无法理解摩天大楼可以被建造出来，我们也永远无法理解那台站在深绿色台阶上的机器所能做到的事情（就算它曾试着向我们解释），更不要说让我们自己去做那些事了。而它的智能只不过才高出我们两阶而已。上图中站在红色左边台阶上机器的智能与我们相比，将如同把我们的智能跟蚂蚁相比――它也许会花上数年，想教给我们一点最简单的东西，但这一努力终究将徒劳无功。
而我们今天所要考量的超级人工智能，将远超上图阶梯中显示的所有智能水平。在智能爆炸中――机器越聪明，提升自身智能的速度也就越快，直至开始向上猛增――机器也许需要很多年才能从黑猩猩水平向上跃进一个台阶，而一旦它来到上图中的深绿色台阶，也许就只要花上个把小时，便能再跳上一级。当它比我们高出10个台阶的时候，也许一秒之内就能完成四阶连跳。这就是为什么我们得认识到：在一台计算机达到人类级别的宽域人工智能（AGI）水平后，我们恐怕，很快就得面对与甩下我们很多级台阶的超级人工智能（ASI）（见下图）共同生存的局面了（也许它的水平比这还要高出100万倍）：
鉴于我们刚才已经表明，就算一台机器只高出我们两级台阶，我们也没法子搞清楚它的本事。因此，就让我们再明明白白地最后说一次：ASI会做些什么，我们无从知道；ASI会给我们带来什么，我们也无从知道。任何假装知道的人，都还没搞清楚超级智能的真正含义。
动物大脑的逐步发达，经历了长达数亿年的缓慢进化。在这个意义上讲，如果人类制造出ASI机器，无异于戏剧性地践踏（改写）了进化史。但也许，这本就是进化的一部分――也许进化就是：智能在有能力制造出超级智能机器之前，一直缓步提升着；而在那之后，则如同触到地雷火索，将引发一场改变游戏规则的大爆炸，改写所有物种的未来。
科学界大部分人相信：我们是否会触到那根火索并不是问题，问题是触到火索的时间――其原因我们将在下文中讨论。听上去有点疯狂。
那么，现在我们该怎么办？
可惜世界上没有人，尤其不会是我，能告诉你人类在触到火索时会发生什么。但是牛津大学哲学家、思考人工智能的领军人物尼克•博斯特罗姆（NickBostrom）认为：我们可以把所有潜在的结果归结为两大类。
首先，我们能在回顾历史时看到生物的发展轨迹：某物种突然出现，存在一段时间，然后不可避免地，从生存平衡木上跌下，走向灭绝。
“所有物种终将灭绝”，如同“所有人都会死”一样，已近乎历史的可靠规律。迄今为止，已有99.9%的物种跌下了生存平衡木。而且很显然，假如某个物种继续沿着平衡木摇晃向前，迟早有一天，它会因为自然界的一阵风或是小行星对平衡木的意外撞击而跌落，先于其他一些物种灭绝。博斯特罗姆将灭绝称为一种“吸引态”――所有物种都摇摇欲坠，要落入其中，一达此处，再难回头。
虽然我读到过的绝大多数科学家都认可ASI有能力将人类送上灭亡之路，但仍有不少科学家相信，只要运用得宜，ASI就有能力将人类个体、以及所有物种，带往另一个吸引态――物种的永生。博斯特罗姆认为，物种永生和物种灭绝同为吸引态，也就是说，一旦我们到达永生，灭绝即与我们无缘，我们将能够战胜死亡与偶然性。所以，即使到目前为止所有物种都跌下平衡木走向了灭绝，博斯特罗姆仍然相信，平衡木有其两面，只不过地球上还没有东西足够聪明，搞明白该怎样到达永生的一边。
如果博斯特罗姆和其他一些科学家是对的，那么基于我在人工智能领域的全部阅读，我们很有可能得接受以下两种非常震撼的事实：
（1）ASI的出现，将有史以来第一次，使物种落在平衡木的永生一边成为可能。
（2）ASI的出现将产生难以想象的巨大影响，有可能将人类种族撞下平衡木，或灭绝，或永生。
非常有可能的是，一旦进化触及火索，人类便从平衡木上永久跌下。在崭新的世界里，也许会有人类，也许再不会有。
看起来不管是谁，现在唯一想问的问题是：我们什么时候会触到火索？我们会掉到平衡木的哪一边？
世界上没有人能给出上述任一问题的答案。但是很多最聪明的人已经就此思考了几十年。下文中，就让我们一起来看看，他们究竟想出了些什么没有。（待续）
（英文原版地址：TheAIRevolution:RoadtoSuperintelligenceTheAIRevolution:OurImmortalityorExtinction）