伊隆·马斯克反对人工智能的真正原因——人类灭绝
你知道一个“书呆子”在十五年后叫什么吗？~~~~~~~~~~~答案：“老板！“
作者|扛霸君
编辑|深鹿
01很多人都觉得漫威旗下的超级英雄——钢铁侠托尼·史塔克（TonyStark）很炫酷。其实他的原型就是活生生的美国科技大亨伊隆·马斯克（ElonMusk）。
伊隆·马斯克：我漂亮吗？钢铁侠TonyStark：我酷吗？伊隆·马斯克的SpaceX新火箭「猎鹰重型」（FalconHeavy），在今年二月份成功升空。这新闻吸引了世界各地的人的目光。
伊隆·马斯克的最主要的创业公司：电动汽车公司Tesla、全美最大太阳能发电公司SolarCity、太空探索技术公司SpaceX。这几个公司所涉及的科技在现在看起来都有点科幻，甚至连公司的名字都有点科幻……
马斯克所做的事情，总让人感到超前于时代。
当乔布斯在想如何让手机更吸引人时，当比尔盖茨在想方设法让电脑系统操作更便捷时，当马克扎克伯格在费劲脑汁让Facebook吸引更多用户使用社交网络时，马斯克最想解决问题的居然是人类未来几百年后才“可能遇到”的危机……
比如创立SpaceX就是马斯克考虑到环境污染和人口爆炸，未来的地球可能不适合人类居住，所以想用火箭把人类送到传说中的火星居住，而SolarCity就是为火星殖民提供电力。
你以为殖民火星这就完了？那你真是错了。
马斯克还认为人工智能可能会是“人类文明面临的最大风险”，甚至可能会导致人类灭亡。
人工智能：我可不想背这个黑锅。最初，我看到马斯克反对人工智能的言论后，我就觉得，咦，这言论听着怎么这么熟悉的感觉？
后来，AshleeVance在关于马斯克的传记书《ElonMusk:Tesla,SpaceX,AndTheQuestForAFantasticFuture》中写到，马斯克在年轻时时常无法在大脑中区分幻想和现实，并且把人类在宇宙中的命运视为自己的个人义务。他想让世界变得更美好，因为变差对他来说毫无道理可言。
马斯克和常人不一样的地方在于当别人只是把游戏和电影当成娱乐时，他却相信了别人不相信的。他对很多科幻片、电子游戏里剧情深表认同，并且认为人类未来很可能会面临类似的危机。
正所谓，异人必有异象。
这时我意识到，马斯克之所以有那些反对人工智能的言论，或者说限制人工智能发展的言论，很可能是因为他玩过一个科幻游戏《质量效应》（MassEffect），被游戏剧情影响而有了这样的担忧。
所以，我在网上搜了一下关键词，ElonMusk+MassEffect，果真还找到了他在2014年发的推特。还果真是！
马斯克说，《质量效应2》是他最喜欢的游戏之一。
这是笔者对他的推特的评论和转发。
02质量效应系列是2007年开始发售科幻题材动作角色扮演游戏。
游戏的宇宙观非常宏大，可以算是笔者接触过的这么多科幻片和科幻游戏里宇宙观最宏大最深刻的了。而且里面讲解的人工智能危机和宇宙生物物种与人工智能纠葛的循环历史是非常好的设想和预言。
看质量效应之前，我们先看看其他科幻电影中人工智能导致的人类末日。
《终结者》里叛变的人工智能来自于美国军事系统——天网，也没过多介绍为什么叛变，反正就是突然有一天这个人工智能系统突然有了意识，意识到自己正在被人类使用——“奴役”，然后就控制所有网络能触及到的人工智能叛变。
天网系统发射其控制下的美国的所有核弹攻击地球上人类聚居的各个角落，最后造成大部分人类灭亡。但有一小部分人类幸存下来组成反抗军，和人工智能的机器人对抗。
《黑客帝国》的背景设计就要比《终结者》有深度得多，在其前传系列动画的剧情里面人类长期奴役机器人，甚至驱赶和屠杀机器人。一小部分机器人汇集到一个无人区开始建设自己的国家。机器人国发展迅速，比人类各国还先进。
随后机器人国和人类国家爆发全面战争。在使用核弹都无法摧毁机器人国的情况下，人类通过人工制造黑色不透光的云来遮蔽太阳，以图让以太阳能为能源的机器人能源耗竭。
但机器人使用人类战俘的生物电来获取能源，最终战胜了人类。机器人把所有幸存的人类都放进容器里获取生物电，并设计了一个虚拟世界让人们的精神生活在里面从而让现实中的人类存活下来。
要说这《黑客帝国》的背景设定够有哲学深度了吧？但要和《质量效应》的宇宙背景比起来还真差了一大截的。
03那么笔者就带领大家看看，伊隆·马斯克所畏惧的未来人工智能到底是什么样的，是到底有三头六臂，还是能翻江倒海，才能真么令人害怕。
质量效应的故事开始于2148年，人类进入跨星际航行时代，并和银河系里的很多高度发达的外星文明开始交流。
而此时就有一个科技高度发达的外星生物种族奎利被其创造出的人工智能桀斯所打败，并被迫乘坐太空飞船漂泊在太空中流浪。
桀斯的反抗和崛起让银河的生物种族感到了人工智能的潜在威胁，多数人都认为桀斯文明必须被联合压制。
但此时，银河系又面临着一个新威胁——一个异常强大的被称作“收割者”的远古人工智能种族。收割者的行为与银河系里的其他任何文明都不一样，他们的目的好像只是去毁灭所到之处的所有智慧生命，和收集他们的DNA。
收割者在人类还没来得及准备之时即降临地球，人类的通讯设施和防御措施都在一瞬间被收割者的攻击所摧毁。地球乃至整个银河系都被笼罩在绝望和灭亡的阴影之下。
通过线索，人类在银河深处的深海中找到了巨型种族“利维坦”。利维坦在十亿年前就拥有极高的文明，他们发现了一个宇宙轮回现象——大部分智慧生命最终都会创造出有意识的人工智能，并被后者消灭。
看到这里客官应该明白了：未来人类创造出有意识的人工智能，并被其超越并威胁，这正是伊隆·马斯克所畏惧的未来。所以马斯克才会如此反对，或者说呼吁限制人工智能的研究。
不过，质量效应的故事还没完。话说，利维坦怀着拯救众生、我佛慈悲的想法，创造出了一套异常强大的人工智能，然后令其“不惜一切代价永久保存有机生物智慧文明”。
超级人工智能认为有机生物智慧文明面临的最大威胁就是神一样的利维坦、高级文明生物本身以及被其创造出来的人工智能。所以他们就把包括利维坦在内的银河系所有高等有机智慧生命全部消灭掉了。这个超级人工智能就是收割者的起源。
但后来人类才了解到，收割者也是有苦衷的啊，他们只是忠实地执行着利维坦给他们设定的程序而已。
因为收割者认为，有机生命最终都会被自己创造出的人工智能所灭。于是他们顿悟出了一个“最佳解决方案”，即赶在高等有机生命发明出高级人工智能毁灭自己之前，率先一步毁灭他们及其人工智能，然后把各个有机生命的DNA永远保存下来。
在清理完银河系后，收割者就会暂时离开银河系进入休眠状态，等待低级的有机生命重新进化发展出高等文明，然后再进行一波“收割”。如此循环往复。
这就是宇宙文明史中出现轮回宿命现象。
但人类最终攻入了收割者的总控制室。在上千个轮回中，第一次有人进入到总控制室且不被控制，这是宇宙史中新出现的变量，这可能是宇宙跳出轮回宿命的契机，和一个前所未有的新时代的开端。
所以，收割者给了人类三个选择：第一个选择是，把人的意识融合进控制系统，控制收割者，停止战争并且修复文明。第二个选择是摧毁包括收割者在内的所有合成体生命。
我们先看看前两个选择可能带来的后果。
第一个选择，暂时阻止了战争，也可能在未来会帮助有机生命消灭反叛的人工智能。但这么庞大的系统不是一个人的意识能完全控制得了的，而且就算控制了，不又像是人类历史上独裁者拥有了至高无上的权力那样，谁能保证未来权力不被滥用呢？所以未来有机生命还可能面临着收割者这个威胁。
第二个选择，彻底消灭掉收割者，但很难保证未来有机文明不创造出强大的人工智能把自己消灭掉。没有了收割者的压制，未来宇宙可能进入暗无天日、毫无生机的时代。
所以长远看来，这两个选择都会带来很大的风险。马斯克估计也都不喜欢。
而第三个选择就更有意思了：把有机生命和人工智能完美地融合在一起，这样人工智能机器人就没必要消灭人类，因为人类的一部分也是人工智能，或者可以认为人类也是人工智能的一部分……你中有我，我中有你，这样我们就不必再打了。
我们回到现实中，2016年马斯克和别人合创了一个生物科技公司Neuralink，力图把人脑和人工智能整合在一起。马斯克认为，这样才能保证人脑和人工智能发展同步，因此机器智慧就不能超过人类了，从而避免了未来的人工智能危机。这看起来像是“照搬”《质量效应3》结局的“创意”啊。哈哈。
终结者：你怎么不早说？我就不用穿越到过去了
人类救世主尼奥：你怎么不早说？我就不用一直躲在地下了……
也许正因为马斯克特么喜欢质量效应系列游戏，最近出的质量效应外传《质量效应：仙女座》也向马斯克的SpaceX公司致敬。
04但是回头想想，把人工智能植入人脑真的没有风险？
电脑都会有中电脑病毒的风险，这样以后人类不但会感染生物病毒了，还会中电脑病毒，还会死机……
另外，因为是人工智能，就有被黑客侵入，被别人控制的风险。这个问题细思极恐。
这个脑洞，我们可以不停地想下去。但估计客官也累了。
所以在未来，可能只有偏执狂才能在最后存活下来。
。。。
SpaceX猎鹰重型发射成功后，有篇网络文章发问，为什么中国出不了伊隆·马斯克？该文作者认为是中国缺乏西方的环境。
但我们可以看到，马斯克的成功归于他的决心和行动——马斯克坚信人类危机会到来，他决心改变这种未来，并开始不懈努力去一步一步实现这个目的。所以笔者认为，国内最缺乏的不是一种环境，而是一些愿意为了改变环境而不懈奋斗的人。
伊隆·马斯克所做的事情，是在为未来人类可能面临的危机做准备。但人们要过多久才会遇到这些危机？一百年？还是一千年？没人说得清。至少在伊隆·马斯克和你我还健在的时候，估计人类都没机会看到这些危机的到来。
另一个角度来看，人类真会遇到这些危机吗？甚至可以这样说，人类在遇到这些危机之前，或许已经被其他危机摧毁了。比如战争、意识形态、或者错误文化导致的人类危机。
所以那些看似遥不可及的危机还是让马斯克这样的天才书呆子去远虑吧，我们该做的或许是解决近忧。其中就有中国传统文化流失及其导致的社会价值观混乱的问题。
作为人类历史上四大古文明中唯一存活下来的中华文明，能够在五千年历史中克服重重危机、生生不息，不正是因为中国传统文化的力量吗？面临历史上的外族入侵，我们能够吸收他们的文化，并把他们融合进来中华民族这个大家庭来，就算到近代西方殖民史中，中国也能挺过来没有被像印度那样完全殖民化，不就是因为强韧的文化带来的民族坚毅吗？
所以，现在我们该重新审视自己的历史，发扬我们优秀的传统文化，并吸收东西方各国灿烂的文明，为未来百年千年设定好发展方向，确保未来生生不息。
这也正是东观西望公众号所致力聚焦的方向之一。
啊~
哥忍不住想高歌一曲。。。O(∩_∩)O哈哈~
Reference
伊隆·马斯克https://zh.wikipedia.org/wiki/%E4%BC%8A%E9%9A%86%C2%B7%E9%A9%AC%E6%96%AF%E5%85%8B
ElonMuskhttps://en.wikipedia.org/wiki/Elon_Musk
《质量效应》三部曲的故事发现一个更广阔的世界
https://zhuanlan.zhihu.com/p/26004462?group_id=892682198254223360
马斯克再发警告：人工智能是人类文明面临的最大风险http://t.cn/RB0X01a
EasterEggEstablishesMassEffect’SSpacefaringStoryStartedWithSpacex
https://nerdist.com/wp-content/uploads/2017/03/MESX_FEAT-970x545.jpg
中国为什么出不了埃隆·马斯克？https://www.zhihu.com/question/267039739
欢迎对传统文化和历史，或对海外留学有经验分享的你加入我们！
马斯克质量效应人工智能科幻科技©本文版权归东观西望所有，任何形式转载请联系作者。
©了解版权计划