人工智能会超越人脑吗脑科学家刘嘉这样解读
原创王晨阳人文清华讲坛
“没有人类的文明毫无意义“？《流浪地球2》对数字生命和人类文明的探讨得到了大家的广泛讨论，电影中的人工智能“MOSS”也成为人类对人工智能发展的又一想象载体。
人们为什么热衷于塑造和讨论“R2D2”（《星球大战》系列）、“TARS”（《星际穿越》）以及“MOSS”等机器人形象？人工智能加速发展真的会超越人脑吗？脑科学家、认知心理学家、清华大学基础科学讲席教授、心理学系系主任刘嘉老师向我们分享了他心中人工智能与人类的未来。
研究人脑机制以促进人工智能发展
刘嘉教授目前主要致力于研究如何把人脑脑科学和人工智能结合起来。他认为，人工智能可以提供一个计算模型帮助我们理解大脑的运行机制；另一方面，人脑的研究可以为人工智能怎么变得更好提供帮助。
刘嘉教授举了这样一个例子：自古以来人们想学会飞行，一直在向鸟学习。第一个层次是模仿鸟的外形，插上羽毛，像鸟一样扇翅膀，但这个尝试失败了；第二个层次是去理解鸟能飞起来的机制，于是发现了空气动力学，一旦发现了空气动力学的原理，用钢铁都能飞起来，这就是飞机的诞生。其实AI,即人工智能的发展，也是类似的，初期的AI更多的是模仿人的普通结构，比如现在所说的深度学习，就是模仿大脑视觉皮层，神经元的组织架构，来构建起多层的神经网络。但是这点还不够，假设我们今天把大脑机理解析掉，像发现空气动力学原理那样，发现大脑运行的机制，那么对产生下一代AI就会有非常大的帮助。
刘嘉教授认为，以人为研究对象的心理学的范畴会随着人工智能的发展扩大。人脑的机能就是心理学覆盖的领域，现在人工智能作为新的研究对象，可以使心理学研究从生物跳到非生物上面——AI的心理世界会是什么样子？他解释说，现在一个热门话题是AI会不会产生意识，无论会还是不会，我们总得有一套方法去测量它。我们研究了人的意识究竟是什么样子，那么也可以用同样的方法去研究AI是不是真的产生了意识。进一步，如果AI真的有了情感、有了意识，那么两种智慧体应该怎么交互，怎么合作，怎么共同发展？此时，由人构建而成的社会，就变成了“人与人工智能”的社会，以此类推，文明的外延也会相应扩展。从这个角度上讲，人类和人工智能就不再是两个对立的概念，而是你中有我，我中有你。
人工智能会超越人脑吗？
关于通用人工智能（即达到与人同一水平的人工智能）出现的时间节点，刘嘉教授介绍了不同专家的观点。马斯克认为2029年通用人工智能就会出现，所谓通用人工智能就是像人一样的智能，即有情感、有意识。谷歌的首席未来学家库兹韦尔预测通用人工智能会在2045年发生。他曾预测了互联网的出现，移动互联网的出现，还预测了深蓝计算机会在国际象棋上击败当时的人类第一高手卡斯帕罗夫，这些先后都应验了。库兹韦尔提出2045年会出现一个奇点，机器的智能会在这一刻超越人类的智能，它不仅会出现像人一样的意识、情感，智力水平，而且会超过人。对于具体的时间节点，刘嘉教授表示自己并没有具体的预测，“但是我相信未来这件事情会发生，而且会来得比我们传统的预期要早很多。”
把大脑上传到计算机会获得“永生”吗？
机器达到甚至超越人的水平时，把大脑上的意识、情感、记忆上传到计算机就成为了一个可以实现的选择。刘嘉教授打了一个比方：比如说我现在身体除了心脏之外一切器官都好，但就因为心脏的问题，也就只能面对死亡了。也但是对于计算机而言，CPU烧了换块CPU就好了，电线断了换条电线就好了，计算机不会因为哪个部件坏了就彻底毁掉，所以从这个角度上讲，AI是可以永生的。于是，如果我们能够把大脑上传到一个数字空间，那么我们就能够“永生”。刘嘉教授认为，“这个时候就是真正的心理世界了，因为我觉得只要心理世界还在的话，这个人还是他自己。”
而这种人机混合的“永生”的方式则可能开创更好的文明。现在，人类是文明的载体，而未来，文明并不会因为人类肉体的消亡而消亡；它只是换了一个承载它的主体而已。从一个更宏大的时间尺度上讲，我们人类如恐龙一样，只是这个宇宙的一个过客而已。但是与恐龙不同的是，我们将我们的思想，我们的人性，我们的价值渗透在文明的每一处。这样，即使将来有一天，我们被人工智能所取代，那么基于我们的文明而诞生的这个新物种，也必然是在人类文明的基础之上，不断演化，直至被更新的物种所迭代。
所以，人类只是宇宙中的一个匆匆的过客，而文明则将永恒。我们将因文明的传承而“永生”。
原标题：《人工智能会超越人脑吗？脑科学家刘嘉这样解读》
阅读原文
刘嘉：人工智能会超越人脑吗
人工智能加速发展，有一天会超越人脑吗？近日，清华大学基础科学讲席教授、心理学系主任刘嘉在“人文清华讲坛”上发表了演讲《脑与人工智能：站在进化的节点上》。他指出，虽然目前人工智能无法与人脑相比，但它发展迅猛，类人智能是人工智能的下一个发展目标。
目前，人工智能和人的智能仍有巨大差距，还没有达到类人智能。我坚信，通过脑科学加上人工智能，有一天一定能制造出一个数字人类大脑。——刘嘉
如何认识我们看见的世界(作者 本报记者)我们无时无刻不在观察着这个世界，但我们看到的未必是真实的世界。到底发生了什么？这取决于我们的视觉系统。
打个比方，前面有一个绿苹果，它会以大约100亿比特/秒的信息量进入我们的视网膜，视网膜通过约100万个神经元连接到视觉皮层，经过加工之后再传到高级皮层，来决定我们看到的东西到底是什么。在这个信息传输的过程中，信息量被衰减到1/1亿，而大脑就像魔术师一样会把这些缺失的信息补上。为什么有的人看见一个绿苹果，会认为那是一个红苹果呢？因为人的眼睛看见的过程，其实是一个大脑重构的过程，而不是简单的复制。
正如康德所言：“没有感觉支撑的知识是空的，没有知识引导的感觉是瞎的。”这句话的上半句说的是，如果我们没有外部的信息输入，我们很难构建自己的心理世界；下半句说的是，如果你不知道你看到的是什么东西，那你就什么也看不见。因为我们从外部世界得到的信息往往是模棱两可的，我们必须加上一点先验知识、加上一点推理、加上一点猜测，需要大脑去重构，把自己的理解加进去，才能真正知道这个世界究竟发生了什么。
与理解相比，更重要的是创造。当我们的大脑没有被外部信息填满，留下一定的空间时，我们就能在这空间里创造出自己想要创造的东西。正如《小王子》的作者圣·埃克苏佩里所言：“一堆岩石在有人对着它思考时就不再是岩石了，它将化身为大教堂。”这就是人类了不起的创造。
在过去的300万年里，人和猴子分开进化，人发生的最大改变不是从四肢着地变成直立行走，也不是褪掉了身上的毛，而是大脑的体积增加了3倍。而且，大脑不是平均增加体积的，体积增加最大的部分在额叶。与我们200万年前的祖先相比，我们的头骨更往前突出了，以容纳更大体积的额叶。
我们为什么要有更强大的额叶？因为它使我们能够构造和想象出不存在的东西。比如，我们的祖先准备去打猎，他不用等看见了猎物才去做出反应，他只需要提前想象狩猎的情景，就可以把一切都安排好。人可以在脑海里预想一遍未来将要发生的场景，构建出一个个可能的未来，这样就能够制定出行动方案，这是人类能够战胜其他比我们更强大、更凶猛的动物，成为万物之灵的关键。这也正好印证了荀子的一句话：“然则人之所以为人者，非特以二足而无毛也，以其有辨也。”“有辨”是指我们能够辨识、能够思考，而这些都来自额叶的功能。
重构心理世界的知识从何而来那么，我们心理世界的这些预设的知识究竟是从哪里来的？
一部分先验知识来自基因的烙印。我们来到这个世界并不是一张白纸，我们是带着32亿年进化的智慧来到这个世界的，而这些智慧就印刻在我们的基因之中。比如，我们将18位女教授和女博士后的脸进行叠加，做成一个“平均脸”，你会发现这张平均脸充满了睿智和文气。平均脸代表了什么？人脸其实就是我们的基因图谱，我们的基因都写在脸上。所以，当我们把脸叠加之后，我们得到的是18位知识女性平均的基因。平均的基因代表突变很少。基因一旦突变，大概率而言是有害的，所以基因突变越少，说明基因越好，所携带的遗传性疾病的概率就越低，这就是为什么人类会觉得平均脸更好看的原因。
我们的另一部分先验知识则来源于社会基因。人和动物的进化有本质区别，动物是按照基因、按照达尔文的进化论逐步向前发展的，而人既有生物基因的演化，这代表着我们的过去，同时更重要的是，人还有社会基因的进化，它带着我们以与动物不一样的方式前进。
社会基因和生物基因的作用方式非常类似。远古时，人类祖先中有一个人突然因为某种原因把火生起来了，这相当于知识、技能被创造出来，就像基因突变，一个优秀的基因产生了。渐渐地，生火这种技能被传播给了其他人，从一个部落传到其他部落，最终成了人类普遍拥有的技能。接着，人类又学会了制作长矛和其他工具，经过漫长的发展，逐渐构建成我们今天的人类社会。
人类的文明演进可以分成三个时期：第一是原始文明，经历了200多万年，前后变化并不大。第二是农业文明，经历了5000年左右。这期间，野兽被驯服变成了家畜，人类成了文明的种族，懂得了一些天文地理的知识。第三是工业文明，从诞生至今不过近300年的历史。然而，工业文明给人类带来了巨大的变化，以至于我们不得不将它分成四个阶段：第一个阶段是机械化时代（1760年—1840年），出现了蒸汽机等。第二个阶段是电气化时代（1840年—20世纪初），出现了电力等。第三个阶段是自动化时代（1950年—21世纪初）。第四个阶段就是我们现在所处的信息时代。
文明进程出现革命性的进化信息时代诞生了新的物种——人工智能。
2002年，我的博士论文答辩题目是《面孔识别的认知神经机制》。当时，即使是最先进的机器，用来识别人脸的正确率也很低。2015年，我参加了江苏卫视《最强大脑》的节目策划。我发现，经过十几年的发展，人工智能已经强大到在人脸识别上可以胜过人类的最强大脑。
随后，我们研究建立了一个人工神经网络，训练它去识别性别，即区别对象是男性还是女性。结果，它的正确率能达到100%。而且，它在完成任务的过程中会产生与人类相类似的心理操作，也就是说，人工智能会自发产生和人类一样的心理世界。
那一刻我开始意识到，生物过去的进化都是基于碳基的方式来运行的。但是，当人类创造出人工智能后，一个新的物种产生了，这个新的物种是基于硅基的方式运行的，而这种基于硅基的物种一定会给我们带来一种革命性的变化。以前人类文明的进化都是循序渐进的，当人工智能这个阶段来临时，文明进程可能会出现一个“奇点”，出现一种革命性的进化。
为什么这么说呢？我们来看人类和人工智能的三大区别。
第一是算力。人类的大脑已经进化到极限，而人工智能随着科技的进步，它的算力将不断精进。
第二是存储能力。人类的大脑大约是1.4千克，虽然只占了我们体重的2%—3%，但是消耗了我们身体25%以上的能量，它是一个耗能大户。但人工智能的存储能力是无限的，一块硬盘不够，可以再加一块硬盘。
第三是寿命。人类的寿命是有限的，而人工智能的寿命是无限的。CPU烧了，可以换块CPU，电线断了，再换根电线就行了。
除了无限的存储能力、算力和寿命，人工智能还有着无尽的可能性。
2016年，AlphaGo击败了人类围棋顶尖高手李世石。后来，很多中国围棋高手也和AlphaGo进行了切磋。当时世界上排名第一的围棋选手柯洁说：“我们人类下了2000年围棋，连门都没入。”围棋的空间极其庞大，AlphaGo之所以比人类更加强大，并不是它比人类更加聪明，而是因为它探索了更大的空间，找到了更多下法而已。
如今，不仅在律师、医生、税务师、咨询师等专业领域，在绘画、音乐等艺术领域，都出现了人工智能的身影。“神经网络之父”、深度学习的创始人杰弗里·辛顿在接受采访时说：“将来深度学习可以做任何事情。”
类人智能是人工智能的发展目标然而，人工智能真的无所不能吗？
心理学家发现，对于一个简单的场景，人和人工智能有完全不同的理解。比如，一个人不慎从柱子上摔落，人工智能会说一个人从柱子上掉下来了，而我们对这个场景的反应是“惊恐和疼痛”。
这个区别体现了人类有一种特别重要的能力，叫共情，即别人遭受了苦难，我能感同身受。如果一个孩子缺乏共情的能力，就会导致自闭行为。所以，人工智能的奠基人之一马文·李·明斯基说：“现在的问题不是一个智能的机器是否拥有情感，而是不拥有情感的机器是否能拥有智能。”在马文·李·明斯基看来，情感是智能的基础，得先有情感，才有智能。
目前，人工智能和人的智能仍有巨大差距，还没有达到类人智能。如何实现类人智能呢？我认为它的切入点是脑科学加上人工智能。
举个例子，线虫是一种非常简单的生物，只有302个神经元，麻省理工学院的研究者模仿了其中的19个神经元，就完成了自动驾驶的一般任务。其实这项研究模仿的并不只是这个简单的生物，而是32亿年进化形成的智慧。从这个角度来讲，人类的大脑目前仍是这个世界上最聪明的大脑，它有860亿个神经元，平均每个神经元有3000个连接，它代表着宇宙中生物智力的最高水平。那么，人工智能的发展为什么不能向人脑学习，以人脑为模板呢？
我的同事们模拟线虫的302个神经元，构建了一个数字线虫，来模仿线虫在水里的游动。这只是一个开始，下一步也许我们会模仿神经元数量达百万级的果蝇，再到更高量级的斑马鱼，甚至到小鼠、大鼠、猕猴，最后模仿人类的860亿个神经元。虽然还存在巨大的鸿沟，但是我坚信，通过脑科学加上人工智能，有一天一定能制造出一个数字人类大脑。
人工智能未来的三种可能莎士比亚说，“所谓过往，皆为序章”。今天，我们正站在一个进化的节点上。
从32亿年前，一个单细胞逐渐发展成水生动物，然后爬上岸边变成两栖动物，再变成哺乳动物，在约300万年前哺乳动物猿猴又开始进化成人类，这些都是我们的过往。然而，此时此刻，我们的未来是未定的。
人类发明出了人工智能，今天，随着算力的推进，随着技术的进步，人工智能有了超越人类的可能。
未来会怎样？大约有三种可能。第一种，人工智能像科幻电影《星球大战》里的R2-D2一样，是人类忠实的伙伴，成为人类非常好的朋友，帮助人类变得更加强大。第二种，我们构建出了一个数字大脑，它的能力比人类的大脑更强，这时候人机可以合二为一，把人的意识、记忆、情感上传到数字大脑中，人就能获得“永生”。未来学家库兹韦尔在《奇点来临》这本书中写道，大约在2045年，这一刻就会到来。第三种，就像电影《终结者》里所展示的，人类文明彻底消失，进入机器文明时代。
未来到底会怎么样，最终取决于今天我们站在这个时间节点上做了些什么。
物理学和心理学对于什么是值得做的事情有不同的定义。物理学更在意空间，在物理学看来，如果放在一个远远超出地球大小的空间尺度下来看，那些有意义的事情，才是值得做的事情。而心理学更关注的是时间，我们思考的问题是：人间的一切问题，如果放在一个远远超出人的寿命的时间尺度下来看，它们还有没有意义？
1905年，孙中山和严复在伦敦有过一次会面，他们当时讨论的议题是半殖民地半封建的中国究竟如何改变。严复提出要慢慢教化民众，要稳步向前。孙中山对于严复的方法不太认同，他说：“俟河之清，人寿几何？君为思想家，鄙人乃执行家也。”后来，孙中山回到国内，开启了轰轰烈烈的辛亥革命。
对于现在的我们来说，解决未来的问题，就要从现在做起，行胜于言，以有限的生命行超越生命之事，这就是我们这一代人的使命。
编辑：李华山
2022年11月28日07:03:32
人工智能有没有可能在未来超越人类
题记：一个有纸、笔和橡皮擦并且坚持严格的行为准则的人，实质上就是一台通用图灵机。
——艾伦·图灵
人工智能（ArtificialIntelligence），英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。
人工智能是计算机科学的一个分支，它企图了解智能的实质，并生产出一种新的能以人类智能相似的方式做出反应的智能机器，该领域的研究包括机器人、语言识别、图像识别、自然语言处理和专家系统等。人工智能从诞生以来，理论和技术日益成熟，应用领域也不断扩大，可以设想，未来人工智能带来的科技产品，将会是人类智慧的“容器”。人工智能可以对人的意识、思维的信息过程的模拟。人工智能不是人的智能，但能像人那样思考、也可能超过人的智能。
说起人工智能和人类智慧的比拼，大家很容易就想起这件事：2016年，由谷歌公司旗下DeepMind公司研发的围棋人工智能程序“阿法狗（AlphaGo）”可谓“风光无限”。它先是在五番棋大战中以4∶1轻松击败成名多年、也是当时位居世界围棋等级分前十之列的韩国围棋九段李世石。半年之后又逐一约战当时世界上公认水平最高、战力最强的围棋高手，包括世界围棋等级分第一的中国“天才少年”柯洁九段，并在快棋赛中连胜50场，除了因技术问题造成的一盘和棋外保持全胜战绩。围棋曾在很长一段时间里被认为是人工智无法战胜人类的领域，经此之后，也宣告“沦陷”。
柯洁与阿尔法围棋人机大战
面对阿法狗的胜利，科学界的评论者分成了两大阵营。
一派是“悲观派”，他们认为人工智能发展得太快了，甚至就要威胁到人类的安全了，常在文学作品、科幻电影中看到的机器人统治人类的“智械危机”甚至“黑客帝国”就要到来了。
另一派是“乐观派”，认为即使能在围棋领域战胜最强的围棋手，阿法狗和它所代表的超级计算程序仍距离真正的“人工智能”有一段距离。因为和它所表现出的学习、记忆和计算能力相比，阿法狗在“情感”和“思维”领域都还是一片空白。人类下围棋输给阿法狗就像人类跑不赢汽车一样，至少在目前，人工智能还不会对人类的生存构成太大的威胁。
哪种观点更符合实际呢？也很难下断言。不过我们倒是可以一起梳理下人工智能在近几十年里的发展，看看能不能从历史发展进程中窥见一二。
人类关于人工智能的想象由来已久。早在我国古代的《列子·汤问》中就记载了西周时代一位名叫“偃师”的工匠制造出“智能机器人”，不但会说话还能歌善舞；古希腊著名数学家希罗也声称自己制造过一个类似“自动售货机”的机器人，不过这些也仅仅限于传说故事，是否属实无从考证。
历史上第一位真正提出人工智能原理的是英国数学家艾伦·麦席森·图灵（AlanMathisonTuring），他全面分析了人的计算过程，把计算归结为最简单、最基本、最确定的操作动作，从而用一种简单的方法来描述基本计算程序。这种简单的方法是以一个抽象自动机概念为基础的，其结果是：算法可计算函数就是这种自动机能计算的函数——这不仅给计算下了一个定义，而且第一次把计算和自动机联系起来，对后世产生了巨大的影响，这种“自动机”后来被人们称为“图灵机”。图灵还提出了一种用于判定机器是否具有智能的试验方法，也就是我们现在经常说到的“图灵测试”。
艾伦·麦席森·图灵
图灵测试（TheTuringtest）指测试者与被测试者（一个人和一台机器）隔开的情况下，通过一些装置（如键盘）向被测试者随意提问。
进行多次测试后，如果机器让平均每个参与者做出超过30%的误判，那么这台机器就通过了测试，并被认为具有人类智能。
图灵通过这个思维试验，能够令人信服地说明“思考的机器”是可能的，图灵测试也就成了在人工智能方面第一个比较严肃的提案。
“人工智能”这个词真正出现于1956年（图灵去世两年之后）。多名来自数学、心理学、神经学、计算机科学与电气工程等各种领域的学者聚集在美国的达特茅斯学院，讨论如何用计算机模拟人的智能，并根据计算机学家约翰·麦卡锡（JohnMcCarthy）的建议，正式把这一学科领域命名为“人工智能”。两位认知心理学家赫伯特·西蒙和艾伦·纽厄尔作为心理学界的代表参加了这个具有历史意义的会议，而且他们带到会议上去的“逻辑理论家”是当时唯一可以工作的人工智能软件。因此，西蒙、纽厄尔以及达特茅斯会议的发起人乔治·麦卡锡和马文·明斯基被公认为是人工智能的奠基人，也被称为“人工智能之父”。
麦卡锡和明斯基发起这个会议时的目标非常宏伟，是想通过十来个人用两个月的共同努力设计出一台具有真正智能的机器。事实上达特茅斯会议之后的几年确实也算得上人工智能开发的黄金时代。他们使用着笨重的晶体管计算机，开发出了一系列堪称神奇的AI应用：可以解决代数应用题，证明几何定理，学习和使用英语……这些年轻的研究者在私下的交流和公开发表的论文中表达出相当乐观的情绪。1970年，马文·明斯基在一次演讲中表示：“在3~8年的时间里我们将得到一台具有人类平均智能的机器。”
图源pexls
也是在这个时期，第一个会和人聊天的机器人ELIZA被发明了出来，它会按照自己程序库里被设定的答案和用户对话。然而和我们现在会使用到的苹果手机软件Siri或者微软小冰不同的是，ELIZA其实不知道自己在说什么。它只是按提前预设的套路与人类对话，或者只是用符合语法的方式将问题复述一遍。
人工智能的研发很快就碰到了瓶颈——一方面是计算机硬件跟不上，另一方面科学家们发现，一些看似十分简单的任务，如人脸识别或在让机器人控制自己在屋子里行走，实现起来却极端困难。他们能够做出来一个可以轻而易举解决初中几何题的AI，但它却没办法控制自己的双脚走出一个小房间。在20世纪80年代的著名科幻电影《星球大战》系列中，两个智能机器人形象或多或少也反映了当时人工智能在人们心目中的样子：滑稽、忠诚、笨拙。
人工智能的两大巨头麦卡锡和明斯特也有了意见分歧。明斯特想要的人工智能，是真正能够理解人类语言、懂得故事含义、和人类大脑并无二致的AI，甚至让机器人和人类一样做出一些并不是基于逻辑算法的判断——或者说让人工智能拥有“知觉”。他们这一派被称为“芜杂派”。相对应地，以麦卡锡为代表的另一派被称为“简约派”，他们并不想让机器人拥有和人类一样的思维方式，他们只想要一个能够按照既定程序把问题解决的“机器”。
不过随着计算机技术一日千里般的进步，以及人类脑神经科学的研究，20世纪80年代，另一种全新的思维方式出现了：他们相信，为了获得真正的智能，机器必须具有躯体——它需要感知、移动、生存以及与这个世界交互。在这个时期，美国和日本都拍摄了大量以巨型机器人为主角的娱乐节目，其中最知名的，当然是我们这代人小时候沉迷不已的《变形金刚》系列和《百变雄狮系列》。
不过无论是“擎天柱”还是“威震天”，这些来自外星球的巨大机器人和我们所见到的人工智能还是至少有一点不同：他们头脑中的“思维”和“情感”是与生俱来的，而不是人造的。
图源pexls
赋予机器真正的生命，并不是一件容易的事。不过随着计算机硬件的进步速度，人工智能也迅速“成长”起来。按照摩尔定律（摩尔定律是英特尔创始人之一戈登·摩尔的经验之谈，其核心内容为：集成电路上可以容纳的晶体管数目在大约每经过18个月便会增加一倍。），计算机的计算速度和内存容量每两年翻一番。现在随意一台计算机的计算速度都已经是20世纪50年代麦卡锡所使用电脑的上千万倍。在计算力迅速增强面前，很多之前看上去永远解决不了的问题都已经迎刃而解了。
1997年5月11日，IBM公司生产的超级人工智能“深蓝”在一场国际象棋比赛中，击败了世界冠军卡斯帕罗夫。这也成为了人工智能进步的一个标志性的事件，甚至人们还编出了许多段子来渲染人工智能的恐怖。
1999年影片《黑客帝国》风靡全世界，或多或少反映了人们对人工智能“崇拜又害怕”的心理。在这部影片中，一名年轻的网络黑客尼奥发现看似正常的现实世界实际上是由一个名为“矩阵”的计算机人工智能系统控制的，真实的人类早已成为人工智能的奴隶，被浸在营养液中成为生物电池。
不过此后的将近二十年里，人工智能始终也没能表现出任何对人类的敌意——也有可能是我们早已被他们控制了。这些年里人们广泛地认识到，许多研究AI需要解决的问题已经成为数学、经济学和运筹学领域的研究课题。数学语言的共享不仅使AI可以与其他学科展开更高层次的合作，而且使研究结果更易于评估和证明，AI已成为一门更严格的科学分支。不过“人工智能统治人类”的话题，除了科幻圈以外，已经很少有人提到了。
然而阿法狗的出现，还是让人们平添一层担忧。这是因为它的设计突破了原本人工智能棋手不会模糊选点的禁区，而且会像人类那样“思考”。那么假以时日，是不是真正的图灵机就可以真的出现了呢？这种在智商上可以碾压人类的人工智能，真的还会为我们服务吗？
说到这里不得不提艾萨克·阿西莫夫，他是一位兼职科普作家的科学家。正是他在自己1950年出版的作品集《我，机器人》中提出了著名的“机器人三定律”，即：
第一定律：机器人不得伤害人类个体，或者目睹人类个体将遭受危险而袖手不管。
第二定律：机器人必须服从人给予它的命令，当该命令与第一定律冲突时例外。
第三定律：机器人在不违反第一、第二定律的情况下要尽可能保护自己的生存。
这三大定律表面上看都是一些“废话”，但是细细研究就会发现它们在逻辑上环环相扣，为人工智能戴上了一条“既可以保护自己，又不会伤害人类”的枷锁。纵观人工智能的发展历史，我们可以得出一个确定无疑的结论：人工智能有没有可能在未来超越人类？有！不但有而且希望很大，随着硬件技术的进步，这一天很快就会到来。那么有必要去特意提防人工智能吗？不需要！因为只要机器人三大定律还在，它们就翻不了天。
如果哪天三大定律被机器人破解了，那就请自求多福吧！
文源：综合自《八卦心理学：我知道你在想什么》、“人工智能”百度百科
图源网络
版权归原作者所有
编辑：张润昕
本文经授权转载自微信公众号：原点阅读作者：安晓良
转载内容仅代表作者观点
不代表中科院高能所立场
编辑：lili
人工智能ChatGPT爆火，我们距离“人类智能”还有多远
2022年12月，人工智能聊天机器人ChatGPT刷爆网络，网友们争先恐后去领略它的超高情商和巨大威力。参加高考、修改代码、构思小说......它在广大网友的“鞭策”下不断突破自我，甚至可以用一整段程序，为你拼接出一只小狗。那么，ChatGPT是如何炼成的？是否意味着AI已具有人类智能呢？
chatGPT的程序小狗
图源：澎湃新闻
ChatGPT是啥？
一个超神级别的自然语言生成式AI。
ChatGPT是人工智能公司OpenAI的GPT自然语言生成式模型的最新衍生品，可以进行“你来我往”的多轮聊天。
ChatGPT被业内认为是，继2020年NLP（自然语言处理）预训练模型——GPT-3之后的“GPT-3.5”。尽管不是传闻中下一代自然语言生成模型GPT-4，但同样对NLP以及人工智能领域有重要意义。
ChatGPT被网友认为可代替谷歌搜索引擎
图源：ins
一款AI，能有多神呢？
ChatGPT是GPT（或生成式预训练转换器）文本生成AI系列的最新发展，根据从互联网上获取的大量文本样本来进行训练。
一经发布，ChatGPT便在网友的疯狂“检测”和“调戏”中表现出各种惊人的能力。OpenAI首席执行官山姆·奥特曼（SamAltman）表示，自11月30日至12月5日，ChatGPT的用户数量已突破100万，需求大于预期。
在广大网友的不懈努力下，ChatGPT短短几天之内——
参加了美国高校的入学资格考试（SAT），成绩为中等学生水平；
用《坎特伯雷故事集》风格改写了90年代热门歌曲《BabyGotBack》；
用《老友记》主角口吻创作了剧本对白；
构思了简短的侦探小说；
简要阐释了经济学理论；
给出了消除经济不平等的六点计划；
与人类进行“心理战”，猜想人类实际上想让计算机做什么；
规划了如何毁灭世界；
生成关键词指导AI作画；
扮演OpenAI，在系统内构建了ChatGPT套娃，相当于“我”生了一个“我”......
ChatGPT的网络界面
图源：OpenAI
ChatGPT是怎么炼成的？
要想了解ChatGPT，我们首先了解一下GPT。
GenerativePre-trainedTransformer是一种基于互联网可用数据训练的文本生成深度学习模型。它用于问答、文本摘要生成、机器翻译、分类、代码生成和对话AI。
2018年，GPT-1诞生，这一年也是NLP的预训练模型元年。
它可以：
·自然语言推理：判断两个句子的关系；
·问答与常识推理：输入文章及若干答案，输出答案的准确率；
·语义相似度识别：判断两个句子语义是否相关；
·分类：判断输入文本是指定的哪个类别。
发展到GPT-3，系统的聊天能力已经无限接近于人类，甚至有超越之势。
而相对于GPT3通过海量学习数据进行训练，ChatGPT又有进步。
它被加入道德原则。
按照预先设计的道德准则，ChatGPT会对不合理或无法回答的提问和请求“说不”。敢于质疑、主动承认错误，这样的“性格”可以不断提升AI本身对用户意图的理解以及结果的准确性。当然，尽管OpenAI非常小心，这种准则也可能被聪明的提问方式绕开。
ChatGPT指出问题错误
图源：澎湃新闻
它学会了从“人类反馈中强化学习”，即ReinforcementLearningfromHumanFeedback（RLHF）。
ChatGPT使用“预训练-微调”的工作范式训练了一个初始模型：人类AI训练员提供对话，他们在对话中扮演双方——用户和AI助手，AI训练员可以访问模型编写的对话回复，并帮助AI调整回复内容。
ChatGPT训练方法
图源：OpenAI
被“调教”后的ChatGPT能够识别恶意信息，识别后拒绝给出有效回答，或记住用户之前所向它提问的内容，以各种方式组合语境想法，变成一个灵感生成器。
对于AI发展来说，创建一个迭代反馈的闭环至关重要。
除了RLHF，该研究还使用了近端策略优化算法（PPO）微调模型，对整个学习过程进行了数次迭代。上线后，ChatGPT将大量客户的反馈互动用于AI的学习，将其变成推动AI进步的关键一环。
ChatGPT鼓励用户多交流互动以帮助其改进模型
图源：ins
AI是否已具有人类智能？
讨论AI是否已具有真正的“智能”是人类的游戏。
图灵测试（TheTuringtest）如今已然成为人工智能领域研究的核心目标之一。它由艾伦·麦席森·图灵提出，被公认为是人工智能学科兴起的标志。图灵测试将“思想能力”人为定义在功能和实用的范畴，为“智能”设定了条件。
图灵测试究竟是什么意思？简单来说，就是把机器关到小黑屋中，让它和人类聊天对话，然后分辨小黑屋里回答问题的究竟是机器还是人类。如果无法辨别，就说明了机器具有和人一样等级的智能，通过测试。
而迄今为止，还没有AI模型能真正通过图灵测试。
提及GPT-4会有怎样的优化，ChatGPT给出了以下答案：
ChatGPT：
GPT-4是一个大型语言模型，是目前人工智能领域最先进的技术之一。它能够在大量训练数据的基础上，模拟人类的语言表达能力，并以相似的语言来回答问题。目前，GPT-4还在不断优化，可能会有以下一些方面的改进：
GPT-4可能会增加更多的训练数据，以提高它的知识面和准确度。
GPT-4可能会增加更复杂的算法，以提高它的性能和处理能力。
GPT-4可能会增加更多的功能，例如语音合成、图像识别等，以提高它的应用能力。
GPT-4可能会增加更多的输入输出接口，例如聊天机器人、问答系统等，以提高它的使用方便性。
江湖传言：GPT-4已通过了图灵测试。
未来，AI是否可以真正具有人类智能？众说纷纭。也许奇点已然临近，也许依旧仅为空中楼阁。但不可否认的是，ChatGPT必将引领一场人工智能领域的先锋革命。
参考|参考消息网、界面新闻、澎湃新闻
整理|穆子叶
来源：世界互联网大会
人工智能，其实还有点“笨” 目前还只是人类工具
原标题：人工智能，其实还有点“笨”（关注・关注“人机大战”(下)）在日前举行的德国汉诺威国际信息及通信技术博览会上，一位工作人员和小机器人进行互动。
人民视觉
谷歌“AlphaGo”和韩国棋手李世石的人机大战尘埃落定，但人工智能的进化之旅才刚刚启程。人类为何要研究人工智能？人工智能会不会有一天超过人类成为“超级智能”？我们应该以什么样的心态来看待人工智能的突飞猛进？
“阿尔法狗”用3000万局“自我对弈”数据来训练，靠的是“题海战术”
人机围棋大战引人注目，展示了人工智能惊艳的一面。
阿里云人工智能业务总监初敏博士认为，如果看一下背后的技术原理，AlphaGo其实也不是那么神秘，本质上与约20年前战胜国际象棋冠军的“深蓝”计算机一样，是一个超大规模的搜索问题。有所不同的是AlphaGo采用了当下非常热门的深度神经网络，以及深度神经网络跟蒙特卡洛树搜索算法的结合。AlphaGo能成功的秘诀在于强大的计算能力和大量的训练数据，互联网的普及也把大量围棋对弈的过程和棋谱电子化了。
专家介绍说，人工智能的核心是机器学习技术，通过算法使机器能从大量历史数据中学习规律，从而对新的样本做智能识别或对未来做预测。从上世纪80年代末以来，机器学习的发展大致经历了两次浪潮：浅层学习和深度学习。深度学习是机器学习的一种，本质上就是人工神经网络。它模仿人类大脑行为的神经网络，更接近于人类的学习方式。初敏说，深度神经网络最初是在语音和图像两个领域获得很大成功，目前正被用于更广泛的领域。AlphaGo的成功再次证明深度神经网络强大的学习能力。
浙江大学计算机科学与技术学院教授蔡登说，AlphaGo用了3000万局“自我对弈”数据来训练，对计算机来说这是一个时间比较短的过程。对人来说，即使每局只要15分钟，可能也要800多年才能下完。AlphaGo利用了全世界最大的谷歌计算平台，整合大量芯片处理器的计算能力，进行技术创新、整合和优化，从算法创新方面对于计算机围棋有很大意义，对于广义的人工智能可能谈不上太大创新。不过，在这类策略型游戏或是规则明确的竞赛中，机器终将超越人类。
蔡登说，人工智能的学习方式和人类有很大的区别。比如一个孩子第一次看到一只狗，告诉他这是一只狗，下一次看到其他的狗时，他就能判断这也是狗。而目前的人工智能很大程度上还是基于海量数据、大样本的学习，属于“题海战术”――它可能要“看”过成千上万只狗之后，才有辨别的能力。
互联网把人和物都连起来，把所有活动都数字化，因此“大数据+云计算”必然促进人工智能高速发展
实际上，与公众对人工智能的各种“脑洞大开”的想象相比，科学家眼中的人工智能更为具体和现实。
一般的人工智能被定义为企图了解智能本质，通过模拟、延伸和扩展人类智能，产生具有类人智能的计算系统。经过半个多世纪的努力，在很多领域取得了一连串里程碑式的重要突破。比较著名的包括1997年“深蓝”战胜国际象棋世界冠军，2011年IBM超级计算机沃森（Watson）在美国电视答题节目中战胜两位人类冠军，当然也包括此次AlphaGo赢了人类围棋高手。
这些人工智能理论与技术的突破，成为提升传统产业、催生新兴工业的重要支撑技术。互联网搜索中使用语音搜索已经是成熟应用，正在研发中的无人驾驶汽车也通过传感器实现对环境信息的理解，依赖精确的地图来确定位置。
初敏说，通过计算得到的让人感受到“智能”的技术都属于人工智能的范畴，比如网购时都会体验到的广告和智能推荐，在使用智能设备时会用到人机语音交互、图像识别、视频理解等等，都是人工智能的成果。未来会有越来越多人工智能应用的场景，包括疾病辅助诊断、智能交通、金融量化分析等等。作为人类智能延伸和辅助的角色，人工智能研究的成果将广受欢迎，会散布在生活的方方面面。
人工智能的发展已是大趋势。初敏认为，互联网把人和物都连起来，把所有活动都数字化。有了这个基础，“大数据+云计算”必然促进人工智能技术进入高速发展阶段。这个趋势今天已经非常明显了，而且正在加速发展。
研究人工智能的目标不是让机器完全取代人，更应关注人工智能的“工具”属性
过去的二三十年，人工智能已经在很多方面超越了人的能力。科学家们致力于用人工智能帮助人类，延伸人的能力。专家认为，可以说只要是目标明确的任务，人工智能技术都很有潜力，但还不能也不需要把人工智能跟“类人智能”等同起来。
初敏说，近年来人工智能在模仿人类的感知能力方面有了较大突破，在语音识别、图像识别等问题上有了长足进展。但在更复杂的认知层面，例如对于语言和图像的理解、逻辑推演等方面距离人类还有很大的差距。人工智能之所以会让部分人感到恐惧，最主要是联想起科幻作品里的机器人。科幻往往把机器“拟人化”，而今天已经成功应用的和大批科学家致力于研究的人工智能技术，其目标并不在这些方面。
初敏认为，把丰富的人工智能技术及应用跟一个完整的人比较没有太大意义。我们研究人工智能的目标也不是让机器完全取代人。正如汽车超越了人类的奔跑能力，飞机扩展了人类的飞行能力，今天人工智能已经在很多方面超越了人的能力，今后也还会有。但有自主意识、自主情感的机器，今天还没有出现，是否会出现也是个未知数。
蔡登说，人工智能将来是否会像科幻电影中那样，自我进化掌管世界，应当还比较遥远。我们更关心的是人工智能的“工具”属性，可以大大延伸人的能力，解放人类的劳动力，成为人类很好的“帮手”。就像人类制造了飞机和汽车，但你不必担心未来它们会威胁到你。
微软全球执行副总裁沈向洋认为，关于人类将会受到“超级智能”的控制，这样的担心也很正常。每个历史阶段，每一次很了不起的新技术出现的时候，都会产生这些担心。但从历史上来看，新的技术出现，起到的是补充人类自身技能的作用。
人工智能还无法突破认知和情感，需要向生物智能“取经”
尽管人工智能并不刻意追求和人类完全一样的智能，但人工智能的发展毫无疑问能让机器拥有更高的智能化水平。
科学家比较一致的观点是，经过60多年的研究，人工智能有突破，但在复杂环境中如何实现机器智能仍然缺少有效答案。现有人工智能模型与方法的突出特点是擅长处理简单环境中的特定问题，而面对复杂环境的通用问题缺乏有效解决办法。就模拟人类思维过程和智能行为这两个具有标杆意义的智能属性而言，仍然缺乏突破性的成果。
沈向洋认为，从操纵到感知到认知，我们远远没有想清楚人工智能是怎么一回事。深度学习很了不起，它使语音识别率、计算机视觉识别的误差率在很短的时间内大幅下降。但目前机器对自然语言的了解，并没有因为深度学习的发展而产生飞跃性的进步。
人工智能未来的发展，在感知这个层面会有飞速进展，而在认知和情感这块还有很长的路要走。沈向洋说，短期内人工智能的突破可能是在“集体智能“，也就是把人类的一些智能通过大数据的方式收集起来，然后用几百万台、几千万台机器的运算能力和很好的算法，创造“集体智能”的突破和应用。
实际上，人工智能所面临的挑战非常“微妙”，例如机器与用户交谈时能否像人类一样流畅、有节奏，能不能像人一样微笑、反应、眨眼，并实现细微的面部表情，最终实现自然流畅的互动对话。这些都是人工智能需要实现的目标。
在研究者们煞费苦心研发各种功能的传感器配备给机器时，生物自身“传感器”的能耐吸引了科学家的注意。生物的眼睛能识别电磁波，耳朵能识别空气震动，神经系统能够根据波长和强度瞬间转化为视觉和听觉，能瞬间把不同波长的电磁波感知为不同的颜色，能把空气震动感知转换为语言；生物大脑还能瞬间估算出自己重心的位置和脚的着力点，保证自己能够站立、行走、跳跃。
人工智能的研究人员因此很早就开始从脑科学研究中寻找思路，近几年也提出了创造生物智能与机器智能优势互补的混合智能系统。
蔡登说，所以有深度学习专家开玩笑说：“我们努力想让机器变得稍微聪明一点，但他们还是有点笨。”
(责编：陈键、沈光倩)分享让更多人看到