能造出像人一样“思考”的机器吗—新闻—科学网
能造出像人一样“思考”的机器吗？
新一届世界人工智能大会刚刚过去，在人工智能最前沿技术、产品、应用和理念的展示之下，超级智能时代能何时才会到来的问题始终萦绕在人们心里。
如今的人工智能系统已经在不少具体问题的解决能力上超过了人类，那么，我们究竟能否制造出像人一样“思考”的机器？人工智能会有一天超越人类智能吗？
计算型智能只是人类智能的一种类型
下围棋是人类的高级智能活动之一，过去人们认为计算机不可能超越人类的这种智能。因此，下围棋也被视为人工智能的“圣杯”。直到DeepMind推出的人工智能围棋程序AlphaGo战胜了人类。
浙大管院神经管理学实验室主任、国际欧亚科学院院士马庆国解释，AlphaGo大放异彩，得益于蒙特卡洛树搜索框架，加上深度学习和强化学习。
他说，假设计算机的计算速度“无限”快，计算机就可以用“穷举法”为围棋棋手瞬间找到“最优解（最优落子位置）”。但事实是，每一步落子的计算量太大了，当前最快的计算机速度也根本无法完成“穷举”这样的大的计算量，所以要从当前的可能的落子方案中选一些，交由不同计算机（群）去做并行计算。
如何在当前的可能的落子位置选出一组落子点（试算点）交给不同计算机（群）做并行计算？
他表示，除了利用计算机越来越快的存取速度和越来越大的存储容量，可以从过去“对弈”的成果（不仅仅是“定式”）产生“试算点”之外，还需要借助很多“节省计算但尽可能选优”的技术。蒙特卡洛树搜索框架，深度学习和强化学习就是其中三种重要的技术（算法）。
蒙特卡洛树搜索是基于概率的通过计算、模拟、采样、优化等一系列数学方法，进行搜索决定走法。
马庆国认为，近10余年来，人工智能最显著的进步之一发生在深度学习的领域（主要是深度神经网络领域），神经网络深度化（多层化）的最大难题之一，是迭代计算超多参数时的损失函数的梯度退化问题，辛顿等科学家在这方面做了很好的工作，使得基于深度神经网络的深度学习得以发展。
基于深度神经网络的深度学习，没有对所研究问题的环境作明确表征，也不探求因果关系（本质上是“黑箱”模型）。在基于巨量数据、完成了对一个网络的训练后，程序员就用这个训练的结果模型，运行新的数据，选择落子的走法。
AlphaGo的核心技术是强化学习，强化学习强调智能体和环境之间的互动，通过让智能体寻求期望奖励的最大化来习得从状态空间到行动空间的策略函数。
强化学习的本质是实现“自动决策”。机器会在没有任何指导、标签的情况下，尝试行为，得到一个结果，再判断是对还是错，由此调整之前的行为，通过不断地调整，算法持续优化。
有人认为，强化学习的本质正在接近人类的学习，但它是否能够实现人类大脑的智能？马庆国的回答是否定的。
“目前，我们还没有制造出能像人一样思维的机器，我们只能在一些狭义领域，制造出比人类某些智能更出色的机器。这并不奇怪，因为这些领域关注的是计算机更擅长的事——基于数学的逻辑的算法和对以往事实的快速存取。”
在马庆国看来，计算型的智能只是人类智能的一部分。在这种类型的智能方面，人造的机器超过了人。但在“理解”（如，理解语言、理解社会）方面，人工智能与人类智能有质的差异。
马庆国介绍说，英国数学家和物理学家罗杰·彭罗斯曾在他著名的人工智能科普读物《皇帝新脑——有关电脑、人脑及物理定律》一书中，引用了美国哲学家约翰·西尔勒的思想实验——“中文屋子”来论证计算机及算法实际上并不是“理解”智能。
“中文房间”实验假设一位只说英语的人身处一个密闭房间。假设房间里有一本回答所有问题的中文书，以及足够的稿纸、铅笔和橱柜。写着中文问题的纸片通过小窗口被送入房间中。房间中的人可以通过比对，在这本书上找到这个问题的中文答案。然后抄写这个答案从窗口递出去。虽然他根本不懂中文，但房间外的人却以为他理解了中文问题，并用中文思考。
“计算机就是这样工作的。它无法理解接收到的信息，但它可以运行一个程序，处理信息，然后给出一个正确的回答，好像理解了接收到的信息一样。”马庆国说，这个思想实验证明，“计算机及其算法”事实上并不像人类一样“理解”其所执行的任务。
人类是如何思考的？
人工智能要想真正实现人类智能，需要具备什么能力？
马庆国认为，人类智能的最大特点之一，就是能够创造性地解决从未遇到过的新问题。
他常举的一个例子是：当一个人在过一座独木桥时，突然之间桥断裂了，人依然可以想出很多点子来解决过河的问题，找木头搭建简易桥或者抱着浮木游到河对岸，等等。
“计算机就没有这样的能力，除非人事先给它设定了‘在需要过没有桥的河时，应找木头搭建简易桥’。可是，如果周围没有可以搭建简易桥的木头呢？人类可以想其他办法，计算机就无能为力了。”
在他看来，问题的症结在于，计算机是遵守规则的机器。在现实世界中，规则总是不可能穷尽的。现在的人工智能本身并没有创造性，当遇到旧规则不能可决的新问题时，它不能像人类一样完全根据面对的问题想出从未有过的解决办法。
人类的理解力又是从何而来？
马庆国说，以语言为例，一个孩子学会理解语言，其实也是来源于对应关系。当他第一次面对一个全新的词汇时并不能理解，直到一种情景反复出现，并在这个情境中与他人互动，他就可以将这个词汇和情景对应起来。越长大，可以跟这个词汇对应的东西越来越多，关于这个词汇的理解，也就形成了。再经过不同个体的互动和交流，关于这个词汇共同理解，也就形成了。
计算机只能做到有限的对应，因为真实环境太过复杂，现在它对语言的“理解”可谓捉襟见肘。“但这也带来了一个问题：计算机总是在不断进步和发展的，理论上它的对应也会越来越丰富，越来越复杂。那么在哲学上，这一量变是否可能带来质变？计算机也进步到可以理解词汇了？”
马庆国认为，这个问题还没有答案。不过，他对人工智能完全实现人类智能的前景并不乐观。
人脑真实的智能和人工智能最大的区别的来源，可能在于脑的工作方式。
“尽管计算机也叫电脑，但它和人脑的工作方式完全是两回事。”马庆国说，无论是存储、计算，还是创造，大脑都是靠神经元、树突、轴突以及突触等相互衔接的结构和多种神经介质，来实现工作的：从神经元前面来的信号，到这个神经元后面出去，成百上千个甚至更多的连接。而不同的连接方式，就可能在工作中形成了不同的意识。
对此，人们又开始对模拟人脑的人工智能报以希望。
他表示，这就需要破解哲学上的一个难题：思维是彼岸的，现实存在是此岸的，两者之间是有鸿沟的，哲学上认为这是不能跨越的。现在，我们希望通过脑神经研究，使彼岸的思维能够用此岸的神经元活动来解释。
“人类的意识本身最终能够在神经元活动的水平上被解读，可能需要上千年的时间。即便解读了，机器能能够完全模拟神经元的工作方式吗？”
作为首个提出神经管理学的学者，马庆国坦言，按照AI现有的技术路径是难以实现的，除非未来我们能够创造出一种完全颠覆性的理论技术体系。从这个角度来看，担忧人工智能会超越甚至取代人类，根本无从谈起。
版权声明：凡本网注明“来源：中国科学报、科学网、科学新闻杂志”的所有作品，网站转载，请在正文上方注明来源和作者，且不得对内容作实质性改动；微信公众号、头条号等新媒体平台，转载请联系授权。邮箱：shouquan@stimes.cn。陈春花：不要担心机器像人一样思考，应该担心人像机器一样思考
原标题：陈春花：不要担心机器像人一样思考，应该担心人像机器一样思考来源：春暖花开
图片来源：图虫文｜陈春花北京大学王宽诚讲席教授、北京大学国发院BiMBA商学院院长我们会发现突然有一个变化，这个变化很像德鲁克说的，以前我们会认为我们的很多东西可能是在“道”的层面，它很难降到“器”的层面。我们在过去的理解当中，也会认为形而上、形而下是分开的。可是随着技术的发展和人类的进步，我们会发现两者之间没有办法有界限，所以无论是西方还是东方，我们突然间意识到，“道”与“器”之间必须完全融合。所以在德鲁克看过去的150年，他发现真正推动社会变革的其实是知识，他在下这个结论的时候会把过去的150年分为三个阶段。在第一个阶段当中，他说当知识可以变成我们称之为工具的时候，你就会发现整个知识的传递改变了整个世界，也就是工业革命的出现。我们在这之前需要的都是经验，但是经验很难大面积地复制和普及，所以当它可以被印刷，当经验可以变成知识的时候，它变成非常普及性的东西的时候，整个社会的生产力革命其实就被调整了。所以我们从这个意义上理解整个工业革命真正的起步，不是在于机器，而是在于知识变成了机器和工具。因此就有第二个阶段，真正管理革命的出现其实是来源于知识变成了生产的过程。也就是当知识应用于整个生产过程的时候，才会有大量的我们称之为生产力革命的出现，也就是生产效率的出现。整个生产效率的出现就导致了我们看到整个现代社会的飞速发展，因而也就引入了第三个阶段，这个阶段德鲁克称之为知识被运用于知识本身，他定义为管理革命。而在管理革命当中一个最重要的变化是什么？就是让体力劳动者变成知识工作者。而我们所有人成为知识工作者的时候，整个社会的效率和社会的发展就完全不一样了。如果沿着这个逻辑往下走，我们就会发现在今天我们有一个更大的变化，不仅仅是知识应用于工具，知识应用于生产力，知识应用于知识本身，知识还出现了一个根本性的变化，这个变化就是知识应用于系统创新。所以我们就来到了一个新的时代。这个时代我们今天用了一个词描述它，叫人机共生。所以当我去帮助各位回顾最近150年来，我们说知识变成社会根本变革的力量，走到今天知识变成了创造未来社会的力量。所以你不仅仅是看到知识变革这个社会，而必须去理解知识本身开始创造社会。所以当我们的研究回到人机这个概念的时候，你会发现我们出现了四种可能性。机器或者知识帮助人机之间产生更多的可能性，我们称之为人机共生。但是也可能机器帮助了人之后，我们会有一个偏利共生。但是也很有可能，在机器出现在这个世界当中的时候，仅仅是机器发展，对人也许是伤害，我们叫做偏害共生。还有一种可能是我们无法想象的，叫做吞噬取代。所以我们在讨论这个概念的时候，其实我们是很需要去懂一件事情，这件事情就是我们未来社会不仅仅有人，还有一个更大的可能性，是人跟知识组合之后的一个社会。所以我们今天一天的嘉宾演讲中，有各个维度讨论教育，我们更重要的一个要回顾的话题就是，在未来人机共生的社会当中，人的意义在哪里？如何让人能够在未来活出人的样子？这实际上是我们今天教育可能遇到的最大的挑战。如果我们按照这样的一个概念去看，我们其实真的会发现我们的知识半衰期实际上变得越来越短。我甚至在过去的课程当中跟很多人讨论，我们说管理学的知识大概可以多长时间有效呢？我们开玩笑说以前的管理学知识可能两年有效。但是今天的管理学知识，如果按照数字化的逻辑去看的话，好像入学三个星期之后很多东西都变了。所以从这个意义来讲，我们会发现技术带来社会进步的速度其实是超过我们想象的。如果按照这样的数字去理解，技术在人类的社会生活当中所带来的变化，你也就可以理解为什么今天的教育，我们在知识学习上变得如此巨大的挑战，是因为的的确确变化和衰退的时间周期超过了我们的想象。我们按照这样的一个逻辑去理解的话，其实我们就会知道真正对于知识本身来讲，需要承担两个最重要的事情。一件事情就是如何全面地去真正理解知识，因为知识已经不再是一个变革的要素了，它本身就在创造社会。如果按照这个角度去理解的话，我们其实就要认真地理解，我们是不是真的理解知识。另外一个更重要的理解就是，因为它是在创造社会，所以我们可能必须对整个星球、整个宇宙要承担责任，因为你在创造它。所以我们因此会要求，无论是从教育还是一个人的维度上来讲，我们可能肩负着两个最大的、之前我们可能没有意识到的巨大的责任，一个就是你在创造一个社会，一个就是你对整个宇宙必须责任承担。我们就会要求，对于我们来讲最重要的就是你如何致力于创造知识。那如何致力于创造知识？就会让我想到非常多的东西。首先第一个想到的就是我们作为一个主体，我们能不能真正觉悟。如果按上午的讲解，我们就会知道人机共生之后，人存在的意义和价值是完全改变的，不再是从属关系。如果每一个都是主体概念的话，那作为其中一个最重要的主体人来说，你的主体意识如何觉醒？你如何意识到你的责任，如何意识到你对周遭世界的影响，甚至对于整个宇宙的影响？所以我会想到苏格拉底，他会告诉你，当你觉得你无知的时候，其实才是你获取知识的真正前提。所以林校长讲五个教育共识的时候，也会告诉我们，我们如何真正拥有批判的精神，我们如何真正理解我们跟这个理解的关系。而这种主体的觉醒、主体的觉悟，很重要的一个部分是来源于我们通过教育去唤醒。而所有的专家都在这个地方跟大家设想我们所看到的这些困难，以及挑战，就像我们刚才在回顾整个教育的培养模式的时候，我们都会心地笑。很重要的就是我们自己主体的觉悟是否能做到，这是第一个。第二，我们有没有能力去超越感知？我们看到的就是真的吗？我们没有看到的就不存在吗？其实我过去在学习的时候，我感受最深的一个概念就是我们看到的这个叫做洞穴理念，当柏拉图讨论这个概念的时候，你就会发现我们其实是受限于我们的认知。当我们受限于自己认知的时候，我们就会认为我们看到的是真实的，我们理解的才是存在的，我们存在的才是合理的。可是如果你没有能力去超越这些感知，你没有能力去认知那些永恒存在的东西，那也许你就不理解什么叫做知识。所以当我自己不断去研究的时候，我其实也是深受它的影响。当我们影响到这个概念的时候，其实我们知道知识有一个能力，这个能力就是超越于有形去感知完全未知的东西。所以当我们看未来教育的时候，其实我内心最想感受的东西，就是我们有没有能力让我们的学生不是以已知理解未知，而是有没有以未知创造未知，这是我们超越感知最重要的部分。这是第二个。第三，我们能不能高于自我？我们在很多的时候，其实都不断地去理解我们的理想到底是什么？我们的理想是真正意义上的理想，如果从《道德经》看，有老子的启发，他就会告诉你为什么开篇叫“道恒道，非常道”，就是因为他告诉你说这个道并不是恒定的。为什么人与自然界之间的认知当中，我们一定是有能力跟它组合在一个空间当中？是因为这个道并不是一个恒定的道。如果你愿意去跟这个自然做融合，高于你自己的追求和自己的想法，把你完全放在一个大的空间当中，你的选择、你的行动，以及你的努力，其实就会是一个新的道。这种重新去设立的道路，重新去建立空间，正是《道德经》给我们最重要的一个启示。而这种启示就意味着我们在教育和知识的场景当中，我们是有能力为我们的学生、为我们自己去创设一个新的场景，而这个场景经你的选择、你的努力，以及你的行动会是一条新路。所以如果我们认为知识在未来是一个完全创造社会、完全创造世界的一个最重要的核心变量，那么我们重要的是在于，我们能不能够高于自我、能不能够超越感知、能不能主体觉悟？而以我30多年做老师的身份来讲，我觉得这三样东西完全要由教育去承担。我们怎么理解，为什么这是一个我们要选的话题？我一直在想我们人类是在什么时候开始知道自己的。我们就会回到那个时间，那个时间是《荷马史诗》，那是人类与神可以对话的时代，也是人与自然可以共存的时代。那个时代当中你会发现人对自我的认知与对世界的认知都是非常笃定、非常纯粹，也是非常美的。然后经历了1400多年，我们来到了一个让我们都觉得非常残酷、梦幻，却又无力撕扯和挣扎的地方，就有了但丁和但丁的《神曲》，人经历了1400多年之后进入了非常撕扯的地方，是源于自我的迷失，所以他看到的是一个恶梦，他需要的是一个幻觉的梦境。然后我们又继续再走接近500年，我们又会看到了人类再一次想我怎么样去从现实跟现实，和脱离现实之间找一条路，就有了《浮士德》，有了歌德。当歌德和《浮士德》出现在我们身边的时候，我们就发现我们每个人厌倦知识，想回到现实。但是回到现实的时候又非常失望，最后《浮士德》说他想回到希腊。他为什么会想回到希腊，回到《荷马史诗》的时候？是因为这时候人类终于理解了什么叫人、什么叫自然、什么叫神。所以我们当我们不断追溯人对自身认识的时候，我们来到了米利都历代，他告诉世界的本源是什么、万物的本源是什么？当人类在这个时间清楚地知道他跟世界的关系的时候，他最重要的武器是什么？是纯粹的逻辑寻求了事物的本质，这是智者，人类脱离了混沌。我想如果我们面向未来，也许这是一条重要的路，也就是我们知道自然，我们知道世界，我们也回顾自己，也知道事物的本质是什么。而这一切恰恰就是今天需要再教育和我们自己所要探索的路。最后一句话，林校长一开始也引了这句话，也是我个人最近常说的一句话。其实我们真的不担心机器像人一样的思考，我们最担心的是人像机器一样思考。未来教育也许最重要的是恢复人自己的认知。谢谢大家。（本文根据陈春花在“2020未来教育论坛暨北京大学未来教育管理研究中心成立大会”的演讲内容整理而成，首发于凤凰网财经，由作者授权界面新闻转载。本文有删减。）