人工智能学派之间的「联姻」——Yoshua 新作居然用DL「复活」了符号主义
来源：新智元
相信大家都知道，目前人工智能的主要学派有下列三家： (1)符号主义(symbolicism)，又称为逻辑主义、心理学派或计算机学派，其原理主要为物理符号系统(即符号操作系统)假设和有限合理性原理。(2)连接主义(connectionism)，又称为仿生学派或生理学派，其主要原理为神经网络及神经网络间的连接机制与学习算法。(3)行为主义(actionism)，又称为进化主义或控制论学派，其原理为控制论及感知-动作型控制系统。符号主义曾长期一枝独秀，为人工智能的发展作出重要贡献，尤其是专家系统的成功开发与应用，为人工智能走向工程应用和实现理论联系实际具有特别重要的意义。1986年，鲁梅尔哈特(Rumelhart)等人提出多层网络中的反向传播(BP)算法。此后，连接主义势头大振，从模型到算法，从理论分析到工程实现，为神经网络计算走向市场打下基础。而现在，YoushioBengio干了一件神奇的事情——他带领团队，使用深度学习使符号人工智能恢复了活力：近日，YoushioBengio和一组研究人员引入了一个端到端深度学习模型，该模型部分受到经典人工智能生产系统的启发，可以在视频中构建以对象为中心的实体表示，并使用可微分和可学习的生产规则对其进行操作。研究团队主要来自于蒙特利尔大学的Mila、DeepMind、Waverly和谷歌Brain。任何结构化视觉环境（如视频）中的对象或者实体都具有可见和潜在的属性，这些属性决定了他们如何相互作用。为这种相互作用建模的传统方法是使用等变图神经网络（GNNs）。然而，这种设置并不理想，因为GNN并不能预先处理稀疏交互，也不能以实体条件的方式分解交互的知识。本文提出的神经生产系统（NeuralProductionSystems，NPS）则解决了这些问题。论文链接：https://arxiv.org/pdf/2103.01937.pdfNPS由一组规则模版组成，通过将规则中的占位符变量绑定到特定的实体，这些模版可在丰富的可视环境中分解特定于实体和基于规则的信息。我们知道，根据物理定律，把盘子从餐桌上推下去会导致盘子掉到地板上，并且很可能会摔碎。尽管从未学过基本的物理知识，即使是孩子，也可以用命题表达的方式来表达这一知识，比如:「如果一个盘子从桌子上掉下来，它会摔碎。」然而，这种命题知识的简单表达仍然是深度学习体系结构的一个挑战，原因有两个:1）命题是离散的，彼此独立2）命题必须被量化为一阶逻辑的方式。关于符号知识表示的命题推理，经典的人工智能方法提供了一些有价值的视角。其中，一个简单的例子是20世纪80年代的生产系统，它通过条件-动作规则来表达知识。现在，研究人员从深度学习的角度重新审视了这种产生系统，并提出了一种神经生产系统，可以自然的将感知处理和随后的视觉推理问题的推理结合起来。研究人员提出的NPS与传统的生产系统都有四个基本性质：模式、抽象、稀疏和对称。他们规定了知识是如何表示的。这个生产的体系结构，还支持实体表示的检测和推断，并且能控制他们交互的潜在规则。图：规则和槽的组合在上图中，条件操作规则指定实体如何交互，插槽则维持实体的时变状态。每条规则都与一对插槽匹配。通过键值注意力机制，我们可以确定匹配的优度，并选择规则及其对插槽的绑定。在实验部分，研究人员测试了NPS的有效性。其中一项涉及了学习数字的加、减、乘运算的算数任务；实验还涉及了MNIST转换，以测试扩展到更加丰富的视觉设置的能力；最后，为了模拟简单的物理世界，实验还包括了一个动作约束（Action-Conditioned）的模型。图：算术任务上图使了用不同序列长度对应的均方误差损失（MSE），该部分主要将NPS与基线模型进行了比较。图：MNIST转换图：Action-Conditioned模型上图中的（a）使用了H@1指标比较了NPS和GNN（越高越好），（b）表示了在在物理环境中使用单个规则时，NPS中使用的规则应用步骤数量的影响。（c）则对NPS和GNN模型中五款游戏Atari游戏H@1的平均得分进行了比较。在算术任务中，NPS的MSE明显低于基线。在MNIST转换任务中，NPS成功地学会了使用单独的规则来表示每个转换，而物理环境模拟则验证了NPS从简单(少数对象)环境到更复杂环境的推断能力。参考资料：https://arxiv.org/pdf/2103.01937.pdf（声明：本文仅代表作者观点，不代表新浪网立场。）
符号智能：符号学习
符号智能：符号学习前言在人工智能领域中，符号智能是一种非常重要的研究方向，也是比较经典的人工智能算法之一。本文将介绍符号智能的基本思想、算法流程以及应用实例。如果您对符号智能和符号学习感兴趣，那么请继续阅读。
基本思想符号智能是一种以符号操作为基础的人工智能方法，它的基本思想是使用符号表示和操作知识，从而实现推理、规划和决策等高级智能功能。
符号智能的核心是符号学习，即如何从原始数据中提取出符号表示，并通过逻辑、推理等方式对这些符号进行操控。符号学习可以分为以下几个步骤：
数据预处理：将原始数据转化为符号表示。符号表示：将数据转化为一组符号（例如谓词、命题等）。知识表示：使用一组逻辑语句表示知识，其中每个语句包含一个或多个符号。推理：使用逻辑推理来从先前表示的知识中推断出新的知识。学习：根据输入的数据和先前的知识来学习新的知识，从而不断完善知识库。算法流程符号智能的流程可以总结为以下几个步骤：
数据预处理：将原始数据转化为符号表示。符号表示：将数据转化为一组符号（例如谓词、命题等）。知识表示：使用一组逻辑语句表示知识，其中每个语句包含一个或多个符号。推理：使用逻辑推理来从先前表示的知识中推断出新的知识。学习：根据输入的数据和先前的知识来学习新的知识，从而不断完善知识库。应用实例符号智能的应用非常广泛，在许多领域都有涉及。下面我们介绍几个符号智能的应用实例。
机器翻译机器翻译是指使用计算机程序将一个语言的文本转化为另一个语言的文本。符号智能方法可以通过对语言进行符号表示和运算来实现机器翻译。
人机对话系统人机对话系统是指计算机程序和人之间进行自然语言沟通的系统。符号智能方法可以使用逻辑推理来实现对话系统中的问答过程。
专家系统专家系统是指利用计算机模拟人类专家决策过程的系统。符号智能方法可以使用知识表示和推理来实现专家系统的知识库。
总结符号智能是一种非常重要的人工智能算法，在许多领域都有广泛应用。本文简单介绍了符号智能的基本思想、算法流程以及应用实例。如果您对符号智能感兴趣，建议进一步学习和了解。
人工智能的三大学派
二、连接主义学派
连接主义，又称仿生学派或生理学派，是一种基于神经网络和网络间的连接机制与学习算法的智能模拟方法。连接主义强调智能活动是由大量简单单元通过复杂连接后，并行运行的结果，基本思想是，既然生物智能是由神经网络产生的，那就通过人工方式构造神经网络，再训练人工神经网络产生智能。1943年形式化神经元模型（M-P模型）被提出，从此开启了连接主义学派起伏不平的发展之路。1957年感知器被发明，之后连接主义学派一度沉寂。1982年霍普菲尔德网络、1985年受限玻尔兹曼机、1986多层感知器被陆续发明，1986年反向传播法解决了多层感知器的训练问题，1987年卷积神经网络开始被用于语音识别。此后，连接主义势头大振，从模型到算法，从理论分析到工程实现，为神经网络计算机走向市场打下基础。1989年反向传播和神经网络被用于识别银行手写支票的数字，首次实现了人工神经网络的商业化应用。
与符号主义学派强调对人类逻辑推理的模拟不同，连接主义学派强调对人类大脑的直接模拟。如果说神经网络模型是对大脑结构和机制的模拟，那么连接主义的各种机器学习方法就是对大脑学习和训练机制的模拟。学习和训练是需要有内容的，数据就是机器学习、训练的内容。
连接主义学派可谓是生逢其时，在其深度学习理论取得了系列的突破后，人类进入互联网和大数据的时代。互联网产生了大量的数据，包括海量行为数据、图像数据、内容文本数据等。这些数据分别为智能推荐、图像处理、自然语言处理技术发展做出卓著的贡献。当然，仅有数据也不够，2004年后大数据技术框架的行成和图形处理器（GPU）发展使得深度学习所需要的算力得到满足。
在人工智能的算法、算力、数据三要素齐备后，连接主义学派就开始大放光彩了。2009年多层神经网络在语音识别方面取得了重大突破，2011年苹果工作将Siri整合到iPhone4中，2012年谷歌研发的无人驾驶汽车开始路测，2016年DeepMind击败围棋冠军李世石，2018年DeepMind的Alphafold破解了出现了50年之久的蛋白质分子折叠问题。
近年来，连接主义学派在人工智能领域取得了辉煌成绩，以至于现在业界大佬所谈论的人工智能基本上都是指连接主义学派的技术，相对而言，符号主义被称作传统的人工智能。
虽然连接主义在当下如此强势，但可能阻碍它未来发展的隐患已悄然浮现。连接主义以仿生学为基础，但现在的发展严重受到了脑科学的制约。虽然以连接主义为基础的AI应用规模在不断壮大，但其理论基础依旧是上世纪80年代创立的深度神经网络算法，这主要是由于人类对于大脑的认知依旧停留在神经元这一层次。正因如此，目前也不明确什么样的网络能够产生预期的智能水准，因此大量的探索最终失败。
三、行为主义学派
行为主义，又称进化主义或控制论学派，是一种基于“感知——行动”的行为智能模拟方法，思想来源是进化论和控制论。其原理为控制论以及感知——动作型控制系统。该学派认为：智能取决于感知和行为，取决于对外界复杂环境的适应，而不是表示和推理，不同的行为表现出不同的功能和不同的控制结构。生物智能是自然进化的产物，生物通过与环境及其他生物之间的相互作用，从而发展出越来越强的智能，人工智能也可以沿这个途径发展。
行为主义对传统人工智能进行了批评和否定，提出了无须知识表示和无须推理的智能行为观点。相比于智能是什么，行为主义对如何实现智能行为更感兴趣。在行为主义者眼中，只要机器能够具有和智能生物相同的表现，那它就是智能的。
这一学派的代表作首推六足行走机器人，它被看作是新一代的“控制论动物”，是一个基于感知-动作模式模拟昆虫行为的控制系统。另外，著名的研究成果还有波士顿动力机器人和波士顿大狗。你可以在网上搜到它们各种炫酷的视频，包括完成体操动作，踹都踹不倒，稳定性、移动性、灵活性都极具亮点。他们的智慧并非来源于自上而下的大脑控制中枢，而是来源于自下而上的肢体与环境的互动。
行为主义学派在诞生之初就具有很强的目的性，这也导致它的优劣都很明显。其主要优势便在于行为主义重视结果，或者说机器自身的表现，实用性很强。行为主义在攻克一个难点后就能迅速将其投入实际应用。例如机器学会躲避障碍，就可应用于星际无人探险车和扫地机器人等等。不过也许正是因为过于重视表现形式，行为主义侧重于应用技术的发展，无法如同其他两个学派一般，在某个重要理论获得突破后，迎来爆发式增长。这或许也是行为主义无法与连接主义抗衡的主要原因之一。
四、总结
综上所述，我们可以简略地认为符号主义研究抽象思维，连接主义研究形象思维，而行为主义研究感知思维。符号主义注重数学可解释性；连接主义偏向于仿人脑模型；行为主义偏向于应用和身体模拟。
从共同性方面来说，算法、算力和数据是人工智能的三大核心要素，无论哪个学派，这三者都是其创造价值和取得成功的必备条件。行为主义有一个显著不同点是它有一个智能的“载体”，比如上文所说到的“机器狗”的身体，而符号主义和连接主义则无类似“载体”（当然你也可以认为其“载体”就是计算机，只不过计算机不能感知环境）。
人类具有智能不仅仅是因为人有大脑，并且能够保持持续学习。机器要想更“智能”，也需要不断学习。符号主义靠人工赋予机器智能，连接主义是靠机器自行习得智能，行为主义在与环境的作用和反馈中获得智能。连接主义和行为主义都使用强化学习方法进行训练。三者之间的长处与短板都很明显，意味着彼此之间可以扬长补短，共同合作创造更强大的强大的人工智能。比如说将连接主义的“大脑”安装在行为主义的“身体”上，使机器人不但能够对环境做出本能的反应，还能够思考和推理。再比如，是否用可以符号主义的方法将人类的智能尽可能地赋予机器，再按连接主义的学习方法进行训练？这也许可以缩短获得更强机器智能的时间。
相信随着人工智能研究的不断深入，这三大学派会融合贯通，可共同为人工智能的实际应用发挥作用，也会为人工智能的理论找到最终答案。
左小波先生，自92年进入IT行业，一直从事着信息系统的研发及企业IT管理工作，在行业多年的浸润下，积累了丰富的数字化建设经验，形成了独到见解。对人工智能有着浓厚的兴趣，时刻对人工智能技术保持观察、学习、思考、分享
客户案例（部分）返回搜狐，查看更多