符号主义
牛津计算机系主任:AI中符号主义和神经网络应融合发展
在人工智能与机器人峰会上,AlphaGo背后的团队DeepMind成员之一、计算机系主任、Oxford-DeepMindPartnership负责人,AAAI、EURAIFellow迈克尔伍尔德里奇MichaelWooldridge,就人工智能研究的现
人工智能导论——人工智能的主要学派及主张
目前对人工智能研究影响较大的的学派主要有符号主义、联结主义和行为主义这三大学派。
(1)符号主义(symbolicism),又称为逻辑主义(logicism)、心理学派(psychologism)或计算机学派(computerism),其原理主要为物理符号系统(即符号操作系统)假设和有限合理性原理。
主张:该学派认为人工智能源于数理逻辑。数理逻辑从19世纪末起得以迅速发展,到20世纪30年代开始用于描述智能行为。计算机出现后,又再计算机上实现了逻辑演绎系统。其有代表性的成果为启发式程序LT逻辑理论家,证明了38条数学定理,表了可以应用计算机研究人的思维多成,模拟人类智能活动。该学派认为人类认知和思维的基本单元是符号,而认知过程就是在符号表示上的一种运算。符号主义致力于用计算机的符号操作来模拟人的认知过程其,实质就是模拟人的左脑抽象逻辑思维,通过研究人类认知系统的功能机理,用某种符号来描述人类的认知过程,并把这种符号输入到能处理符号的计算机中,从而模拟人类的认知过程,实现人工智能。
(2)联结主义(connectionism),又称为仿生学派(bionicsism)或生理学派(physiologism),其主要原理为神经网络及神经网络间的连接机制与学习算法。
主张:其原理主要为神经网络和神经网络间的连接机制和学习算法。这一学派认为人工智能源于仿生学,特别是人脑模型的研究。联结主义学派从神经生理学和认知科学的研究成果出发,把人的智能归结为人脑的高层活动的结果,强调智能活动是由大量简单的单元通过复杂的相互连接后并行运行的结果。其中人工神经网络就是其典型代表性技术。 它的代表性成果是1943年由生理学家麦卡洛克(McCulloch)和数理逻辑学家皮茨(Pitts)创立的脑模型,即MP模型,开创了用电子装置模仿人脑结构和功能的新途径。它从神经元开始进而研究神经网络模型和脑模型,开辟了人工智能的又一发展道路。
(3)行为主义(actionism),又称为进化主义(evolutionism)或控制论学派(cyberneticsism),其原理为控制论及感知-动作型控制系统。
主张:认为人工智能源于控制论。控制论思想早在20世纪40~50年代就成为时代思潮的重要部分,影响了早期的人工智能工作者。维纳(Wiener)和麦克洛克(McCulloch)等人提出的控制论和自组织系统以及钱学森等人提出的工程控制论和生物控制论,影响了许多领域。控制论把神经系统的工作原理与信息理论、控制理论、逻辑以及计算机联系起来。早期的研究工作重点是模拟人在控制过程中的智能行为和作用,如对自寻优、自适应、自镇定、自组织和自学习等控制论系统的研究,并进行“控制论动物”的研制。到20世纪60~70年代,上述这些控制论系统的研究取得一定进展,播下智能控制和智能机器人的种子,并在20世纪80年代诞生了智能控制和智能机器人系统。行为主义是20世纪末才以人工智能新学派的面孔出现的,引起许多人的兴趣。这一学派的代表作者首推布鲁克斯(Brooks)的六足行走机器人,它被看作是新一代的“控制论动物”,是一个基于感知-动作模式模拟昆虫行为的控制系统。
就人工智能三大学派的历史发展来看,符号主义认为认知过程在本体上就是一种符号处理过程,人类思维过程总可以用某种符号来进行描述,其研究是以静态、顺序、串行的数字计算模型来处理智能,寻求知识的符号表征和计算,它的特点是自上而下。而联结主义则是模拟发生在人类神经系统中的认知过程,提供一种完全不同于符号处理模型的认知神经研究范式。主张认知是相互连接的神经元的相互作用。行为主义与前两者均不相同。认为智能是系统与环境的交互行为,是对外界复杂环境的一种适应。
内容主要来自于《人工智能及其应用》
人工智能三大主要学派:符号主义、连接主义、行为主义
人工智能的发展,在不同的时间阶段经历了不同的流派,并且相互之间盛衰有别。目前人工智能的主要学派有下列三家:
符号主义(symbolicism),又称为逻辑主义、心理学派或计算机学派,其原理主要为物理符号系统,即符号操作系统,假设和有限合理性原理。
连接主义(connectionism),又称为仿生学派或生理学派,其主要原理为神经网络及神经网络间的连接机制与学习算法。
行为主义(actionism),又称为进化主义或控制论学派,其原理为控制论及感知-动作型控制系统。
会发现三者的根源依据存在着较大的差异性,也为后世的学派发展产生了较为深远的影响。
符号主义(优秀的老式人工智能)
认为人工智能源于数理逻辑,主张用公理和逻辑体系搭建一套人工智能系统。代表的有支持向量机(SVM),长短期记忆(LSTM)算法。
数理逻辑从19世纪末起得以迅速发展,到20世纪30年代开始用于描述智能行为。计算机出现后,又在计算机上实现了逻辑演绎系统。其有代表性的成果为启发式程序LT逻辑理论家,它证明了38条数学定理,表明了可以应用计算机研究人的思维过程,模拟人类智能活动。
正是这些符号主义者,早在1956年首先采用“人工智能”这个术语。后来又发展了启发式算法>专家系统>知识工程理论与技术,并在20世纪80年代取得很大发展。
符号主义曾长期一枝独秀,为人工智能的发展作出重要贡献,尤其是专家系统的成功开发与应用,为人工智能走向工程应用和实现理论联系实际具有特别重要的意义。在人工智能的其他学派出现之后,符号主义仍然是人工智能的主流派别。
优点:越来越多的人认识到,高风险决策领域对人工智能系统有需求,因此这些系统的行为要有可验证性与可解释性,而这恰恰是符号主义AI的优势,联结主义算法的短板。
不足:虽然符号主义AI技术可以处理部分不可观察概率模型,但这些技术并不适用于有噪输入信号,也不适用于无法精确建模的场合。在那些可以准确判断出特定条件下特定动作利弊与否的场合中,它们会更有效。此外,算法系统还要提供适当的机制来实现清晰的规则编码与规则执行。
符号主义算法会剔除不符合特定模型的备选值,并能对符合所有约束条件的所求值做出验证,以后者而言,符号主义AI远比联结主义AI便捷。因为符号主义AI几乎或根本不包括算法训练,所以这个模型是动态的,能根据需要迅速调整
连接主义(壮年最普遍的人工智能)
认为人工智能源于仿生学,神经网络,特别是对人脑模型的研究,主张模仿人类的神经元,用神经网络的连接机制实现人工智能。
它的代表性成果是1943年由生理学家麦卡洛克(McCulloch)和数理逻辑学家皮茨(Pitts)创立的脑模型,即MP模型,开创了用电子装置模仿人脑结构和功能的新途径。
它从神经元开始进而研究神经网络模型和脑模型,开辟了人工智能的又一发展道路。20世纪60~70年代,连接主义,尤其是对以感知机(perceptron)为代表的脑模型的研究出现过热潮,由于受到当时的理论模型、生物原型和技术条件的限制,脑模型研究在20世纪70年代后期至80年代初期落入低潮。
直到Hopfield教授在1982年和1984年发表两篇重要论文,提出用硬件模拟神经网络以后,连接主义才又重新抬头。1986年,鲁梅尔哈特(Rumelhart)等人提出多层网络中的反向传播(BP)算法。此后,连接主义势头大振,从模型到算法,从理论分析到工程实现,伟神经网络计算机走向市场打下基础。
现在,对人工神经网络(ANN)的研究热情仍然较高,但研究成果没有像预想的那样好。
行为主义
行为人工智能源于控制论。控制论思想早在20世纪40~50年代就成为时代思潮的重要部分,影响了早期的人工智能工作者。维纳(Wiener)和麦克洛克(McCulloch)等人提出的控制论,和自组织系统以及钱学森等人提出的工程控制论和生物控制论,影响了许多领域。
控制论把神经系统的工作原理与信息理论、控制理论、逻辑以及计算机联系起来。早期的研究工作重点是模拟人在控制过程中的智能行为和作用,如对自寻优、自适应、自镇定、自组织和自学习等控制论系统的研究,并进行“控制论动物”的研制。
到20世纪60~70年代,上述这些控制论系统的研究取得一定进展,播下智能控制和智能机器人的种子,并在20世纪80年代诞生了智能控制和智能机器人系统。行为主义是20世纪末才以人工智能新学派的面孔出现的,引起许多人的兴趣。
这一学派的代表作者首推布鲁克斯(Brooks)的六足行走机器人,它被看作是新一代的“控制论动物”,是一个基于感知-动作模式模拟昆虫行为的控制系统。
总结
三大主义,从不同的侧面研究了人的自然智能,与人脑的思维模型有着对应的关系。粗略地划分,可以认为
符号主义研究抽象思维;
连接主义研究形象思维;
而行为主义研究感知思维。
研究人工智能的三大学派、三条途径发挥到各个领域,又各有所长。
符号主义注重数学可解释性;
连接主义偏向于仿人脑模型,更加感谢;
行为主义偏向于应用和模拟。
可解释人工智能:符号主义、联结主义对比
在symbolicAI和connectionistAI中,符号学派致力于知识及其在推理和学习中的应用(只有少量的输入数据),而不是符号本身:符号通常只代表知识的抽象。类似地,联结主义阵营实际上是从很少或没有先验知识的数据中学习关联,通常需要大规模的数据。现如今,大量数据的存在与引用使得connectionistAI成为人工智能的主导范式。
符号主义(Symbolicism):
又称逻辑主义、计算机学派,主张用公理和逻辑体系搭建一套人工智能系统。
符号是人类大脑的一种主观对象,人类的认知基本上就是建立在符号的基础上的。符号对应于客观事物,就是主观与客观的对应。人类语言就是一种符号系统,人类用语言来表达思维的活动过程。从人类语言几乎万能的表达能力,我们就可以看出符号主义的强大之处。
专家系统是最经典的符号主义人工智能系统之一。即通过建立知识库与推理机来进行决策。专家系统主要是是模拟人类专家的推理思维过程。一般是将领域内专家的知识和经验,用一种知识表达模式存入计算机。系统对输入的事实进行推理,做出判断和决策。专家系统通常由人机交互界面、知识库、推理机、解释器、综合数据库、知识获取等6个部分构成。
优点:越来越多的人认识到,高风险决策领域对人工智能系统有需求,因此这些系统的行为要有可验证性与可解释性,而这恰恰是符号主义AI的优势,联结主义算法的短板。符号主义算法会剔除不符合特定模型的备选值,并能对符合所有约束条件的所求值做出验证,以后者而言,符号主义AI远比联结主义AI便捷。因为符号主义AI几乎或根本不包括算法训练,所以这个模型是动态的,能根据需要迅速调整不足。
劣势:符号主义主要依靠具象的过程来运作,比如逻辑,需要我们给出每一步的具体表达。但人类还具有形象思维,很多时候我们自己也说不出思维的过程,这显然用简单的符号主义很难实现。但是客观世界是连续的、复杂的,单纯的用符号主义来表示就会丢失很多信息。
不足:虽然符号主义AI技术可以处理部分不可观察概率模型,但这些技术并不适用于有噪输入信号,也不适用于无法精确建模的场合。在那些可以准确判断出特定条件下特定动作利弊与否的场合中,它们会更有效。此外,算法系统还要提供适当的机制来实现清晰的规则编码与规则执行。
连接主义(Connectionism):
又叫仿生学派,主张模仿人类的神经元,用神经网络的连接机制实现人工智能。
连接主义是类似于人类大脑神经元连接的一种理论,深度神经网络就是很好的成果。
所谓深度学习就是用很多层神经元构成的神经网络达到机器学习的功能。依靠人工神经网络提供的各种层的感知器,在功能上可以软件实现的深度学习器,实现了机器学习对归纳的掌握,基于连接主义的深度学习技术,目前是人工智能领域的研究重点。
优点:在处理杂乱且非结构化的数据时,神经网络的性能优于其他机器学习技术。对于神经网络来说,即使有输入噪音,网络仍然能正常的工作。
劣势:连接主义比符号主义更偏向于形象思维,但它是一个黑箱,人类并不能完全的分析清楚他的每一步运作原理,这就导致我们不可能把我们的思维过程在机器上实现,所以单纯的用连接主义来实现通用人工智能是最不靠谱的方法。
这些差异或者说不同之处大体上可以从以下的五个方面来进行概括和分析:
第一,符号主义把对于物理符号的加工看作是概念表征的适当载体,而联结主义则是用认知系统或者说人工神经网络的整体方面的状态的变化来表征外部世界的特征;
第二,符号主义将心智看作是一种单纯的“计算的心灵”,联结主义则是把心智视为对于人的大脑或是大脑神经系统的模拟;
第三,符号主义将数字计算机看作是操作物理符号的典型认知系统,联结主义则是将数字计算机看作是建立大脑或大脑神经系统模型的工具;
第四,符号主义将问题解决看作人的智能的基本形式或者说核心内容,试图通过构建某种形式结构来赋予物理符号系统以问题解决的能力,联结主义则把学习的能力当成人的智能的基本形式或者说核心内容,强调建立某种学习机制使得人工智能体能够获得或是拥有自我学习的能力。
本质:符号主义和连接主义都是人脑具备的功能,而人脑的基本物理结构就是神经元,所以符号主义和连接主义必定是基于同样的基本原理。按照这种基本原理,首先实现的就是符号主义,以逻辑为主体。基于符号代表事物之间的联系性,随着符号系统的复杂度不断变大,最终产生了连接主义的那种效果。
尽管最近connectionistAI已经开始解决狭义识别和分类任务之外的问题,但connectionistAI是否能够完成需要常识推理和因果推理的复杂任务还有待观察(所有这些都不包括knowledge和symbols。现在,和那时一样,人们需要新的技术来解释人工神经网络中的处理过程,因为处理过程通常是不透明的,需要将知识注入到联结主义的体系结构中以实现多步推理,需要结合两种范式优势的神经符号架构的第三种方式。
最近的认知科学理论提出了产生人类行为的双重过程——有时被称为系统1和系统2(Kahneman,2011;StanovichandWest,2000),为协调符号性人工智能和联结主义人工智能的各个方面提供了一个理论框架。根据思维的双过程理论,系统1是联想的、隐性的、想象的、个性化的和快速的,而系统2是分析性的、明确的、口头的、泛化的和缓慢的。然而,值得注意的是,符号人工智能和联结主义人工智能与人类认知中的系统1和系统2之间的映射并不是一个直接的一对一映射。虽然系统1可能包含符号和连接主义人工智能的抽象和算法,但系统2的抽象和算法可能大多是象征性的(当然,它也是在人类大脑的神经网络上实现的)。
无论是符号化的还是联结主义的人工智能都没有太多关于社会环境智能的内容。这为XAI的发展提供了机会。