博舍

人工智能之多层感知器MLP 人工智能啥时候提出的

人工智能之多层感知器MLP

人工智能之多层感知器MLP

原创  张志荣

前言:人工智能机器学习有关算法内容,请参见公众号“科技优化生活”之前相关文章。人工智能之机器学习主要有三大类:1)分类;2)回归;3)聚类。今天我们重点探讨一下多层感知器MLP。 ^_^ 

感知器(Perceptron)是ANN人工神经网络(请参见人工智能(25))的一个概念,由FrankRosenblatt于1950s第一次引入。

单层感知器(SingleLayerPerceptron)是最简单的ANN人工神经网络。它包含输入层和输出层,而输入层和输出层是直接相连的。单层感知器仅能处理线性问题,不能处理非线性问题。今天想要跟大家探讨的是MLP多层感知器。

MLP多层感知器是一种前向结构的ANN人工神经网络,多层感知器(MLP)能够处理非线性可分离的问题。

MLP概念:

MLP多层感知器(Multi-layerPerceptron)是一种前向结构的人工神经网络ANN,映射一组输入向量到一组输出向量。MLP可以被看做是一个有向图,由多个节点层组成,每一层全连接到下一层。除了输入节点,每个节点都是一个带有非线性激活函数的神经元。使用BP反向传播算法的监督学习方法来训练MLP。MLP是感知器的推广,克服了感知器不能对线性不可分数据进行识别的弱点。

相对于单层感知器,MLP多层感知器输出端从一个变到了多个;输入端和输出端之间也不光只有一层,现在又两层:输出层和隐藏层。

基于反向传播学习的是典型的前馈网络,其信息处理方向从输入层到各隐层再到输出层,逐层进行。隐层实现对输入空间的非线性映射,输出层实现线性分类,非线性映射方式和线性判别函数可以同时学习。

MLP激活函数

MLP可使用任何形式的激活函数,譬如阶梯函数或逻辑乙形函数(logisticsigmoidfunction),但为了使用反向传播算法进行有效学习,激活函数必须限制为可微函数。由于具有良好可微性,很多乙形函数,尤其是双曲正切函数(Hyperbolictangent)及逻辑乙形函数,被采用为激活函数。

激活函数的作用是将非线性引入神经元的输出。因为大多数现实世界的数据都是非线性的,希望神经元能够学习非线性的函数表示,所以这种应用至关重要。

MLP原理:

前馈神经网络是最先发明也是最简单的人工神经网络。它包含了安排在多个层中的多个神经元。相邻层的节点有连接或者边(edge)。所有的连接都配有权重。

一个前馈神经网络可以包含三种节点:

1)输入节点(InputNodes):也称为输入层,输入节点从外部世界提供信息,。在输入节点中,不进行任何的计算,仅向隐藏节点传递信息。

2)隐藏节点(HiddenNodes):隐藏节点和外部世界没有直接联系。这些节点进行计算,并将信息从输入节点传递到输出节点。隐藏节点也称为隐藏层。尽管一个前馈神经网络只有一个输入层和一个输出层,但网络里可以没有也可以有多个隐藏层。

3)输出节点(OutputNodes):输出节点也称为输出层,负责计算,并从网络向外部世界传递信息。

在前馈网络中,信息只单向移动——从输入层开始前向移动,然后通过隐藏层,再到输出层。在网络中没有循环或回路。

MLP多层感知器就是前馈神经网络的一个例子,除了一个输入层和一个输出层以外,至少包含有一个隐藏层。单层感知器只能学习线性函数,而多层感知器也可以学习非线性函数。

MLP训练过程:

一般采用BP反向传播算法来训练MPL多层感知器。采用BP反向传播算法就像从错误中学习。监督者在人工神经网络犯错误时进行纠正。MLP包含多层节点;输入层,中间隐藏层和输出层。相邻层节点的连接都有配有权重。学习的目的是为这些边缘分配正确的权重。通过输入向量,这些权重可以决定输出向量。在监督学习中,训练集是已标注的。这意味着对于一些给定的输入,能够知道期望的输出(标注)。

MLP训练过程大致如下:

1)所有边的权重随机分配;

2)前向传播:利用训练集中所有样本的输入特征,作为输入层,对于所有训练数据集中的输入,人工神经网络都被激活,然后经过前向传播,得到输出值。

3)反向传播:利用输出值和样本值计算总误差,再利用反向传播来更新权重。

4)重复2)~3),直到输出误差低于制定的标准。

上述过程结束后,就得到了一个学习过的MLP网络,该网络被认为是可以接受新输入的。

MLP优点:

1)高度的并行处理;

2)高度的非线性全局作用;

3)良好的容错性;

4)具有联想记忆功能;

5)非常强的自适应、自学习功能。

MLP缺点:

1)网络的隐含节点个数选取非常难;

2)停止阈值、学习率、动量常数需要采用”trial-and-error”法,极其耗时;

3)学习速度慢;

4)容易陷入局部极值;

5)学习可能会不够充分。

MLP应用:

MLP在80年代的时候曾是相当流行的机器学习方法,拥有广泛的应用场景,譬如语音识别、图像识别、机器翻译等等,但自90年代以来,MLP遇到来自更为简单的支持向量机的强劲竞争。近来,由于深层学习的成功,MLP又重新得到了关注。

常被MLP用来进行学习的反向传播算法,在模式识别的领域中算是标准监督学习算法,并在计算神经学及并行分布式处理领域中,持续成为被研究的课题。MLP已被证明是一种通用的函数近似方法,可以被用来拟合复杂的函数,或解决分类问题。

结语:

MLP多层感知器是一种前向结构的ANN人工神经网络,它能够处理非线性可分离的问题,值得深入研究。为了实现MLP多层感知器,会用到BP反向传播算法。MLP可使用任何形式的激活函数,但为了使用反向传播算法进行有效学习,激活函数必须限制为可微函数。MLP算法应用范围较广,扩展性也强,可应用于语音识别、图像识别、机器翻译等领域。

    ------以往文章推荐-----    

机器学习

深度学习

人工神经网络

决策树

随机森林

强化学习

迁移学习

遗传算法

朴素贝叶斯

支持向量机

蒙特卡罗方法

马尔科夫模型

Hopfield神经网络

回归模型

K邻近算法

卷积神经网络

受限玻尔兹曼机

循环神经网络

长短时记忆神经网络

Adaboost算法

ID3算法

C4.5算法

CART算法

K-Means算法

Apriori算法

PCA算法

ICA算法

TD-Learning算法

Q-Learning算法

SOM算法

GBM算法

GBDT算法

EM算法

SVD算法

Autoencoder算法

DBN算法

GAN算法

人工智能的定义人工智能的基本概念是什么

【热门云产品免费试用活动】|【最新活动】|【企业应用优惠】

自从人类发明了计算机或机器人,它们执行各种任务的能力都有了相对的增长,人类已经可以开发出计算机系统的很多功能,涉及各种工作领域,人工智能的定义,简单来说,就是要通过智能的机器,达到人与机器和谐共处的一个社会。逐渐延伸了人类改造自然和治理社会的能力。

人工智能的定义是什么?

人工智能(ArtificialIntelligence),英文缩写为AI。它是研究、开发用于模拟、延伸和扩展人的智能的理论、方法、技术及应用系统的一门新的技术科学。人工智能是计算机科学的一个分支,它企图了解智能的实质,并生产出一种新的能以人类智能相似的方式做出反应的智能机器。

人工智能的定义

人工智能的基本概念(AI)

根据人工智能之父约翰麦卡锡的说法,它是“制造智能机器的科学与工程,特别是智能计算机程序”。

人工智能是一种使计算机,计算机控制的机器人或软件智能地思考的方式,其方式与智能人类的思维方式类似。人工智能是通过研究人类大脑如何思考以及人类在尝试解决问题时如何学习,决定和工作,然后将本研究的结果用作开发智能软件和系统的基础来实现的。

在充分利用计算机系统的力量的同时,人类的好奇心使他想知道“机器能像人类一样思考和行为吗?”

因此,人工智能的发展始于在我们发现并在人类中高度重视的机器中创造类似的智能。

人工智能的定义

学习人工智能的必要性

我们知道AI追求创造像人类一样聪明的机器。我们研究AI的原因有很多。

AI可以通过数据学习

在我们的日常生活中,我们处理的是大量的数据,人类的大脑无法跟踪这么多的数据。这就是我们需要自动化的原因。为了实现自动化,我们需要研究AI,因为它可以从数据中学习,并且可以准确无误地完成重复性任务。

AI可以自学

系统应该自学,因为数据本身不断变化,并且必须不断更新从这些数据中获得的知识。我们可以使用AI来实现这一目的,因为启用AI的系统可以自学。

AI可以实时响应

借助神经网络的人工智能可以更深入地分析数据。由于这种能力,AI可以根据实时情况思考和响应情况。

AI实现准确性

在深度神经网络的帮助下,AI可以实现极高的准确性。AI帮助医学领域从患者的MRI中诊断癌症等疾病。

AI可以组织数据以最大限度地利用它

数据是使用自学习算法的系统的知识产权。我们需要AI以一种始终提供最佳结果的方式索引和组织数据。

了解情报

使用AI,可以构建智能系统。我们需要了解智力的概念,以便我们的大脑可以构建像自己这样的另一个智能系统。

人工智能的定义其实是一个非常广泛的领域。这些领域虽然目前不是非常集中,但是它们正在交叉发展中,很多的未知的领域处在研究之中,并且逐渐走向统一。人工智能的最终目标是希望变成一门真正的科学,形成一个完整的科学体系。

更多相关文章:

1.域名建站专场

2.商标特惠专场

3.云速邮箱

4.网站建设专场

5.SSL证书专场

6.全球云服务专场

7.云服务器免费试用

8.企业免费试用专区

9.个人免费试用专区

10.图片文字识别OCR

11.网站建设自助建站

12.企业应用专场

13.域名注册申请

14.服务器和网关的关系是什么?网关的作用有哪些

15.域名解析a记录是什么意思

16.网址域名ip查询方式有哪些?域名和ip地址的区别是什么?

17.域名和url的区别与联系是什么?

18.域名和ip地址有什么关系?二者的含义是什么?

19.com域名和cn域名是什么意思?com和cn域名哪个好?

版权声明:本文章文字内容来自第三方投稿,版权归原始作者所有。本网站不拥有其版权,也不承担文字内容、信息或资料带来的版权归属问题或争议。如有侵权,请联系contentedit@huawei.com,本网站有权在核实确属侵权后,予以删除文章。

总体国家安全观是什么时候提出的

2014年4月15日,习近平总书记在主持召开中央国家安全委员会第一次会议时提出,坚持总体国家安全观,走出一条中国特色国家安全道路,首次提出总体国家安全观。

总体国家安全观关键在“总体”,突出的是“大安全”理念,涵盖政治、军事、国土、经济、文化、社会、科技、网络、生态、资源、核、金融、生物、太空、深海、极地、人工智能、海外利益等诸多领域,而且随着社会发展不断拓展。

总体国家安全观强调的是系统思维和方法,既重视发展问题又重视安全问题,既重视外部安全又重视内部安全,既重视国土安全又重视国民安全,既重视传统安全又重视非传统安全,既重视自身安全又重视共同安全。

在新时代新征程上,要坚持走中国特色国家安全道路,贯彻总体国家安全观,实施国家安全战略,坚持政治安全、人民安全、国家利益至上有机统一,牢牢掌握维护和塑造国家安全的全局性主动性。统筹发展和安全,把国家安全贯穿到党和国家工作各方面全过程,同经济社会发展一起谋划、一起部署,实现高质量发展和高水平安全的良性互动。

打开网易新闻查看精彩图片打开网易新闻查看精彩图片

人工智能什么时候能有人类水平

人工智能行业领域的许多人都提出了这样一个问题:机器什么时候会达到人类的智能水平?

比尔·盖茨说,“我们总是高估未来两年将发生的变化,并低估未来十年将发生的变化。”

人工智能概念的产生

大约30年前,当人工智能开始出现时,几乎不为人知,当时很少有人听说过人工智能。如今,无人驾驶汽车、机器人以及其他创新用途的人工智能已经广为人知。然而,人工智能这个概念并不是什么新鲜事物。事实上,“人工智能”这个术语最初是在1956年的达特茅斯会议上创造的,至今已有60多年的历史。

人工智能的宣传和炒作

 

    早期几年,由于对人工智能软件工具和技术的重视,以及根据摩尔定律对硬件进行了相应的改进,人工智能应用程序的功能得到了适度的提高。    多年来,主要的人工智能模式如今已经被称为良好传统人工智能(GOFAI)。这种人工智能的方法试图通过符号推理来模仿人类的思考,这种技术使用符号来操纵类似于人类推理的逻辑模式。人工智能的早期阶段主要是解决一般的技术问题,这些技术源于数学。他们在定理证明和检查中记录了早期的成功,并引起了人们很大的兴趣。因此,人工智能的一些技术创始人进行一些夸大的宣传和预测。例如,在1961年,马文?明斯基写道,“在我们有生之年,机器在智力方面可能超过我们。”此外,1963年创建斯坦福人工智能项目的约翰?麦卡锡表示,其目标是在十年内建立一个完全智能的机器。

这些预言就像当时的其他预言一样并没有实现。解决一般问题的方法很快就会失去动力,因为这种通用性使得它们的实施变得不切实际。因此,始于20世纪80年代基于知识的系统或专家系统是人工智能标志性的另一个阶段。这些是存储人类领域特定知识的软件程序,并试图以人类专家相同的方式对其进行推理。这些系统使用的相当广泛,其中一些非常成功,至今仍在使用。但他们的主要缺点是无法充分学习,但这一缺点可以通过机器学习部分解决。

机器学习和深度神经网络

“机器学习”这个术语是指使机器能够在没有明确编程的情况下学习的方法。而人工智能的概念始于1959年,并不是什么新鲜事物。机器学习非常重要,但由于当时没有学习能力,使得人工智能的改进受到严重限制,而人类具有学习新技能、新知识和实践不断改进的能力。因此,学习与智能行为有着密不可分的联系,机器学习是人工智能技术的一个分支。这个领域的研究活动始于20世纪60年代,现在正在使用各种机器学习技术。

连接主义和人工神经网络

然而,连接主义或人工神经网络这种模式已经成为人工智能技术主流,它试图模仿人类大脑中生物神经元的工作方式。实质上,机器接受历史数据的训练(或学习),然后可以用来预测新的数据和结果。与人工智能的符号不同,它们不会在解决问题时使用明确的人类编程符号,而是通过调整神经元中的数字权重进行自我学习。

人工神经网络也不是新鲜事物。其概念最初是由McCulloch和Pitts在1943年提出的,他提出了一种人工神经元模型,称之为感知器。然而,在20世纪80年代人工神经网络开始复苏之前,它们几乎已经被忽略。早期应用基于使用单层神经元的感知器软件。然而,使用多层或深度神经网络可以获得更好的结果。更新的机器学习技术使用隐藏层来识别特定特征的人工神经网络。

随着时间的推移,通过知识发现和数据挖掘,这种技术得到了改进,并成功地应用于商业,尤其是20世纪90年代的零售行业。通过技术的结合可以处理大量数据的硬件改进、统计技术,以及满足逐渐出现的全球互联网和万维网的需求,使其成为可能。随后使用的大部分数据来自内部数据源,例如企业数据库、零售数据等。对这些数据的分析通常会提供对趋势等方面的见解,使组织能够改进决策制定。

然而,现在许多人工神经网络通过零售和社交网站等众多来源从网上获取大量的训练数据。数据本身可以来自网络上的异构源,可以采用文本、图表、照片、视频、声音文件等形式。这就是所谓的大数据。同样,大数据这个术语并不新鲜,但其影响不容小觑。当谷歌公司首席科学家PeterNorvig在谷歌时代精神(Zeitgeist)大会上被问及谷歌公司成功的秘诀时。他回答说:“我们并不比其他人有着更好的算法,我们只是拥有更多的数据。”

然而,上世纪90年代,社交网站如Twitter、Facebook等开始兴起。每天都有数百万张图片在网上上传下载。为了分析这些图像,需要了解它们的内容,但它们通常没有标签,因为其内容是未知的。理解其内容和识别图像的需求催生了一个名为ImageNet的网站。在2009年推出时,它拥有一个包含1400万张图像的数据库。新的人工神经网络应用程序可以在ImageNet网站上从这些图像中训练自己,但这仍然容易出错。因此,该网站的创始人引入了一项名为ImageNetChallenge的技术竞赛,鼓励研究可以识别数据集图像中的对象的计算机算法,以最大限度地减少识别中的错误。2012年,当时在谷歌公司工作的一位名叫AlexKrizhevsky的研究员在这次比赛中取得了出色的成绩,以超过10%的优势击败了所有对手。他推出的网络名称为AlexNet。这为走向“深度学习”的时代铺平了道路。

面临的挑战

尽管深度学习取得了巨大的成功,但一些专家质疑这种模式是否足以达到人类智能。例如,根据深度学习网络的著名研究员FrancoisChollet的说法,“我们不可能仅仅通过扩大当今的深度学习技术来获得通常的智能水平。”

这项技术还面临其他挑战。人工神经网络的一个缺点是,它们在解释和透明决策推理方面严重不足,它们是一种黑盒结构。这在诸如医疗诊断系统之类的应用中尤其成为问题,因为从业者需要了解他们的决策过程。

出于这个原因,美国国防部负责研究新技术的高级研究计划局(DARPA)对2016年8月启动的一项研究项目提供了资助。该计划的目的是为一系列新项目提供资金,这些项目被称为可解释人工智能(XAI)。这些项目的目的是创建工具,使人工智能程序的用户能够理解该决策背后的原因。其中一些项目正在实施中,并在四年内完成。

结论

鉴于人工智能的发展历史还很短,有些人现在提出了一个问题:现在是另一个炒作时期吗?可能不是。与早期的人工智能不同,深度学习的商业利益如今无处不在。初创企业的投资和数量呈指数级增长。这些应用程序涵盖机器人、医学、教育、金融、自动驾驶汽车以及各个行业领域。此外,这些人工智能应用程序的智能水平与人类一样出色,并且在某些情况下优于人类。

其中包括国际象棋和围棋等游戏、医疗保健应用程序(例如英国国民保健系统部分使用的BabylonGPatHand)、医疗聊天机器人、计算机视觉、对象识别、语音到文本转换、语音识别,以及显著改进的机器人,这只是一小部分例子。这些应用程序将通过更好的机器学习算法继续改进。

人工智能社区中的许多人提出了这样一个问题:“机器何时会达到人类一样的智能水平?”无论其答案是什么,现在很少有人会质疑人工智能对人们生活的影响,并将在未来影响越来越大,而人工智能的发展将会越来越成熟。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。

上一篇

下一篇