[人工智能
作者主页(文火冰糖的硅基工坊)：文火冰糖（王文兵）的博客_文火冰糖的硅基工坊_
目录
第1章前序知识准备
第2章人工神经元的数学模型
2.1概述
2.2神经元的基本功能
2.3 人工神经元的数学模型的提出
2.5 人工神经元的本质
2.6 神经元的简化模型（不带激活函数）
2.7人工神经元的种类与应用场合
第3章激活函数的种类
3.1 Sigmoid函数
3.2 tanh函数函数
3.3 Relu函数
3.4 ELU(ExponentialLinearUnits)函数
3.5 激活函数的本质
第4章人工神经网络ANN的数学模型
4.1概述
4.2单层神经网络
4.4二层神经网络
4.5 四层神经网络
4.6 深层神经网络
第1章前序知识准备[人工智能-深度学习-4]：生物神经系统与神经元细胞简介
[人工智能-深度学习-4]：生物神经系统与神经元细胞简介_文火冰糖（王文兵）的博客-CSDN博客
第2章人工神经元的数学模型2.1概述
人工神经网络是在现代神经生物学研究基础上提出的模拟生物过程，反映人脑某些特性的一种计算结构。
它不是人脑神经系统的真实描写，而只是它的某种抽象、简化和模拟。
在人工神经网络中，人工记忆神经元常被称为“处理单元”。有时从网络的观点出发常把它称为“节点”。人工记忆神经元是对生物神经元的一种形式化描述，它对生物神经元的信息处理过程进行抽象，并用数学语言予以描述；对生物神经元的结构和功能进行模拟，并用模型图予以表达。
单个人工神经元具有一定的、简单的学习功能，并能够进行简单的信息处理。
而由神经元构建的神经网络具有大规模的、复杂的学习功能，并能够进行复杂的信息处理。
2.2神经元的基本功能
神经元和神经网络的两个基本功能：
（1）学习能力=》机器学习=》深度学习
（2）信息处理能力=》后向传播=》预测能力，两大基本预测能力包括：
回归拟合统计分类
2.3神经网络的复杂功能包括：
（1）视觉图像处理
（2）听觉音频处理
（3）自然语言处理
（4）语言思维处理
（5）知识图谱
.......
上述的能力基本上都在试图模拟人类大脑的功能，工程上，在某些方面的实际效果甚至已经超过了人类。
2.3 人工神经元的数学模型的提出
2.4 人工神经元数学模型的数学函数表达式
（1）每一路输入的数学模型
这是一个一元一次线性函数。
该模型模拟的是生物神经元的来自每一路树突的生物电信号的输入。
（2）所有路输入的数学模型：
这是一个N元的一次线性函数。
该模型模拟的是生物神经元的细胞体，它把所有输入的生物电信号进行叠加和整合。
（3）带偏置电平的所有输入的数学模型：
这是一个带偏置b的N元的一次线性函数。
该模型模拟的是生物神经元细胞内部的生物电的电位相对于神经元外部的电位差。
（4）对输出进行抑制的输出模型：激活函数
生物神经元对输入的生物电信号有几个重要的特性，这个特性不是线性函数能模拟的。
无论来自树突的输入信号的叠加后的幅度有多大，输出信号的幅度是有限的，不是无限大，也就是说，输出与所有输入之间并非线性的。并非有任何的输入信号，都会导致输出，所有输入信号的幅度，必须得到某个阈值门限，才会有输入信号。因此，除了对输入信号进行叠加外，还需要一个称为激活函数的函数。其作用如下
限制输出神经元的一次函数，输入与输出是线性关系，因此输出是无穷大。
为了限制神经元的输出信号的幅度，需要通过某种激活函数对输出信号进行限制。
提高门槛神经元的一次函数，输入与输出是线性关系，因此输出是任意值。
生物神经元只有在输入信号得到一定的门限时，才会有输出。
为了模拟生物神经元的门槛功能，需要通过某种激活函数来对输出信号的最低值进行限制。
在深度学习领域，激活函数不是唯一的，有多种不同的激活函数来模拟生物体神经元上述的特性，这里姑且定位：
（5）神经元整体的数学模型
2.5 人工神经元的本质
人工神经元的本质是：N元的1次函数与激活函数构建的复合函数。
2.6 神经元的简化模型（不带激活函数）
（1）一元一次函数
只有一个输入参数没有激活函数最简单的神经元，就是一个一元一次函数，具有天然的一元一次函数线性拟合的能力。
在之前的文章中，已经多次探讨过一元一次函数的线性拟合问题。
其几何意义就是一根直线。
（2）多元一次函数
有N一个输入参数没有激活函数这是一个n个无关的一元一次函数的线性叠加。
其几何意义如下：
2.7 人工神经元输入信号处理的矩阵表达式
在上图中，b与w参数进行了整合。
b对应的输入参数Xi为恒定值b与w具有同等的位置。就得到了最简化的模型=》 W*X=Y
其中:
W为n+1长度的行矩阵X为n+1长度的列矩阵Y为数值标量2.7人工神经元的种类与应用场合第3章激活函数的种类参考：[Python系列-16]：人工智能-数学基础-6-常见数学函数、激活函数大全
[Python系列-16]：人工智能-数学基础-6-常见数学函数、激活函数大全_文火冰糖（王文兵）的博客-CSDN博客
3.1 Sigmoid函数（1）公式
（2）图形
（3）特点
无论线性函数的输出是多大，该激活函数把输出限制在(0,1)之间.如果线性函数的输出值为负无穷时，输出为0；如果线性函数的输出值为正无穷时，输出为1.如果线性函数的输出值为0时，输出中值为0.5.导函数平滑3.2 tanh函数函数
（1）公式
（2）图形
（3）特点
无论线性函数的输出是多大，该激活函数把输出限制在(-1,1)之间.如果线性函数的输出值为负无穷时，输出为-1；如果线性函数的输出值为正无穷时，输出为+1.如果线性函数的输出值为0时，输出中值为0.导函数平滑3.3 Relu函数
（1）公式
（2）图形
（3）特点
无论线性函数的输出是多大，该激活函数把输出限制在(0,+无穷)之间，即把所有的负数都映射成0.如果线性函数的输出值为负数时，输出为0；限制负数幅度映射为0.如果线性函数的输出值为正数时，输出等于输入y=x，不限制正数的映射幅度。如果线性函数的输出值为0时，输出为0.导函数不平滑3.4 ELU(ExponentialLinearUnits)函数
（1）数学公式
（2）图形表示
（3）特点
当x0时，采用线性映射，不限制正数的幅度。当x=0是，映射值为0.导函数不平滑3.5 激活函数的本质
（1）初等函数
激活函数的本质是初等函数。
（2）空间映射
激活函数的本质，是不同数值空间的映射：
把一个无限幅度的数值空间，映射成一个有限幅度的数值空间。
案例1：指数函数：
自变量x：为的数值空间 因变量y：为经过映射，原先有的数值的顺序关系还保留，但数字范围被收缩。
案例2： Sigmoid函数：
自变量x：为的数值空间 因变量y：经过映射后，数值被限制在[0,1]之间.
第4章人工神经网络ANN的数学模型4.1概述
人工神经网络（ArtificialNeuralNetwork，即ANN），是20世纪80年代以来人工智能领域兴起的研究热点。
它从信息处理角度对人脑神经元网络进行抽象，建立某种简单模型，按不同的连接方式组成不同的网络。在工程与学术界也常直接简称为神经网络或类神经网络。
神经网络是一种运算模型，由大量的节点（或称神经元）之间相互联接构成。
网络的输出则依赖于神经元的网络连接方式，以及各个神经元的权重参数。
而网络自身通常都是对自然界某种算法或者函数的逼近，也可能是对一种逻辑策略的表达。
最近十多年来，人工神经网络的研究工作不断深入，已经取得了很大的进展，其在模式识别、智能机器人、自动控制、预测估计、生物、医学、经济等领域已成功地解决了许多现代计算机难以解决的实际问题，表现出了良好的智能特性。
4.2单层神经网络
4.4二层神经网络
4.5 四层神经网络
4.6 深层神经网络
深层神经网络的层数可以高达几十层、上百层，甚至上千层。
关于神经网络的连接方式，后续有专门的章节讨论。
作者主页(文火冰糖的硅基工坊)：文火冰糖（王文兵）的博客_文火冰糖的硅基工坊
人工智能的七种类型
33802019年07月09日
人工智能的七种类型作者：ForbesChina
文/NaveenJoshi
图片来源：视觉中国
人工智能（ArtificialIntelligence）可能是有史以来最复杂也最惊人的创造。尽管这个领域尚未被完全开拓，但这意味着我们今天看到的每一个惊人的AI应用程序仅仅代表了这庞大冰山的一角。虽然这个事实不言自明，但我们仍然很难完全预测AI在未来可能会造成的影响。其原因在于如今，AI已对社会产生了革命性的影响，而这种影响从它崭露头角时便可窥见一斑。
人工智能的快速增长与其强大的功能使人们对人工智能接管社会的必然性感到担忧。此外，人工智能在不同行业带来的转变使得企业领导者和主流大众认为，我们已经接近最大限度开发人工智能潜能的高峰。然而，了解未来可能出现的AI以及现存的类型将使我们清晰地了解如今的AI功能以及未来研究的漫长道路。
人工智能的不同类型
由于人工智能研究旨在使机器仿效人类，因此AI系统可以何种程度复制人类的行为被用作归类它们的基准。因此，根据机器较于人类所展现出的多功能性与不同表现，它们可以依次被分门别类。在这样的分类系统下，同等条件下更能够表现出如人类般的处理能力的人工智能将被视为更为进化的AI类型，而具有有限功能和性能的AI将被视为更简单且落后的类型。
基于此标准，人工智能通常可以被分成两类。其中一种的分类标准基于人工智能与人类的相似性，以及它们如人类般“思考”与“感知”的能力。按照这种基准，AI与基于AI的系统可被大致分为四种：反应机器，少量记忆，思想理论和自我意识的AI。
人工智能的四种类型
反应机器：没有内存功能，只会对特定的刺激有所响应
少量记忆：使用内存来学习和改善其对策
思想理论：了解其他智能单位的需求
自我意识：具有类似人类的智慧和自我意识
1.ReactiveMachines（反应机器）
这些是能力极其有限的最古老的人工智能系统，它们能够模仿人类思维对不同刺激所做出的反应。这些机器没有存储功能，这意味着它们不能基于经验来模拟对策，即是说它们不具有“学习”的能力。这些机器只能用于自动响应有限的一组命令，也不能依赖内存来改善操作。这类机器的一个例子是IBM的DeepBlue，这台机器在1997年击败了国际象棋大师加里卡斯帕罗夫。
2.LimitedMemory（有限记忆）
有限记忆AI除了具有反应机器的能力之外，还能够从历史数据中学习以作出决策。我们所知的几乎所有现有的应用程序都可归类于此类AI。如今所有的AI系统，例如那些使用深度学习的系统都基于大量的训练数据，而这些数据将被储存于它们的历史数据中，以形成解决未来问题的参考模型。例如，使用数千张图片及其标签来训练图像识别AI，以教导它自动命名扫描的对象。当通过这样的AI扫描图像时，它使用训练图像作为参考来理解呈现给它的图像的内容，并且基于其“学习体验”，它标记新图像时将具有更高的准确度。
几乎所有当前的AI应用程序，从聊天机器人、虚拟助手到自动驾驶车辆，都是由有限记忆AI驱动的。
图片来源：视觉中国
3.TheoryofMind（心灵理论）
前两种类型的AI已经得以大量运用，而现今，接下来的两种新型AI正存在于概念或逐渐成型的阶段之中。心灵理论AI是研究人员目前正在进行钻研的下一级AI系统，通过辨别互动者的需求，情感，信念和思考过程，心灵理论AI能够更好地理解它们的互动对象。虽然人工智能于研究者而言已经是一个炙手可热的领域，但实现AI的心灵理论水平也同时需要其他各类部门的协力。这是因为如果要真正理解人类的需求，人工智能机器必须将人类视为单独思考的复杂个体，而这对于它们而言，基本上等同于“理解”人类。
4.Self-aware（自我意识）
这是人工智能开发的最后阶段，目前只存在于概念构想中。如字面所述，自我意识AI是一种如人类大脑般具有自我意识的人工智能。对人工智能研究而言，这一直都是一个长久以来的终极命题。这种类型的AI不仅能够理解和唤起与其互动的人的感情，而且还能拥有自己的情感，需求，信念和潜在的欲望，而这就是科技领域的末日预言者所担忧的AI。虽然AI自我意识的发展可能会给我们的文明带来飞跃式的进步，但同样也有可能会导致灾难。这是因为一旦AI拥有了自保的想法，这些想法可能直接或间接地导致人类灭绝；这样的AI可以轻易地战胜任何人的智慧，并编造精心设计的计谋来超越人类。
另一种在技术术语中更常用的分类基准是将AI技术分类为弱智能（ANI），强人工智能（AGI）和人工超智能（ASI）。
5.弱人工智能（ANI）
这种类型的人工智能囊括了所有现有的AI，甚至包括迄今为止创建的最复杂和最强大的AI。ANI指的是只能使用类似人类的能力自主执行特定任务的AI系统，这些机器只能执行已被写好的命令，因此它们的能力范围十分有限。根据上述分类基准，ANI可被归类入所有的反应机器与有限记忆的范围。即使是最为复杂、会进行自我学习的AI，也仍旧属于ANI这一范畴。
6.强人工智能（AGI）
AGI代表着AI拥有像人类一样学习、感知、理解和运作的能力，这些系统将能够独立构建多种技能，并形成跨域的连接和概括能力，大大减少学习所需的时间。通过学习人类的多功能处理系统，AI系统将会与人类变得一样强大。
7. 超人工智能（ASI）
ASI的发展可能标志着人工智能研究的巅峰，因为AGI将成为迄今为止地球上最强力的AI。而ASI除了复制人类的多方面智能之外，由于更大的内存，更快的数据处理、分析以及决策能力，它们的能力将会远超上述所有类型的AI。AGI和ASI的发展将导致一种通常被称为“奇点”的场景；可尽管拥有如此强大的机器的前景似乎很有吸引力，但这些机器也可能威胁到我们的存在或是生活方式。
从这一点来看，当更先进的AI出现时，我们很难想象那时世界的模样。然而，要实现这一目标显然还前路漫漫，因为人工智能开发的现状与预期相比还处于起步阶段。对于那些对人工智能的未来持负面看法的人来说，这意味着现在要担心奇点问题还为时过早，而且还有时间来确保AI的安全性。对于那些对人工智能的未来持乐观态度的人来说，事实上我们只是触及了人工智能开发的皮毛，这使得这一领域的未来更加令人拭目以待。
NaveenJoshi为福布斯撰稿人，表达观点仅代表个人。译Chloe校李永强
本文为福布斯中文网版权所有，未经允许不得转载。如需转载请联系wechat@forbeschina.com