不要错过边缘计算和边缘人工智能（AI）浪潮
近10年来嵌入式行业随着芯片技术和软件行业的发展，行业变化速度非常快。细数这十年的变化包括：高可用性便携式OS出现、互联网发展带来的嵌入式培训业态改变、物联网技术、高计算高性能MCU和SOC出现等等。现在又一波浪潮出现了，而且仅仅是发端，会给行业带来一个新的爆发点——那就是边缘计算和边缘人工智能。早就有人预言了边缘计算和边缘人工智能的出现，就像PC和服务器等叫固定端随着IC算力的进步出现大数据、AI、区块链技术一样，便携设备随着IC算力进步必然也会跟随固定设备一样。
1、行业机会
已有设备真正的智能化低成本化，创造新的设备，这就是边缘计算和边缘AI的两个最大的行业机会。现在的所谓智能设备大部分都是假的，不过是比原始设备多了联网、UI交互、语音交互，有些虽然通过中央服务器实现了一定的智能可是IC成本、需要联网、功耗都不理想。边缘计算和边缘AI就是去中心化、降IC成本两个主导思想。现有的设备改造，创造新的智能设备是行业增长的爆发点。2020年的CES展，几乎每一家大型IC公司都在推边缘计算，这就是行业爆发的征兆。
2、开发生态链
SOC端的边缘计算和边缘AI已经相对成熟，高通、华为、MTK都推出了用于终端推理的独立、集成NPU等等。在MCU端，2019年ST公司小试牛刀推出了CubeMX.AI，试水在自家MCU上运行AI推理。虽然仅仅是实现了软件开发环境的代码转化，至今也尚未有成熟的终端产品出现，但是却抢占了MCU跑AI的行业高地。2020年开春，更令人振奋的是芯片IP设计顶级公司ARM推出了Cortex-M55和NPUEthos-U55IP核。芯片领域已经开始布局，软件开发环境也有公司布局，整个生态链开始调动起来了。边缘计算和边缘AI需要产业链配合的更加紧密，上游算法和AI训练以及IC设计，中游代码转化和优化以及实现，下游终端量产和产品实现等等相比于现在的物联网设备需要调动更多的人和公司。目前来看上中下游都需要大量人才，上游端并没有足够积累（以前都是针对固定设备的），中下游更加不用说了，没有上游哪有下游。无论上中下游都需要了解算法和AI，就像了解串口配置一样如果连最基本的参数和流程都不知道，怎么调接口函数？
3、教育和培训
边缘计算和边缘人工智能给嵌入式培训行业带来的是新的增长点和极大的难题。因为据笔者所知行业内对此的积累几乎为0。
什么是边缘人工智能和边缘计算
边缘人工智能(EdgeAI)是人工智能领域引人注目的新领域之一，其目的是让用户运行人工智能流程而不必担心隐私或数据传输较慢带来的影响。边缘人工智能可以使人工智能技术得到更广泛的应用，使智能设备在无需接入云平台的情况下对输入做出快速反应。虽然这是边缘人工智能的一个快速定义，但是需要更好地理解和探索边缘人工智能技术，并了解边缘人工智能的一些用例。
为了真正理解边缘人工智能，首先需要了解边缘计算，而理解边缘计算的最佳方法就是将其与云计算进行对比。云计算是通过公共互联网提供计算服务，相比之下，边缘计算系统并不连接到云计算平台，而是在内部部署设备上运行。这些设备可能是专用边缘计算服务器、内部部署设备或物联网(IoT)设备。使用边缘计算有许多优点。例如，基于互联网/云平台的计算处理会受到网络延迟和带宽的限制，而边缘计算则不受这些因素的限制。
什么是边缘人工智能?
在了解了什么是边缘计算之后，需要了解边缘人工智能。边缘人工智能将人工智能技术和边缘计算技术相结合，使人工智能算法运行在能够进行边缘计算的设备上。这样做的好处是可以实时处理数据，而不必连接到云平台。
大多数先进的人工智能流程都是在云中进行的，因为它们需要大量的计算能力。其结果是这些人工智能流程很容易受到网络延迟或停机的影响。因为边缘人工智能系统在边缘计算设备上运行，所以其必要的数据操作可以在本地进行，并通过公共互联网发送，这节省了大量时间。而深度学习算法可以在设备本身(数据的起点)上运行。
边缘人工智能变得越来越重要，这是因为越来越多的设备需要在无法访问云平台的情况下使用人工智能技术。在自动化机器人或配备计算机视觉算法的智能汽车的应用中，数据传输的滞后可能是灾难性的。自动驾驶汽车在检测道路的人员或障碍时不能受到延迟的影响，由于快速响应时间是如此重要，必须采用边缘人工智能系统，允许实时分析和分类图像，而不依赖云计算连接。
当边缘计算设备被赋予通常在云端进行的信息处理任务时，其结果是低延迟或实时进行处理。此外，通过传输最重要的信息，可以减少传输的数据量，并最大程度地减少通信中断。
边缘人工智能与物联网
边缘人工智能可以与5G和物联网(IoT)等其他数字技术相结合。物联网为边缘人工智能系统生成数据以供使用，而5G技术对于边缘人工智能和物联网的持续发展至关重要。
物联网是指通过公共互联网相互连接的各种智能设备。所有这些设备都会生成数据，这些数据可以输入到边缘人工智能设备中，这些设备也可以充当数据的临时存储单元。而数据处理方法具有更大的灵活性。
5G技术对于边缘人工智能和物联网的发展至关重要。5G能够以高达20Gbps的更高速度传输数据，而4G只能以1Gbps的速度传输数据。5G还比4G支持更多的并发连接和更短的延迟。与4G相比，这些优势非常重要，因为随着物联网的发展，数据量也将增长，并且传输速度也会受到影响。5G使更多设备之间可以进行更多交互，其中许多设备都可以采用边缘人工智能技术。
边缘人工智能用例
边缘人工智能的用例包括几乎所有在本地设备上进行数据处理比通过云平台更有效的实例。边缘人工智能的一些常见用例包括自动驾驶汽车、无人机、面部识别和数字助理。
自动驾驶汽车是边缘人工智能的典型用例之一。自动驾驶汽车必须不断地扫描周围的环境并评估行驶情况，根据突发事件对其行进轨迹进行校正。在这些情况下，实时数据处理至关重要，其车载的边缘人工智能系统将负责数据的存储、处理和分析。因此，边缘人工智能技术对于将三级和四级(完全自主)车辆推向市场是必不可少的技术。
由于无人机不是由无人控制或驾驶的，因此它们与自动驾驶汽车的要求非常相似。如果无人机在飞行中失去控制或发生故障，则可能坠毁并损坏公共财产或威胁人身安全。此外，无人机可能会飞出互联网络服务范围之外，并且它们必须具有边缘人工智能功能。边缘人工智能系统对于亚马逊PrimeAir等旨在通过无人机交付包裹的服务来说是不可或缺的。
边缘人工智能的另一个用例是面部识别系统。面部识别系统依靠计算机视觉算法来分析摄像头收集的数据。即使没有连接到云平台，为安全等任务而运行的面部识别应用程序也需要可靠地运行。
数字助理是边缘人工智能的另一个常见用例。GoogleAssistant、Alexa和Siri等数字助理必须能够在智能手机和其他数字设备上运行，即使它们没有连接到公共互联网也是如此。在数字设备上处理数据后，无需将其交付到云中，这有助于减少流量并确保隐私安全。
边缘智能：边缘计算与人工智能融合的新范式
边缘智能：边缘计算与人工智能融合的新范式
周知,于帅,陈旭,
中山大学数据科学与计算机学院，广东广州510006
摘要：边缘计算与人工智能这两种高速发展的新技术之间存在着彼此赋能的巨大潜力。通过3个研究案例，展示协同边缘计算和人工智能这两种技术如何促进各自的进一步发展。从边缘计算赋能人工智能的维度，针对深度学习模型在网络边缘侧的部署，提出了基于边端协同的深度学习按需加速框架，通过协同优化模型分割和模型精简策略，实现时延约束下的高精度模型推理。从人工智能赋能边缘计算的维度，针对边缘计算服务的放置问题，提出了基于在线学习的自适应边缘服务放置机制和基于因子图模型的预测性边缘服务迁移方法。
关键词：边缘计算;人工智能;边缘智能;服务迁移
论文引用格式：
周知,于帅,陈旭.边缘智能：边缘计算与人工智能融合的新范式.大数据[J],2019,5(2):53-63
ZHOUZ,YUS,CHENX.Edgeintelligence:anewnexusofedgecomputingandartificialintelligence.BigDataResearch[J],2019,5(2):53-63
1引言
近年来，随着全球范围内社会经济与科学技术的高速发展，信息通信技术（informationcommunicationstechnology，ICT）产业不断地涌现出了许多新兴技术。其中，有两种代表性技术被广泛认为对人类经济社会产生了巨大的推动力与深远的影响力。其一，作为人工智能领域代表性技术的深度学习，受益于算法、算力和数据集等方面的进步，近年来得到了突飞猛进的发展，并在无人驾驶、电子商务、智能家居和智慧金融等领域大展拳脚，深刻改变了人们的生活方式，提高了生产效率。而另外一种技术则为从传统的云计算技术演化发展而来的边缘计算技术，相比于云计算，边缘计算将强计算资源和高效服务下沉到网络边缘端，从而拥有更低的时延、更低的带宽占用、更高的能效和更好的隐私保护性。
然而，鲜为人知的是，人工智能和边缘计算这两种具有划时代意义的新技术目前正面临着各自进一步发展的瓶颈。一方面，对于深度学习技术而言，由于其需要进行高密度的计算，因此目前基于深度学习的智能算法通常运行于具有强大计算能力的云计算数据中心。考虑到当下移动终端设备的高度普及，如何将深度学习模型高效地部署在资源受限的终端设备，从而使智能更加贴近用户与物端，解决人工智能落地的“最后一公里”这一问题已经引起了学术界与工业界的高度关注。另一方面，对于边缘计算而言，随着计算资源与服务的下沉与分散化，边缘计算节点将被广泛部署于网络边缘的接入点（如蜂窝基站、网关、无线接入点等）。边缘计算节点的高密度部署也给计算服务的部署带来了新的挑战：用户通常具有移动性，因此当用户在不同节点的覆盖范围间频繁移动时，计算服务是否应该随着用户的移动轨迹而迁移？显然，这是一个两难的问题，因为服务迁移虽然能够降低时延从而提升用户体验，但其会带来额外的成本开销（例如带宽占用和能源消耗）。
幸运的是，人工智能和边缘计算各自面临的发展瓶颈可以通过它们二者之间的协同得到缓解。一方面，对于深度学习而言，运行深度学习应用的移动设备将部分模型推理任务卸载到邻近的边缘计算节点进行运算，从而协同终端设备与边缘服务器，整合二者的计算本地性与强计算能力的互补性优势。在这种方式下，由于大量计算在与移动设备邻近的具有较强算力的边缘计算节点上执行，因此移动设备自身的资源与能源消耗以及任务推理的时延都能被显著降低，从而保证良好的用户体验。另一方面，针对边缘计算服务的动态迁移与放置问题，人工智能技术同样大有可为。具体而言，基于高维历史数据，人工智能技术可以自动抽取最优迁移决策与高维输入间的映射关系，从而当给定新的用户位置时，对应的机器学习模型即可迅速将其映射到最优迁移决策。此外，基于用户的历史轨迹数据，人工智能技术还可以高效地预测用户未来短期内的运动轨迹，从而实现预测性边缘服务迁移决策，进一步提升系统的服务性能。总体而言，边缘计算和人工智能彼此赋能，将催生“边缘智能”的崭新范式，从而产生大量创新研究机会。
本文将简要介绍笔者研究团队在融合边缘计算与人工智能两个方向上的初步探索。首先，从边缘计算赋能人工智能的维度出发，为了在网络边缘侧高效地运行深度学习应用，本文提出了一个基于边端协同的按需加速深度学习模型推理的优化框架——Edgent。为了实现降低模型推理时间，并按需保障模型精确率的双重目标，Edgent采取以下两种优化策略：深度学习模型分割，自适应地划分移动设备与边缘服务器之间的深度神经网络模型计算量，以便在较小的传输时延代价下将较多的计算卸载到边缘服务器，从而降低整体端到端时延；深度学习模型精简，通过在适当的深度神经网络的中间层提前退出，进一步减小计算时延。其次，从人工智能赋能边缘计算的维度出发，针对边缘计算服务的动态迁移与放置问题，本文首先提出了一种用户自适应管理的在线服务放置机制。该机制能够通过在线学习（onlinelearning）人工智能技术自适应复杂的用户行为和多变的边缘网络环境，从而辅助用户做出高效的服务迁移决策。最后，本文还将展示如何使用因子图模型（factorgraphmodel）这一新兴人工智能技术实现用户位置预测，从而改善边缘服务动态迁移决策的质量。
2边缘计算驱动实时深度学习
作为人工智能领域的主流技术之一，深度学习近年来得到了学术界与产业界的大力追捧。由于深度学习模型需要进行大量的计算，因此基于深度学习的智能算法通常存在于具有强大计算能力的云计算数据中心。随着移动终端和物联网设备的高速发展与普及，如何突破终端设备资源限制，从而将深度学习模型高效地运行在资源受限的终端设备这一问题已经引发了大量关注。为解决这一难题，可考虑边缘计算赋能人工智能的思路，利用边缘计算就近实时计算的特性，降低深度学习模型推理的时延与能耗。
2.1问题描述
常见的深度学习模型（如深度卷积神经网络）是由多层神经网络相互叠加而成的.不同网络层的计算资源需求以及输出数据量都具有显著的差异性，那么一个直观的想法是将整个深度学习模型（即神经网络）切分成两部分,其中计算量大的一部分卸载到边缘端服务器进行计算，而计算量小的一部分则保留在终端设备进行本地计算。显然，终端设备与边缘服务器协同计算的方法能有效降低深度学习模型的计算时延。但是，选择不同的模型切分点将导致不同的计算时间，需要选择最佳的模型切分点，从而最大限度地发挥终端与边缘协同的优势。
除了对模型进行切分外，加速深度学习模型推断的另一手段为模型精简，即选择完成时间更快的“小模型”，而不是选择对资源需求更高的“大模型”。对于任意的深度学习任务，可以离线训练生成具有多个退出点的分支网络，退出点越靠后，模型越“大”，准确率也越高，但相应地推断时延也越大。因此，当深度学习任务的完成时间比较紧迫时，可以选择适当地牺牲模型的精确度，以换取更优的性能（即时延）。值得注意的是，此时需要谨慎权衡性能与精度之间的折中关系。
综合运用上述模型切分和模型精简两种方法调整深度学习模型推断时间的优化手段，并小心权衡由此引发的性能与精度之间的折中关系，本文定义如下研究问题：对于给定时延需求的深度学习任务，如何联合优化模型切分和模型精简这种方法，使得在不违反时延需求的同时最大化深度学习模型的精确度。
2.2优化框架
针对上述问题，笔者团队提出了基于边缘与终端协同的深度学习模型推断优化框架Edgent。如图1所示，Edgent的优化逻辑分为3个阶段：离线训练阶段、在线优化阶段以及协同推断阶段。
图1 基于边缘与终端协同的深度学习模型运行推断优化框架Edgent
上述基于边缘服务器与终端设备协同的深度学习模型推断框架的设计思路为：在离线阶段，训练好满足任务需求的分支网络，同时为分支网络中的不同神经网络层训练回归模型，以此估算神经网络层在边缘服务器与在终端设备上的运行时延；在在线优化阶段，回归模型将被用于寻找符合任务时延需求的退出点以及模型切分点；在协同推断阶段，边缘服务器和终端设备将按照得出的方案运行深度学习模型。
（1）离线训练阶段
在离线训练阶段，Edgent需要执行以下两个初始化操作：分析边缘服务器与终端设备的性能，针对不同类型的深度学习模型网络层（如卷积层、池化层等）生成基于回归模型的时延估算模型。在估算网络层的运行时延时，Edgent会对每层网络层进行建模，而不是对整个深度学习模型进行建模，不同网络层的时延是由各自的自变量（如输入数据的大小、输出数据的大小）决定的，基于每层的自变量，可以建立回归模型，估算每层网络层的时延；训练带有多个退出点的分支网络模型，从而实现模型精简。这里笔者采用BranchyNet分支网络结构，在BranchyNet的结构下，可以设计并训练生成带有多个退出点的分支网络。需要注意的是，性能分析取决于设备（例如手机、VR头盔和智能手表等不同设备在运行同一深度学习模型时的性能表现不同），而深度学习模型是取决于应用的（例如物体识别和物体分类等不同计算机视觉应用对应的深度学习模型不同），因此在给定深度学习应用以及设备（即限定边缘服务器与终端设备）的情况下，以上两个初始化操作在离线阶段只需要完成一次。
（2）在线优化阶段
这个阶段的主要工作是利用离线训练的回归模型在分支网络中找出符合时延需求的退出点以及模型分割点。因为要最大化地给出方案的准确率，所以在该阶段中，笔者从最高准确率的分支开始，迭代地找出符合需求的退出点和切分点。在这个过程中，Edgent实时测量当前移动终端与边缘服务器之间链路的网络带宽，以便估算移动终端与边缘服务器间的数据传输时延。紧接着，Edgent沿着尺寸从大到小的网络分支，依次遍历每个网络分支上不同的分割点，并基于当前网络带宽和不同网络层计算时间估算所选分支网络与分割点对应的端到端时延与模型精确度。在遍历完所有的分支网络与切分点后，Edgent输出满足时延需求的所有网络分支与切分点组合中具有最大精确度的一个组合。
（3）协同推断阶段
在协同推断阶段，根据在线优化阶段输出的最优网络分支与切分点组合，边缘服务器与移动终端对深度学习模型进行协同推断。实验表明，Edgent在提升深度学习应用实时性能方面表现优异，能在不同的计算时延需求下，实现高精度的模型推理（具体实验结果请见参考文献）。
3基于在线学习的自适应边缘服务放置机制
基于人工智能赋能边缘计算的思路，针对边缘计算服务的动态迁移与放置问题，笔者接下来介绍一种用户自适应管理的在线服务放置机制。该机制利用人工智能的在线学习技术，针对复杂的用户行为和多变的边缘网络环境进行自适应学习，从而辅助用户做出高效的服务迁移决策。
3.1问题描述
尽管边缘计算能解决用户资源受限和云计算中时延过大的问题，但由于边缘节点服务覆盖范围较小，用户的移动将对服务质量产生极大的影响。如图2所示，当用户从一个边缘节点服务区域移动至其他的节点服务区域时，需考虑是否进行服务迁移，以保证满意的服务质量。一方面，用户可以选择继续让服务在原边缘节点进行处理，通过边缘节点之间的数据传输保证服务的连续性。另一方面，用户可以选择服务迁移，以此减小端到端时延。前者可能由于过长的网络距离导致较大的传输时延，后者则引入了服务迁移导致的额外开销。同时由于用户的个性化需求，不同的服务种类和迁移开销也增加了服务放置的难度，例如轻量级的应用用户更倾向于本地处理，计算密集型应用用户更倾向于云服务器处理，计算密集型且时延敏感型的应用用户更倾向于边缘服务器处理。为此，笔者提出了一种基于在线学习的自适应边缘服务放置机制，该机制可以有效地权衡时延与迁移代价之间的折中关系。
图2 边缘网络中的用户移动示意
3.2基于在线学习的自适应边缘服务放置算法
服务放置策略的制定通常与用户行为特性和网络环境有关。其中，行为特性主要包括用户的移动模型、请求服务的种类以及个人偏好等因素，网络环境主要包括边缘网络可用的资源、节点之间的传输带宽等因素。对于用户来说，其当前时刻的行为特性是已知的，而网络环境是透明的。用户自适应管理机制通过在线学习的方式，根据用户的历史决策数据对动态网络环境的相关参数进行评估。随着环境探索次数的增加，用户对网络参数的评估也会愈发精准，进而优化其服务放置策略。为了方便刻画用户移动过程中的一系列决策行为，笔者将连续的时间段划分为一系列小的离散片段，在每个离散的时间片段中，用户确定当前的服务放置策略，同时用户行为和动态网络环境在该片段内保持不变。
为了有效地衡量边缘网络中的用户服务质量，笔者分别从用户可感知时延和服务迁移代价两方面进行研究。用户可感知时延从所需的计算时延和通信时延两部分进行考虑。计算时延主要取决于所需处理的请求服务数据量大小和放置节点的可用计算资源，如CPU的运算速度。通信时延主要由用户当前的接入时延和传输时延两部分构成。其中，接入时延主要取决于当前用户的位置和边缘路由器的状态。通常来说，为了减少通信能耗，用户将选择与最近的边缘路由器进行连接。而传输时延与网络状态（如边缘节点之间的带宽）、网络距离有关。服务迁移产生的额外运行代价（如带宽资源的占用等）主要取决于上一时刻和当前时刻的节点选择。由此，可以通过计算式（1）刻画用户的服务质量：
ω1D1（πt）+ω2D2（πt,yt）+ω3S（πt-1,πt）（1）
其中，πt-1、πt分别表示上一时刻和当前时刻的服务放置决策（即在每一时刻t动态决策当前服务应当放置在云端服务器或某个边缘服务器），yt表示用户当前的位置，ω1、ω2、ω3(≥0)分别为计算时延D1、通信时延D2和迁移代价S的非负权重参数，权重参数的设定与用户的个人偏好和服务种类有关：权重参数越大，表明对应时延或迁移代价的重要性越高。
如果可对未来长期时间T的用户行为特征和网络状态进行精准预测，那么就可以通过动态规划的方法求得长期服务的线下最优策略。然而在实际环境中，难以对以上用户和网络信息进行精准预测，同时对于每个决策时刻而言，由于缺少对网络环境参数的了解，用户收集系统信息将消耗额外的通信代价。
基于给定的优化目标，即用户服务质量，如何在未知后期用户行为和网络环境的情形下优化一系列服务放置决策，从而最小化可感知时延和服务迁移代价呢？针对此问题，笔者提出的自适应边缘服务放置机制将通过在线学习方法——上下文多臂老虎机（contextualmulti-armedbandit）不断探索动态系统，进而根据累计的历史数据分析评估整体的动态网络环境，为后续的放置策略制定提供更准确的评估。在每个离散时间片段的开始，用户将收集服务请求的行为特征，并用向量b(t)=[ω1λt,ω2Lt,ω3πt-1]表示，其中包含当前用户请求服务处理量的大小λt、用户实时位置Lt以及上一时刻服务放置策略πt-1。之后用户结合动态网络中可行放置策略πt的网络估计参数μ π t与行为特征b(t)对放置策略πt产生的代价c^π =b(t)Tμπ 进行汤普森采样（Thompson sampling）评估，从中选取代价最小的策略作为最终的放置策略。在该时间片段的末尾，用户将获得放置策略πt的服务质量表现cπt，同时自适应管理机制将利用时间片段内的所有信息，更新用户行为特征和放置策略与服务质量表现之间的潜在关系，即服务放置策略的网络参数，具体算法如下。
算法1：基于在线学习的自适应服务放置算法。
初始化网络中计算节点i相应的用户特征Bi=I、网络估计参数μi=0以及其累积的上下文代价fi=0。
对于每一个时间片段t=1,2,…,T，执行以下操作。
●根据计算节点i的网络参数μi，再结合当前的用户特征b(t)，依据汤普森采样评估其相应的代价。
●选择其中最小估计代价，的计算节点作为当前的服务放置策略，并在时间片段的末尾收到相应的服务质量表现。
●更新选择计算节点相应的用户特征，，以及其网络估计参数。
笔者对车辆在边缘网络中随机行驶的场景进行了模拟，以此对所提框架的有效性进行验证。图3记录了基于在线学习的自适应边缘服务放置机制在不同时间片段下的服务质量表现，并同时与已知长期所有信息下的理论最优放置策略进行了比较。从结果可以看出，随着时间的增加，所提机制不断逼近最优的放置策略，这表明通过在线学习的方式能有效地优化策略制定。
图3 自适应服务放置策略与理论最优放置策略对比
4基于因子图模型的预测性边缘服务迁移
前文介绍的基于在线学习的自适应边缘服务放置机制主要利用用户的统计性历史信息，接下来介绍另一种利用用户的预测性信息进行边缘服务放置优化的方法。具体而言，笔者首先利用因子图模型对用户的位置进行预测，进而设计基于位置预测的边缘服务迁移算法。
4.1基于因子图模型的用户位置预测
为了进行精准的位置预测，笔者从用户的历史信息中提取了多个维度的特征，如不同时刻的时间、位置、网络状态以及社交频率特征等，并使用因子图（factorgraph，FG）模型将其有效地整合到一个统一的框架之中。用户在t时刻的时间特征、社交频率特征以及网络状态特征分别用表示。位置信息用yt表示。其中，时间特征为从时间戳中得到的用户的时间信息（比如具体时刻、工作日或者周末等），社交频率特征则是对用户在该时段内各种社交行为特征（比如发布推文、刷新推文、转发推文、预览多媒体视频、观看多媒体视频等）分别进行频率计算得到的数据。网络状态特征是指用户当前所处的网络状态（Wi-Fi、蜂窝网络或者无网络连接）。空间位置信息即用户所处的具体位置。如图4所示，在同一时刻（例如t时刻），用户不同类型的特征与位置之间的关联可以用进行刻画，其中i∈{h,s,n}，h、s、n分别代表时间特征、社交频率特征以及网络状态特征。相邻时刻之间的位置关联用w(yt-1,yt)表征，yt-1和yt分别代表用户在t-1和t时刻的位置信息。因子图模型可以很好地捕捉不同类型特征之间的关联，通过使用置信传播算法对该模型进行训练，最终，可以通过最大化后验概率的方法获得用户下一时刻最有可能出现的位置。
x
图4 面向用户位置预测的因子图模型
同时，由于不同用户的有效特征具有较强的差异性，笔者利用ReliefF（RF）算法对提取的特征进行了用户个性化筛选，以取得更好的预测效果。
4.2基于位置预测的边缘服务迁移方法
在保证较低的服务时延的要求下，服务应该根据用户的移动性在不同的基站之间进行动态的迁移，然而频繁的服务迁移会带来巨大的代价（如额外的网络带宽使用和电力资源消耗）。因此，要考虑在给定长期成本预算C的情况下（T个时刻的预算）如何进行服务迁移决策，才能最小化用户总时延。该问题可以表示为：
其中，pt和yt分别表示服务和用户在t时刻的位置，dt表示在t时刻是否进行服务迁移的决策。c(pt-1,pt)为服务迁移所需的代价，这和带宽以及pt-1和pt之间的地理距离有关。用户在t时刻感知到的时延用s(pt,yt)表示。这一问题的关键是每一时刻下的迁移决策dt。
一个具体的例子是，若用户在t时刻从位置a移动到位置b，在t+1时刻又返回到位置a，那么在t时刻是否需要服务迁移呢？如果无法预知用户下一时刻的位置，一种最简单直接的方法就是让服务一直跟随用户进行迁移，这样虽然能够保证用户的服务质量，但是会带来巨大的服务迁移代价。当能够预知用户下一时刻的位置时，考虑到长期预测的限制，便能够在t时刻进行更加明智的决策，以避免服务反复迁移带来的代价。这一例子充分体现了位置预测在迁移决策过程中的重要性，因此笔者考虑了基于位置预测的个性化服务迁移。
4.3预测性延迟迁移算法
首先，笔者构思了延迟迁移（lazymigration，LM）算法。该算法通过“向后看”，对当前时刻进行服务迁移所需的成本和从上一迁移时刻到目前累积的非迁移时延进行权衡，进而决定是否迁移。如果累积时延不超过当前的迁移代价，那么将一直延迟服务的迁移。进一步地，利用预测的用户下一时刻的位置信息，笔者对算法进行了改进。在进行累积时延和迁移代价的权衡之前，笔者引入了一种“向前看”的机制。考虑到用户未来可能的时延比过去的时延更具有决策的指导意义，笔者首先通过“向前看”估计用户当前时刻和下一时刻可能会感知到的时延，并和当前迁移代价进行权衡。如果预知到在不迁移情况下，用户接下来两个时间片的时延很大，则直接进行服务的迁移，否则就使用延迟迁移算法进行决策，这就是预测性延迟迁移（predictivelazymigration，PLM）算法，见算法2。
算法2：预测性延迟迁移算法。
输入：用户的位置集合Y={y1,y2,…，yT}，预测的下一位置集合Z={z1,z2,…，zT}，向前看参数μ1和向后看参数μ2。
输出：用户访问总时延和总迁移代价。
算法过程：
初始化t←1,m←y1,S←0,C←0
τ←1./*上次迁移的时间*/
fort=1,2,3,…,Tdo
ifyt≠mthen
ifc(m,yt)
边缘人工智能：人工智能和边缘计算的未来
边缘人工智能：人工智能和边缘计算的未来2022-01-21 e-works高效的边缘人工智能模型通常拥有优化的边缘计算基础设施，可以在边缘和靠近边缘处理更庞大的人工智能工作负载。边缘计算正在见证人们对新用例的极大兴趣，尤其是在引入5G之后。根据Linux基金会发布的《2021年边缘计算状态》报告的预测，到2028年，全球边缘计算基础设施的市场价值将超过8000亿美元。与此同时，很多企业也在大力投资人工智能（AI）。根据麦肯锡公司在去年的调查报告，50%的受访者表示至少在一项业务职能中实施了人工智能。虽然大多数企业将这些技术投资作为其数字化转型之旅的一部分，但具有前瞻性的企业和云计算提供商通过融合边缘计算和人工智能（或边缘人工智能）看到了新的机遇。人们需要了解边缘人工智能的发展以及这项技术对现代数字企业的影响。什么是边缘人工智能？人工智能在很大程度上依赖于复杂机器学习算法的数据传输和计算。边缘计算建立了一个新时代的计算模式，将人工智能和机器学习转移到数据生成和计算实际发生的地方：网络边缘。边缘计算和人工智能的融合催生了一个新领域：边缘人工智能。边缘人工智能可以提供更快的计算和洞察力、更好的数据安全性以及对持续运营的有效控制。因此，它可以提高支持人工智能的应用程序的性能，并降低运营成本。边缘人工智能还可以帮助人工智能克服与之相关的技术挑战。边缘人工智能促进机器学习、深度学习模型的自主应用以及物联网设备本身的高级算法。边缘人工智能将如何改变企业？高效的边缘人工智能模型通常拥有优化的边缘计算基础设施，可以在边缘和靠近边缘处理更庞大的人工智能工作负载。边缘人工智能与存储解决方案相结合，可以提供行业领先的性能和无限的可扩展性，使企业能够有效地使用他们的数据。许多企业已经从边缘人工智能中获益。从改进装配线的生产监控到驾驶自动驾驶汽车，边缘人工智能可以使各个行业受益。此外，最近在许多国家和地区推出5G技术为边缘人工智能提供了额外的推动，因为该技术的更多工业应用不断涌现。由人工智能驱动的边缘计算对企业的一些好处包括：●高效的预测性维护和资产管理●缩短每个产品的检查时间●减少现场问题●更好的客户满意度●确保大规模边缘人工智能基础设施和边缘设备生命周期管理●改善城市交通管制措施实施边缘人工智能是一个明智的商业决策，因为估计未来三年工业边缘人工智能部署的平均投资回报率(ROI)为5.7%。在边缘应用在机器学习的优势机器学习是使用数据和算法对人类学习过程进行人工模拟。借助边缘人工智能的机器学习可以提供帮助，特别是对于严重依赖物联网设备的企业。以下将阐述了边缘应用在机器学习的一些优点。●隐私：信息和数据如今成为最有价值的资产，消费者对其数据的位置持谨慎态度。能够在其应用程序中提供支持人工智能的个性化功能的企业，可以让用户了解他们的数据是如何收集和存储的。它提高了客户的品牌忠诚度。●降低延迟：大多数数据处理都是在网络和设备级别进行的。边缘人工智能消除了跨网络和设备发送大量数据的要求；从而改善用户体验。●最小带宽：拥有数千个物联网设备的企业每天都必须将大量数据传输到云端。然后在云端执行分析，并将分析结果重新传输回设备。如果没有更广泛的网络带宽和云存储，这个复杂的过程将变成一项不可能完成的任务，更不用说在此过程中暴露敏感信息的可能性。然而，边缘人工智能实现了Cloudlet技术，即位于网络边缘的小规模云存储。Cloudlet技术增强了移动性，降低了数据传输的负载。因此，它可以降低数据服务的成本，提高数据流的速度和可靠性。●低成本的数字基础设施：亚马逊公司表示，90%的数字基础设施成本来自推理（机器学习中一个重要的数据生成过程）。在RightScale公司最近进行的一项研究中，接受调查的企业中有60%认为节省成本的目标隐藏在云计算计划中。相比之下，边缘人工智能消除了在基于云的数据中心执行的人工智或机器学习过程所产生的高昂费用。影响边缘人工智能开发的技术数据科学、机器学习和物联网开发等知识的发展在边缘人工智能领域发挥着更重要的作用。然而，真正的挑战在于严格遵循计算机科学发展的轨迹。特别是可以完美融入人工智能和机器学习生态系统的下一代人工智能应用程序和设备。幸运的是，边缘计算领域正在见证有希望的硬件开发，这将缓解边缘人工智能目前的限制。Sima.ai、EsperantoTechnologies和AIStorm等初创公司是少数开发可以处理繁重人工智能工作负载的微芯片的企业之一。2017年8月，英特尔公司以153亿美元收购了以色列视觉安全技术开发商Mobileye公司。近日，科技巨头百度公司启动了第二代昆仑人工智能芯片的量产，这是一种用于边缘计算的超快微芯片。除了微芯片之外，谷歌的EdgeTPU、英伟达的JetsonNano以及亚马逊、微软、英特尔和华硕也开始了主板开发的浪潮，以增强边缘计算的实力。亚马逊的AWSDeepLens是世界上第一个支持深度学习的摄像头是这方面的一项重大发展。边缘人工智能的挑战●数据质量差：全球主要互联网服务提供商的数据质量差是边缘人工智能研发的主要障碍。最近的一份Alation报告显示，87%的受访者（主要是IT公司的员工）确认数据质量差是他们的组织未能实施边缘人工智能基础设施的原因。●易受攻击的安全功能：一些数字专家声称边缘计算的去中心化特性增加了其安全功能。但实际上，本地汇集的数据需要更多位置的安全性。这些增加的物理数据点使边缘人工智能基础设施容易受到各种网络攻击。●有限的机器学习能力：机器学习需要在边缘计算硬件平台上有更大的计算能力。在边缘人工智能基础设施中，计算性能仅限于边缘或物联网设备的性能。在大多数情况下，大型复杂的边缘人工智能模型必须在部署到边缘人工智能硬件之前进行简化，以提高其准确性和效率。边缘人工智能的用例●虚拟助理亚马逊公司的Alexa或苹果公司的Siri等虚拟助手是边缘人工智能发展的巨大受益者，这使他们的机器学习算法能够从存储在设备上的数据中快速进行深度学习，而不是依赖于存储在云中的数据。●自动光学检测自动光学检测在生产线中发挥着重要作用。借助自动化的边缘人工智能视觉分析，它可以检测生产线组装部件的故障部件。自动光学检测允许高度准确的超快速数据分析，而无需依赖大量基于云的数据传输。●自动驾驶汽车支持边缘人工智能的自动驾驶汽车具有更快、更准确的决策能力，可以比人类更好地识别道路交通元素并更轻松地导航旅行路线。它可以在没有人工干预的情况下实现更快、更安全的运输。结语除了以上讨论的所有用例之外，边缘人工智能还可以在面部识别技术、增强工业物联网安全和紧急医疗护理方面发挥关键作用。边缘人工智能的用例列表每天都在增长。在不久的将来，通过满足每个人的个人需要和业务需求，边缘人工智能将成为一种日常的技术。热词搜索：边缘计算人工智能
上一篇：2022年云计算行业的五大发展趋势下一篇：云计算有哪些特点？
分享到：收藏