Edge Intelligence：边缘计算与人工智能的结合
本文出自论文EdgeIntelligence:PavingtheLastMileofArtificialIntelligencewithEdgeComputing，主要对边缘智能的最新研究成果进行了全面调查，并进行了完善的综述。
边缘智能的研究仍处于起步阶段，计算机系统和人工智能社区都迫切需要一个专门的地方来交流边缘智能的最新进展。为了这个目的，本文对边缘智能的最新研究成果进行了全面调查。首先回顾了在网络边缘运行的人工智能应用程序的背景和动机，然后提供了一个在网络边缘的深度学习模型训练/推理的总体架构、框架和出现的关键技术，最终，讨论了在边缘智能上未来的研究机遇。
文章目录一、简介二、人工智能技术三、边缘智能四、边缘智能模型训练五、边缘智能模型推理六、未来研究方向七、结论一、简介边缘节点的大小可以不同，从信用卡大小的计算机到带有多个服务器机架的微型数据中心，边缘计算强调的最重要特征是物理上接近信息生成源。从本质上讲，与传统的基于云的计算方式相比，在计算和信息生成源的物理接近性带来了几个好处，包括低延迟、能量高效、隐私保护、带宽占用减少、及时性和环境敏感性。
二、人工智能技术卷积神经网络（CNN）：CNN通常应用于计算机视觉方向，给定一系列来自真实世界的图像或视频，在CNN的利用下，AI系统学会去自动提取这些输入的特征来完成一个特定任务，如图像分类、人脸识别、图像语义分割。循环神经网络（RNN）：对于顺序性输入数据，RNNs被提出来解决时间序列问题。RNN的输入由当前输入和先前样本组成。一个RNN的每个神经元拥有一个内存来保存先前样本计算信息。RNN的训练过程基于随时间的反向传播方法（BPTT），长短期记忆（LSTM）是RNNs的一个扩展版本。LSTM的每个神经元被称作记忆单元，其包括一个乘法遗忘门、输入门和输出门。这些门被用来控制对记忆单元的访问。这些门是不同的神经网络，用来决定哪些信息在这个记忆门中被允许。由于其具有处理输入长度不固定的数据优势，循环神经网络已经被广泛应用于自然语言处理。生成对抗网络（GAN）：GANs有两个主要成分组成，被命名为生成网络和鉴别网络。生成器主要负责在从真实数据的训练集中学习数据分布后，来生成新数据。鉴别器则主要负责将真实数据和从生成器中生成的虚假数据进行分类。GAN通常被应用于图像生成、转换、组合、分辨和其他应用程序中。深度强化学习（DRL）：DRL由DNNs和强化学习（RL）组成，DRL的目标在于建立一个智能agent，来执行有效的策略去最大化带有控制动作的长期任务奖赏。DRL的典型应用是去解决不同的调度问题，例如游戏中的决策问题，视频传输的比例选择等。在DRL方法中，强化学习从来自环境的状态函数中寻找动作的最优策略，DNN则负责表示大量状态并近似动作值，来评估得到状态下的动作质量。奖赏是一个函数，用来表示预定义环境和一个动作性能的距离。通过连续的学习，DRL模型的agent可以被用来处理不同的任务。三、边缘智能边缘智能的动机和好处：（1）网络边缘产生的数据需要AI来完全释放它们的潜能；（2）边缘计算能够蓬勃发展具有更丰富的数据和应用场景的人工智能；（3）人工智能普遍化需要边缘计算作为关键基础设施；（4）边缘计算可以通过人工智能应用来推广。边缘智能的范围：我们认为边缘智能应该是充分利用终端设备、边缘节点和云数据中心层次结构中可用数据和资源的范例，从而优化DNN模型的整体训练和推理性能。这表明边缘智能并不一定意味着DNN模型完全在边缘训练或推理，而是可以通过数据卸载以cloud-edge-device协作的方式来工作。边缘智能的等级：根据数据卸载的数量和路径长度，我们将边缘智能分成6个等级。云智能（完全在云中训练和推理DNN模型）、Level-1（Cloud-Edge协作推理和Cloud训练）、Level-2（In-Edge协作推理和Cloud训练）、Level-3（On-Device推理和Cloud训练）、Level-4（Cloud-Edge协作训练和推理）、Level-5（In-Edge训练和推理）、Level-6（On-Device训练和推理）。当边缘智能的等级越高，数据卸载的数量和路径长度会减少，其传输延迟也会相应减少，数据隐私性增加，网络带宽成本减少。然而，这是通过增加计算延迟和能耗的代价来实现的。四、边缘智能模型训练架构：在边缘的分布式DNN训练架构可以被分成三个模块，集中式，分散式，混合式（Cloud-Edge-Device）。（1）集中式：DNN模型在Cloud数据中心训练；（2）分散式：每个计算节点使用它的本地数据在本地训练它自己的DNN模型，并通过共享本地训练更新来获得全局DNN模型；（3）混合式：结合了集中式和分散式模块，边缘服务器可以通过分散式更新来训练DNN模型，或者使用云数据中心来集中式训练。关键性能指标：（1）TrainingLoss（训练损失）：表示训练好的DNN模型与训练数据的匹配度；（2）Convergence（收敛）：衡量一个分散方法是否以及多快能收敛到这样的共识；（3）Privacy（隐私性）：是否实行隐私保护取决于原始数据是否被卸载到边缘；（4）CommunicationCost（通信成本）：其被原始输入数据大小、传输方式和可用带宽所影响；（5）Latency（延迟）：由计算延迟和通信延迟组成，计算延迟依赖于边缘节点的性能，通信延迟可能因传输的原始或中间数据大小以及网络连接带宽而异；（6）EnergyEfficiency（能源效率）：其主要被目标训练模型和使用设备的资源所影响。支持技术：（1）FederatedLearning（联邦学习）：优化隐私问题，通过聚合本地计算更新来在服务器上训练共享模型；（2）AggregationFrequencyControl（聚合频率控制）：在给定资源预算下，确定本地更新和全局参数聚合之间的最佳权衡；（3）GradientCompression（梯度压缩）：梯度量化（通过量化梯度向量的每一个元素到一个有限位低精度值）和梯度稀疏化（通过仅传输梯度向量的一些值）；（4）DNNSplitting（DNN划分）：选择一个划分点来尽可能减少延迟；（5）KnowledgeTransferLearning（知识迁移学习）：首先基于一个基础的数据集和任务来训练一个基础网络，然后在一个目标数据集和任务中将学到的特征迁移到第二个目标网络进行训练；（6）GossipTraining（流言训练）：多设备间随机流言通信，它是完全异步和分散的。已有系统和框架的总结：与以云为基础框架的DNN训练相比，以边缘为基础框架的DNN训练更关注于保护用户的隐私和更快地训练一个可用的深度学习模型。五、边缘智能模型推理架构：我们进一步定义了几个主要的云集中推理架构，包括：（1）Edge-based（DNN模型推理在边缘服务器完成，预测结果将返回到设备中）；（2）Device-based（移动设备从边缘服务器获取DNN模型，并在本地执行模型推理）；（3）Edge-device（设备执行DNN模型到一个特定层后将中间数据发送到边缘服务器，边缘服务器将执行剩余层并将预测结果发送到设备上）；（4）Edge-cloud（设备主要负责输入数据收集，DNN模型则在边缘和云上执行）。关键性能指标：（1）Latency（延迟）：整个推理过程中所占时间，包括预处理、模型推理、数据传输和后处理；（2）Accuracy（精度）：从推理中获得的正确预测输入样本数量和总输入样本数量的比值；（3）Energy（能量）：能量效率被DNN模型大小和边缘设备资源所影响；（4）Privacy（隐私）：其依赖于处理原始数据的方式；（5）Communicationoverhead（通信开销）：其依赖于DNN推理方式和可用带宽；（6）MemoryFootprint（内存占用）：其主要被原始DNN模型大小和加载大量DNN参数的方法所影响。支持技术：（1）ModelCompression（模型压缩）：权重剪枝和量化，来减少内存和计算；（2）ModelPartition（模型划分）：计算卸载到边缘服务器或移动设备，延迟和能量优化；（3）ModelEarly-Exit（模型前期退出）：部分DNNs模型推理；（4）EdgeCaching（边缘缓存）：对相同任务先前结果重用的快速响应；（5）InputFiltering（输入过滤）：输入差异检测；（6）ModelSelection（模型选择）：输入优化和精度感知；（7）SupportforMulti-Tenancy（多租用支持）：多个基于DNN的任务调度和资源高效性；（8）Application-specificOptimization（特殊应用程序优化）：对特定的基于DNN的应用程序进行优化。已有系统和框架的总结：为了使一般边缘智能系统的整体性能最大化，综合的可用技术和不同优化方法应当以协作的方式工作，以提供丰富的设计灵活性。六、未来研究方向编程及软件平台：当越来越多AI驱动的计算密集型移动和物联网应用程序出现后，边缘智能作为一个服务（EIaaS）可以成为一个普遍范式，具有强大边缘AI功能的EI平台将会被发展和部署。EIaaS更多关注于如何在资源限制型和隐私敏感型的边缘计算环境中执行模型训练和推理任务。另外，应该进一步研究轻量级虚拟化和计算技术，如容器和函数计算，以便在资源受限的边缘环境中高效部署和迁移EI服务。资源友好型边缘AI模型设计：大部分基于AI模型的深度学习都是高度资源紧张型的，这意味着丰富的硬件资源所支持的强大计算能力是这些AI模型性能的重要提升。因此，有很多研究利用模型压缩技术（如权重剪枝）来调整AI模型的大小，使它们对边缘部署更加资源友好。计算感知网络技术：非常需要计算感知性的先进网络解决方案，以便于计算结果和数据能够有效地跨不同边缘节点被共享。计算感知的通信技术开始获得关注，例如梯度编码在分布式学习中缓解离散效应，分布式随机梯度下降的空中计算，这些都对于边缘AI模型训练加速是有用的。智能服务和资源管理：设计高效的服务发现协议是非常重要的，这样用户可以识别和定位相关的EI服务提供者，从而及时满足他们的需求。另外，为了充分利用跨边缘节点和设备的分散资源，将复杂的边缘AI模型划分成小的的子任务和有效地在边缘节点和设备中卸载这些任务，以实现协同执行是关键的。七、结论本文对边缘智能的研究现状进行了全面的综述。特别地，我们首先回顾了运行在网络边缘的人工智能背景以及动机，接着提供了一个总体架构、框架和在网络边缘训练和推理的深度学习模型的关键技术描述。最后，我们讨论了边缘智能的开放挑战和未来研究方向。
科技部谈ChatGPT：将推动人工智能与经济社会深度融合
新京报讯（记者陈琳）2月24日，国新办举行“权威部门话开局”系列主题新闻发布会。科技部高新技术司司长陈家昌在谈到近期引起广泛关注的ChatGPT时表示，科技部将把人工智能作为战略性新兴产业，作为新增长引擎，继续给予大力支持。将推动人工智能与经济社会深度融合，在重大应用场景中锤炼技术，升级迭代，培育市场。
科技部部长王志刚同时表示，在推动人工智能发展的同时，要兼顾科技成果的两面性，加强伦理规范。“我国对于任何一个新的技术，包括AI技术，在伦理方面都采取了相应的措施，对科学技术发展趋利避害，让利更好地发挥出来。”
陈家昌介绍，人工智能作为一个战略性新兴技术，日益成为科技创新、产业升级和生产力提升的重要驱动力量。基于自然语言理解的人机对话是人工智能发展的一个重要方向，ChatGPT最近形成了一种现象级的应用，表现出很高的人机交互水平，表现出自然语言的大模型已经具备了面向通用人工智能的一些特征，在众多行业领域有着广泛的应用潜力。
从人工智能大的发展趋势来讲，有两个非常明显的特点。首先，人工智能对社会经济的发展，具有渗透性、扩散性和颠覆性作用。特别是在科研端，人工智能为生物科学、材料科学、能源科学的一些研究提供了新的方法、新的途径，正在引领科研范式变革。
另外，在互联网、大数据、超级计算、智能计算、脑与认知相关技术的共同驱动下，人工智能领域加速发展，日益呈现群体性突破态势，特别是“智能+”的范式，在制造、交通、医疗等领域都得到了广泛应用。有些黑灯工厂，工序高度自动化、智能化，大大提高了生产能效。在医疗领域，人工智能辅助的诊疗系统，覆盖了3000多种常见病，在27000多家基层医疗机构得到应用，表现出人工智能的渗透性很大。
中国政府非常重视人工智能，2017年国务院制定了《新一代人工智能发展规划》，在规划指引下，科技部成立了人工智能规划推进办公室、战略咨询委员会和人工智能治理专业委员会，这两年也制定了《新一代人工智能治理原则》和《伦理规范》，启动了人工智能重大科技项目，确定了以“基础软硬件”为主体，“基础理论”和“创新应用”为两翼的“一体两翼”研发布局，同时依托龙头企业，建立了一些人工智能开放创新平台，一方面带动中小企业发展，另一方面提升整个行业的技术进步速度。
科技部建设了18个国家创新发展试验区，鼓励各地因地制宜，发展具有各地特色的应用场景。从进展来看，国内学者提出了“神经形态完备性”理论，研发了异构融合类脑芯片，同时国内科研机构研发了中文多模态预训练模型、图文音三模态大模型，从技术水平来讲也都达到了国际先进水平。
陈家昌表示，下一步科技部将把人工智能作为战略性新兴产业，作为新增长引擎，继续给予大力支持。将推动构建开放协同的人工智能创新体系，加快基础理论研究和重大技术攻关；推动人工智能与经济社会深度融合，在重大应用场景中锤炼技术，升级迭代，培育市场；推动建立人工智能安全可控的治理体系；全方位推动人工智能开放合作。
编辑刘梦婕
校对陈荻雁
人工智能翻译对口笔译职业的影响
北京市中国地质大学 李汀汪芃阿丽屯古丽阿依森巴特刘重阳 指导教师：朱蔓100083
摘要：目前人工智能的发展受益于移动网络和多样化智能终端的普及，大数据、云计算、深度学习是目前人工智能的驱动力。人工智能机器高效率，速度快等优势将替代单一技能职业等低端职业，对社会就业结构改变存在一定的影响。因此，本文对人工智能翻译对翻译职业影响进行分析，并提出对于翻译学习者的建议。关键词：人工智能翻译；翻译职业；影响分析 1.引言 近年来在语言服务领域，人工智能与翻译相结合，使得以计算机为主体的机器全自动翻译和以人工为主体的计算机辅助翻译（机器半自动翻译）成为可能。美国微软公司在2018年就声称其研发的机器翻译系统将首次在通用新闻汉译英方面达到人类专业水平。翻译产品大量研发上市：百度翻译、谷歌翻译、科大讯飞翻译机技术成熟，对翻译从业者构成潜在的影响和挑战。口笔译员等翻译职业是否会在人工智能快速发展的时代被取代，高校的外语教学面临怎样的挑战都是身为翻译学习者值得思考的问题。 2.人工智能翻译对翻译职业影响 2.1当今翻译职业者现状及挑战 由于翻译软件的广泛普及应用，人们对于翻译职业的看法有所改变。根据调查报告显示，在“您认为机器翻译会取代翻译职业吗”这一问题中，将近49.29%被调查者选择“不好说”这一选项，32.13%被调查者选择一定不会这一选项。18.57%的被调查不看好翻译职业的未来发展，选择“一定会”这一选项。而在“您认为当前语言类专业的就业形势是否乐观”这一题目中，59.29%的被调查者认为“乐观”，而32.14%被调查者选择不太乐观。由此可见，当今翻译职业受到了人工智能机器翻译的冲击，但依旧无法完全替代翻译职业。
2.2翻译职业冲击影响分析 近年来翻译市场不断扩大，翻译人才也不断增加，翻译已经逐渐出现了职业化的现象。另外，现在市场上最常见的是实用翻译，文学翻译的占比相对而言越来越少。在此基础上，机器翻译的出现是对翻译职业的一大冲击。 从对于已经逐渐出现爆满丰盈状态的翻译市场来说，在实用翻译上，机器翻译是超越人工翻译的。机器翻译不仅拥有巨型数据库的基础，同时又能准确进行专业知识的延伸拓展，翻译职业就会大幅缩水，对人工翻译的需要也随之减少。因为不管是译者的职业化技能知识，对于原文本的理解和掌握等，都无法和机器进行比较。 但是，当部分实用翻译侧重于目标语言的写作能力和职场运作的了解，机器无法进行准确翻译的部分情况下，机器的优势就不再“一骑绝尘”。但是否可以利用机器进行推测，并且经过试错，进行人工的改造并且达到“自然语言”的程度，也是有待验证的。如果这种情况能够实现的可能性变大，那么机器翻译的领域便会再次扩张。 在文学翻译上，机器翻译暂时无法取代人工翻译。对于从事文学翻译的译者来说，是有优势的。一定程度上，也许能刺激文学翻译的发展。但是文学翻译的要求相比实用翻译要高得多，甚至是翻译专业的学生也不一定能够胜任。文学翻译不同于实用翻译只需要考虑译本观众，不必过分考虑原文以及作者的话语权，文学翻译的任务在于将原作者的含义不仅仅是进行准确的表现，便于理解，更要进行文字的扩展义务。这就要求译者具有一定水平的文字掌控能力。这也是为什么很多文学家，语言工作者都从事于文学文献翻译工作的原因之一。文学翻译在翻译职业职业化中的占比小便说明即使在没有机器翻译的冲击下，也依然不是容易之事的现实。所以推测对于从事与文学翻译的译者来说，所带来的负面影响并不大。 3.对于翻译学习者的建议 现阶段，人工翻译获得成就举世瞩目，使得人们不禁怀疑是否有一天它将取代人工翻译。对此疑问，根据上述实验和调查我们进行初步判断：人工智能无法完全替代人工翻译，尤其在文学，新闻等领域它无法承担翻译工作。但我们也不能忽视它对翻译行业产生的挑战和机遇。翻译学习和工作者应积极面对人工智能翻译带来的挑战，抓住机遇，提高自我，并且促进翻译事业的发展。 人工智能翻译速度快，成本低，效率高，受到人们的青睐，在不需人较高的主观性的情况下可以承担大多数翻译工作。面对它所带来的挑战，翻译学习者不仅需要有较强的语言功底和翻译技能还需要有广博深厚的知识背景，逻辑性，周密性，洞察力及预测能力。其次，翻译学习者与工作者需要与时代共进步，紧跟“互联网＋”时代特点。对于人工智能机器翻译“速度快，效率高，词汇储存量大”等优势，翻译学习和工作者可以利用“人机结合”的方式，以便提高效率。 根据上述实验等分析可以得出，机器翻译在“文化交际，语境语义”等方面欠缺，翻译学习者和工作者应加强自身文化交际能力，在具备较强的双语言功底的同时还需要有跨学科翻译技能，以便将自身打造为复合型专职翻译人才。 4.结语 随着科技的发展，大量人工智能翻译软件应运而生，对翻译职业造成一定冲击。人工智能翻译软件作为跨学科产物，其大数据、云计算等技术大大提高了翻译效率，具备单词储备量高、方便简洁，高效快速等胜于人工翻译的优势。但是，人工智能机器翻译无法完全替代人工翻译，翻译职业就业前景依旧较为乐观。面对人工智能翻译软件的应用，翻译学习者和工作者应加强跨文化交际和现场应变能力，适当进行人机结合，提高翻译效率。在具备较强的双语言功底的同时还需要有跨学科翻译技能，以便将自身打造为复合型专职翻译人才。参考文献：[1]包可庆.人工智能技术发展对英语专业学生就业的影响及其对策[J].企业科技与发展,2018,11:281-282.[2]黄德先,杜小军.翻译的职业化及对翻译研究的影响[J].上海翻译,2010(01):73-77.[3]高恂.机器翻译的语言学价值与发展困境[J].山西能源学院学报,2020,33(6):80-82.