人工智能芯片重心走向边缘计算 边缘计算行业市场运行态势如何
人工智能芯片重心走向边缘计算边缘计算行业市场运行态势如何吴澳燕2022年12月1日来源：中国电子报互联网89956繁体本轮人工智能热潮启动之初，许多企业都相信人工智能最适合放置的位置是在云端，这也是大量企业将数据迁移上云，并将相应的处理运算交由云服务器承载的主要原因。但是随着数字化的深入发展，边缘与终端采集到的数据量呈指数级增长，且对实时响应和低延时有了更高要求，人
人工智能芯片重心走向边缘计算
本轮人工智能热潮启动之初，许多企业都相信人工智能最适合放置的位置是在云端，这也是大量企业将数据迁移上云，并将相应的处理运算交由云服务器承载的主要原因。但是随着数字化的深入发展，边缘与终端采集到的数据量呈指数级增长，且对实时响应和低延时有了更高要求，人工智能向边缘计算延伸也就变得不可阻挡了。
随着各类智能设备如智能汽车、智能手表、智能家电、VR/AR等越来越多地走入人们生活，人工智能也在快速从“云端”走向“边缘”，越来越多的芯片企业开始加强其在边缘智能领域的布局。
IDC预计，未来几年64%的数据将在传统数据中心之外产生，这意味着更多的数据智能处理将在终端和边缘侧完成。海量数据的接入，使AI处理的重心正向边缘迁移。
边缘计算可以在收集数据的地方实时分析数据，最快速度捕捉和纠正问题，因此，相比于云计算，边缘计算能够提供更高的速度和更低的延迟，不仅可以减少与数据传输有关的安全风险，还能够减少带宽成本。
基于上述优势，边缘计算在智慧城市、智慧农业、智慧零售、智能制造等多个领域也有着广泛的应用。越来越多的实时性强的业务开始兴起，传统的云计算很难满足大量数据传输和实时处理的需求，边缘计算的应用场景还会更多。
根据中研普华产业研究院发布的《2022-2027年边缘计算市场发展现状及投资风险预测报告》显示：
边缘计算，是指在靠近物或数据源头的一侧，采用网络、计算、存储、应用核心能力为一体的开放平台，就近提供最近端服务。其应用程序在边缘侧发起，产生更快的网络服务响应，满足行业在实时业务、应用智能、安全与隐私保护等方面的基本需求。边缘计算处于物理实体和工业连接之间，或处于物理实体的顶端。而云端计算，仍然可以访问边缘计算的历史数据。
随着数字化、智能化时代对算力需求的增加，单一的云计算或者本地化数据中心已经不能满足。从用户侧的“端”、广泛覆盖的“云”到更加靠近数据产生处的“边”，“端-边-云-网”的新算力基础架构因此应运而生。
2021年我国边缘计算市场规模已经达到427.9亿元，其中边缘硬件市场规模为281.7亿元，边缘软件与服务市场规模达146.2亿元，2021-2025年中国边缘计算产业市场规模预计年复合增速达到46.81%。
边缘计算行业市场运行态势如何
根据技术监测网(TechMonitor)对创新研究公司GreyB提供的最新专利申请的独家分析，中国边缘计算行业中的创新在过去一年中出现了爆炸式增长。在过去一年中，提交边缘计算专利申请最多的10个组织中，有7个属于中国，排名前10的大学全部归属于中国。
有赖于无处不在的连接和计算能力，边缘计算作为CT、IT以及各个行业OT的融合交汇，为我们提供了泛在普惠的高速、高可靠、低时延、低成本的计算和智能化能力，是驱动新一轮科技创新和产业变革的新动能、撬动产业升级演进的战略新支点之一。
《边缘计算最佳实施白皮书(2021年)》指出，随着边缘计算技术的发展，出现了边缘计算的三大技术体系，一是以CT基础电信企业(通信运营商、设备商)为主推动的ETSIMEC技术体系，二是以IT互联网企业(云计算服务商、CDN厂商等)为主推动的公有云下沉技术体系，三是边缘混合云技术体系，这三条技术路线正在加速竞合。
Gartner预测，到2025年，边缘计算将有超过万亿的市场规模，处理75%以上的各类业务数据。面对如此庞大的市场，自然吸引了众多的企业进入该领域。
面向广阔的5G应用市场蓝海及边缘计算市场发展空间，各大厂商已经积极发力。主流的边缘计算玩家不仅包括三大运营商、网络设备提供商(中兴、华为、诺基亚和爱立信)、中国大型云服务企业(阿里巴巴、腾讯和百度)，众多小型ICT公司、云和边缘计算专业公司、CDN服务商、垂直行业也纷纷加入，依托自身的资源和能力，寻求边缘新业务和解决方案的机会。
更多行业详情请点击中研普华产业研究院发布的《2022-2027年边缘计算市场发展现状及投资风险预测报告》。
关注公众号
免费获取更多报告节选
免费咨询行业专家
相关深度报告REPORTS2022-2027年边缘计算市场发展现状及投资风险预测报告
日前科技处于史无前例的高速发展时代，新的技术层出不穷。近年来，国际著名咨询公司高德纳（Gartner）每年都会发布本年度的新兴技术周期曲线，和下一年度十大战略技术趋势，对新兴技术的发展趋G...
查看详情
产业规划特色小镇产业园区规划产业地产可研报告商业计划书细分市场研究IPO上市咨询
边缘计算什么是边缘计算边缘计算行业市场发展
56延伸阅读1如何应对2020年新形势下中国边缘计算行业的变化与挑战！10602中国经济基本面稳定，但动力和质量较为不足，跨域视频AI行业发展如何受限？8403经济数字化趋势突出，5G通信技术行业如何借力发力，企业如何迈出更大一步？6404技术升级提升竞争力，行业转型增强优势，PaaS服务行业企业如何选择？4405投资与产出不成正比，网络直播企业如何做出正确的投资规划和战略选择？3206行业集中度在不断提升，不进则退。投影仪情报分析把握有力发展方向！140推荐阅读公立医院属于什么性质的单位?中国公立医院投资战略分析新医改推进十年，在破除以药补医机制、推进医疗服务价格改革、推进药品领域改革以及推进现代医院管理制度建设等方面都...
湖南省与中国稀土集团签署战略合作协议稀土行业将会是景气的时期湖南省与中国稀土集团签署战略合作协议湖南省与中国稀土集团有限公司在长沙签署战略合作协议。省委书记、省人大常委会...
网售处方药监管新规今起施行未来医药销售产业发展潜力极大网售处方药监管新规今起施行国家市场监管总局发布的《药品网络销售监督管理办法》正式施行。在经过三次征求意见，以及...
中汽协发布前10月汽车商品进口额前十国排名汽车商品累计进口金额750.7亿美元中汽协发布前10月汽车商品进口额前十国排名汽车商品累计进口金额750.7亿美元据中国汽车工业协会整理的海关总署数据2...
2023触头材料行业前景及现状分析触头材料行业市场有多大?触头材料分类包括：铜、银、钨和钼以及金、铂、钯等。开关电器中触头接触电阻的增值机制与弱2...
2022税务服务行业前景及现状分析当前行业已进入市场化竞争阶段近年来，随着财税相关监管制度和政策的出台，财税规范化是大势所趋，企业财税管理变得越来越重要，特别在保证财税合法...
猜您喜欢智慧港口示范新技术应用智慧港口建设项目案例分析
今年以来分布式光伏装机占比已占三分之二我国分布式光伏发展较快
财富管理行业发展潜力分析及互联网财富理财行业分析
我国首个10千伏“雪花网”首批试点工程在天津建设完成智能电网行业市场深度调研
服务器行业全景调研未来5年服务器市场需求仍将持续增长
银行为房企授信总额已超过2万亿元中国金融支持房地产持续加码
【版权及免责声明】凡注明"转载来源"的作品，均转载自其它媒体，转载目的在于传递更多的信息，并不代表本网赞同其观点和对其真实性负责。中研网倡导尊重与保护知识产权，如发现本站文章存在内容、版权或其它问题，烦请联系。联系方式：jsb@chinairn.com、0755-23619058，我们将及时沟通与处理。人工智能行业专题研究：AI模型下沉至终端，提升边缘计算需求
（报告出品方/作者：中信建投证券，阎贵成、武超则、汪洁）
一、AI算力将在边端云端灵活分配
边缘计算在万物互联场景中至关重要
边缘计算是一种分布式计算架构，将数据处理能力和应用程序部署在更接近数据源的位置，以提高响应性，增强安全性和保护用户隐私（参考边缘计算联盟（ECC）的定义）。所谓边缘，一般包括：设备边缘和云边缘。设备边缘：一般包括直接的终端设备以及一些异构加速卡、边缘网关等设备。云边缘：一般是在设备边缘和中心云之间，比如就近部署的边缘云节点/边缘IDC。万物互联场景中，云端处理存在时延较长、成本较高、涉及数据隐私等问题，引入边缘计算至关重要。
边缘AI将与云端AI相互补充
边缘AI将AI能力引入到边缘计算场景。相较于云端集中的AI资源池运算，边缘AI具有实时响应、增加隐私性、持续改进等优势。边缘AI与云端集中的AI是相互补充、相互关联的关系，而非替代关系。
高通公司表态向智能边缘计算公司升级，提出混合AI架构
2022年5月的世界智能科技创新合作峰会上，高通公司中国区董事长孟樸强调了混合AI重要性。在5G加持下，随着生成式AI的飞速普及和计算需求的日益增长，混合处理的重要性空前凸显。混合AI架构可以根据模型和查询需要的复杂度等因素，选择不同的方式在云端和边缘终端之间分配并协同处理AI工作负载。以终端侧AI为中心的混合AI架构中，端侧设备作为锚点，可以运行数十亿参数的模型，复杂的模型则可以跨云端和终端进行运行，根据需要在用户无缝感知的情况下，使用云端计算。
AI算力预计将灵活分配
我们认为AI算力将综合考虑硬件能力、成本等因素，在边端和云端灵活分配，简单涵盖：边端AI小模型场景：本地跑一些语音识别、图像识别等算法复杂度比较低、对算力要求比较小的AI模型，同时也可以通过API调用云端AI算力/应用来实现更加丰富的AI功能。边端AI大模型场景：直接在边缘侧运行AI大模型。这类场景我们认为可能会率先在手机、PC、智能驾驶、具身智能、元宇宙、工业控制等自身具备一定算力基础的场景落地。
联邦学习等方法研究在边缘计算架构下进行分布式训练
联邦学习FL（FederatedLearning,FL）采用分布式学习架构，使得神经网络模型在移动边缘计算（MEC）架构下可以进行分布式训练，参与学习的客户端无需上传本地数据，只需将训练后的模型参数更新上传，再由边缘服务器节点聚合、更新参数并下发给参与学习的客户端。由于不需要共享和传输原始数据，采用类似集群的通信结构，FL更适合于移动终端等大规模、广分布的部署环境。
二、大模型向边缘端渗透初见端倪
大模型在边缘端渗透的条件：模型压缩+算力提升
大模型向边缘端渗透，需要算法、硬件协同优化，模型压缩和边缘侧计算性能提升是两大关键。模型压缩：比如GPT-175B模型约有1750亿参数，以半精度（FP16）格式计算，至少占320GB存储空间。模型压缩是大模型向边缘渗透的其中一个重要条件。计算性能提升：包括算力、显存、功耗等多方面的硬件综合能力。目前在这两个方向上，我们都可以看到不错的进展预期，大模型在边缘端渗透初见端倪。
模型压缩：包含量化、蒸馏、剪枝等多种方式
模型压缩主要包括ModelQuantization模型量化、knowledgedistillation知识蒸馏、ModelPruning模型剪枝、Low-RankAdaptation低秩适应、weightsharing权值共享、architecturesearch结构搜索等方式。
模型压缩：SparseGPT可以一次性修剪至少50%的稀疏性
奥地利科技学院等机构的研究者提出SparseGPT，可以在100亿-1000亿参数的模型规模上有效地运作。SparseGPT将剪枝问题简化为一组极其大规模的稀疏回归实例，基于新的近似稀疏回归求解器用于解决分层压缩问题，效率足以在几个小时内使用单个GPU在175B参数的GPT模型上执行。SparseGPT可以在OPT家族的1750亿参数变量中剪枝到高达60%的均匀分层稀疏性。
模型压缩：逐步蒸馏法用7.7亿参数蒸馏超过5400亿的大语言模型
5月3日，华盛顿大学与Google一起公布逐步蒸馏（Distillingstep-by-step）法，可使用更少的数据来做模型的蒸馏（据论文描述，平均只需要之前方法的一半数据，最好的情况只需要15%的数据就可以达到类似的效果），并可获得更小规模的模型（最多可比原模型小2000倍，即可获得大模型差不多的效果）。
模型压缩：开源模型原驼可以做到ChatGPT99%的能力
华盛顿大学发布开源大模型原驼（Guanaco），自动测试分数达到ChatGPT的99.3%，并且同时发布新方法QLoRA，把微调大模型的显存需求从>780GB降低到
>
算力提升：包括算力、显存、功耗等多维度
算力：Transformer模型更加依赖大算力的支撑。参考壁仞科技数据，对于40个字的文本序列，进行一次Bert推理需要7Gflops，由中文翻译到英文的Seq2Seq模型需要20Gflops。标准版BERT模型参数量是3.4亿个参数。显存：以一个100亿参数模型，FP16精度为例，参数量需要20GB内存（10B*2Bytes），梯度需要20GB内存（10B*2Bytes），优化器状态需要40GB内存（10B*2Bytes*2），总计需要80GB内存。功耗：随着算力的提升，带来功耗提升，对于芯片的散热要求将明显提升，同时不同场景对于设备耗电量、待机时长等也都有不同要求。
当前进展：手机、PC端已经出现边缘大模型场景落地
手机：ChatGPT已推出IOS应用，安卓版后续也会发布。高通在搭载第二代骁龙8移动平台的Android智能手机上部署StableDiffusion（参数超10亿个），在15秒内执行20步推理，生成一张512x512像素的图像。PC：微软和高通、英特尔在AI领域展开合作，部署推出搭载AI引擎的PC产品。具身智能：英伟达创始人黄仁勋表示AI下一个浪潮将是“具身智能”，并且公布了多模态具身人工智能系统NvidiaVIMA。
三、产业链新增AI，强化算力与连接
边缘计算市场快速增长
STLPartners数据显示，边缘计算潜在市场将在10年内以48%的复合年增长率从2020年的90亿美元增长到2030年的4450亿美元，其中边缘基础设施的增长速度是最快的。亿欧智库数据显示，2021年我国边缘计算市场规模已经达到427.9亿元，其中边缘硬件市场规模为281.7亿元，边缘软件与服务市场规模达146.2亿元，2021-2025年中国边缘计算产业规模预计年复合增速达到46.81%，2025年边缘计算市场整体规模将达1987.68亿元。
边缘计算产业链：新增AI，强化算力与连接
从产业链角度，边缘AI核心在于引入边缘侧的AI能力，进一步增强边缘侧的算力能力、连接能力。重点包括AI芯片、算力模组、边缘网关/服务器/控制器等硬件、AI算法/边缘计算平台等软件环节。
AI芯片：专门用于处理AI大量计算任务的模块
AI芯片是指专门用于处理人工智能应用中的大量计算任务的模块，其他非计算任务则更多仍由CPU负责。从技术架构来看，Al芯片主要分为GPU、FPGA、ASIC三大类。其中，GPU是较为成熟的通用型人工智能芯片，FPGA和ASIC则分别是针对人工智能需求特征的半定制和全定制芯片。典型AI运算通常需要CPU或者ARM内核来执行调度处理，大量的并行计算靠GPU、FPGA或ASIC来完成。
模组：标准化的模组形态可以有效满足物联网碎片化需求
无线模组是物联网中的连接器件，无线模组将芯片、存储器、功放器件等集成在一块线路板上，实现无线电波收发、信道噪声过滤及模拟信号与数字信号之间相互转换，并提供标准接口的功能模块，终端借助无线模组可以实现通信或定位。物联网的碎片化需求，基于芯片的开发技术门槛高，客户会选用标准的模组，直接使用模组的标准硬件接口和嵌入式应用协议，不必关心底层逻辑，只要做好应用侧适配。
智能控制器：家电等场景实现智能化的“大脑”
智能控制器和边缘节点算力同样直接相关。在智能家居、家电、工业控制等场景中，智能控制器是其实现智能化的大脑。AI带动下游智能化能力提升，智能场景的功能及其交互方式将更加丰富，包括机器视觉、语音识别等AI算法将更多与应用场景结合，同时控制器中也将引入算力芯片等，对于智能控制器的需求量和ASP也将会是直接正向的带动。
四、围绕受益环节、兼顾弹性选标的
用量和成本维度量化算力弹性
算力用量：不同场景对于算力的需求有所不同，智能家居等场景典型算力需求小于1Tops，自动驾驶随着级别升高算力需求在20Tops~4000Tops。AI大模型往终端渗透有望进一步提升算力需求。算力成本：单位算力成本与芯片研发成本、制造成本、出货规模、算力规模等直接相关，同时也需要考虑配套的存储、应用开发等环节。结合势乘资本的数据，我们简单量化匡算算力成本为5元/Tops-10元/Tops，相对总体算力越高，单位成本越低。
广和通：已推出基于高通QCS8250的高算力AI模组
广和通是全球蜂窝物联网通信模组头部企业，在PC、FWA等垂直行业蜂窝模组市场份额领先，收购锐凌无线后车载通信模组跻身全球第一梯队。2022年公司收入56.46亿元，归母净利润3.64亿元。公司积极布局算力模组，已经推出基于高通QCS8250芯片平台的高算力AI模组SCA825-W，可全面提供高达15TOPS的算力支持；FM1605G模组与安提国际AI边缘计算平台AN810-XNX成功联调。公司算力模组目前在支付和车载领域应用比较多，并积极拓展边缘算力终端设备、机器人、IPC安防、工业检测和控制等领域，有望充分受益边缘AI发展。
拓邦股份：积极布局AI、机器人等新领域
拓邦股份是国内智能控制器头部厂商，以电控、电机、电池、电源、物联网平台的“四电一网”技术为核心，面向家电、工具、新能源、工业、智能解决方案等五大行业提供各种定制化解决方案，已形成家电、电动工具、新能源“三足鼎立、并驾齐驱”局面。2022年公司收入88.75亿元，归母净利润5.83亿元。公司积极布局AI、机器人等新领域。公司持续推动T-smart一站式解决方案落地于不同智能家居场景，并且完成了主流IoT生态网关产品的开发认证。在扫地机器人、商用炒菜机器人、服务机器人等领域持续投入，已具备AI、IOT、运动控制、BMS、电机驱动、Slam、路径规划等技术积累，产品涵盖控制器等零部件、ODM/自主品牌整机产品。
网宿科技：积极发掘边缘计算在AI上的资源和服务潜力
网宿科技围绕CDN及边缘计算、云安全两大核心主业，以及私有云/混合云、MSP、液冷等新业务方向，不断完善产品矩阵。2022年公司收入50.84亿元，归母净利润1.91亿元。公司推出边缘计算平台，基于全球广泛分布的节点资源，融合计算、网络、存储等核心能力构建的边缘开放平台，就近为用户提供边缘算力等服务。面向AI机会，公司表示AI在CDN及边缘计算的应用主要是AI推理模型计算和相关应用的传输及安全需求，公司正在积极探索发掘边缘计算在AI上的资源和服务潜力。通过“3+X+AI”SASE架构，网宿科技整合自身的安全、网络、边缘计算能力，构建能力开放平台，并将AI能力融入到安全防御各环节，落地了边缘计算全栈防护体系。
报告节选：
（本文仅供参考，不代表我们的任何投资建议。如需使用相关信息，请参阅报告原文。）
精选报告来源：【未来智库】。