人工智能需要怎样的硬件
第四波计算浪潮是由并行处理和IoT驱动的
GPU中的多线程处理让我们可以并行地执行类似的任务,而这对最有效地执行机器学习算法而言是至关重要的。这种处理方式非常不同于x86和ARM等通用型CPU——这些处理器是为常见软件应用所需的单线程处理优化的,比如网页服务器和数据库处理。机器学习算法也需要处理大量训练数据,所以现代GPU也提供了高速高效的内存存取。
带有基于GPU的多线程处理的英伟达可编程图形适配器,可以加速图形和人工智能计算处理(来自英伟达2017年度投资者日的演讲)
尽管通用型CPU也可以被用于处理机器学习算法,但却无法提供必需的大规模计算性能。再加上随着硅芯片工艺几何尺寸的演进(也被称为摩尔定律),单位晶体管的成本也在上涨,而GPU等为机器学习优化过的协处理器芯片就成了一种必需品。
安全性和5G将驱动第四波浪潮
至于物联网和第四波计算浪潮,在使用协处理器的并行处理的重要性上,人工智能和网络安全之间存在很大的相似之处。
我们生活方方面面对普遍安全的需求只会被物联网进一步放大。如果我们看看近来的分布式拒绝服务(DDoS)攻击以及当今的设备(笔记本电脑和平板作为攻击点)可以如何被人侵入从而发动这样的攻击,你就可以想见当使用IoT作为攻击点发动攻击时,攻击效果将指数式地猛增。预防DDoS攻击的机制将不得不超越以往的范围,并一直延伸到数据中心服务器领域,以便解决转移DDoS所需的规模和速度需求。随着数据中心中数据流量的增长,这种需求还会进一步放大。
这一范式中的另一个关键转变是对流量可见性的需求,以便在网络流量上执行远程测量或屏蔽流氓访问流量。我们现在就需要这种东西,而且随着5G网络(带宽将增长10多倍)向新的行业敞开大门以在电信服务提供商网络上提供创新服务,这种需求还会加剧。比如,各种类型的IoT传感器和自动驾驶汽车将会在智能手机等移动设备生成的数据之上增加更多数据。为了确保不同类型的流量得到不同水平的保护,将网络分成“片”的能力将变得至关重要。这将需要高速的流量分类和可见性。
Gartner预测到2019年时所有网络流量中的80%都将被加密。用于加密这些网络流量的关键相关技术是安全套接层(SecureSocketsLayer/SSL)和安全传输层(TransportLayerSecurity/TLS)。当使用这些技术加密流量时,我们就不可能获得所需的流量可见性。NSSLabs的一项研究称在防火墙设备上解密SSL流量(以便实现流量的可见性)会让吞吐量损失74%,每秒钟的交易量会减少87.8%。当密钥更长时,SSL解密引擎所需的工作负载中对复杂流量的处理也将增长。这将对延迟性能和服务水平产生显著的影响。最佳的解决方案是不要在数据中心网络的设备中实现这样的功能(因为流量在这里聚合,它的瓶颈会有很大影响),而是将SSL加密引擎工作负载分布到所有服务器上。
使用SmartNIC扩展安全应用
为了让数据中心服务器中的网络安全应用实现规模化、高性能和高效率,SmartNIC平台使用了一种优化过的协处理器NFP,即网络流处理器(NetworkFlowProcessor)。和GPU类似,NFP是多线程的——单块芯片上有多达960个线程。类似于GPU上基于CUDA的多线程编程,SmartNIC中的NFP芯片支持使用C或更高级的与供应商无关的编程方法(比如P4和eBPF)进行多线程编程。和GPU类型,NFP也可以并行执行多个任务。和GPU只能并行执行相似的任务不同,NFP还能并行执行多个不同的任务——这是网络安全所需要的功能。
带有基于NFP的多线程处理的可编程SmartNIC,可以加速网络数据包和安全性处理
使用多线程内存存取引擎,NFP可以在大量内存上实现高速且低延迟的存取,从而可实现对大量复杂流量的并行处理。最后,在人工智能领域,Caffe等深度学习框架可以使用在GPU上运行的代码库加速。类似地,在网络安全领域,分布式虚拟交换、路由、防火墙、DOS、负载平衡以及其它安全和可见性框架都可以使用运行在NFP上的代码库加速。
数据中心使用协同处理层和多线程编程环境实现的可重配置结构
总而言之,对安全性和可见性的需求将愈发普遍,而且DDoS保护和SSL或TLS解密等技术也需要使用COTS和数据中心服务器以分布式的方式实现。在这种范式中,为了确保网络性能相关的服务的水平以及服务器的效率,使用协处理器的并行处理是至关重要的。和人工智能使用GPU等优化过的协处理器类似,为网络安全优化的协处理器将会成为实现物联网世界的第四波计算浪潮的一大主要力量。
为了实现可重配置的结构,我们相信未来的数据中心服务器将具有两个协同处理平面——一个用于机器学习和人工智能,另一个用于网络连接和安全。这些协同处理平面将使用协同处理芯片中针对应用优化的功能(这些功能是为实现最佳性价比指标的服务器而设计的),从而为创新的多线程编程环境提供支持。(本文转自半导体行业观察)
作者简介
NickTausanovitch是Netronome解决方案架构副总裁,负责该公司SmartNIC产品的云数据中心应用。Tausanovitch希望帮助电信和云服务提供商实现软件定义网络(SDN)和网络功能虚拟化(NFV)的愿景,同时实现它们的基础设施的效率的最大化。在加入Netronome之前,他负责过博通公司的高端网络处理器产品线,也担任过IDT的电子设计总监(在这里开发过网络搜索引擎)和Nortel的系统架构师(在这里开发过交换机、路由器和网络处理器)。
免责声明:本文系网络转载,版权归原作者所有。如涉及作品版权问题,请与我们联系,我们将根据您提供的版权证明材料确认版权并支付稿酬或者删除内容。返回搜狐,查看更多