博舍

ai服务器是什么架构 ai服务引擎是干什么的 智能感知技术是干什么的工作

ai服务器是什么架构 ai服务引擎是干什么的

清晨有智能语音助手轻声唤醒你

工作时,人工智能助你高效办公

约会时,人工智能为你“出谋划策”

当手机里加持了人工智能

未来充满无限可能

最近几年,人工智能应用日益普及,个人语音助手一类的人工智能应用,为我们带来了令人惊叹的体验。为了让你更好地用上人工智能,我们在今年MWC上推出了Qualcomm人工智能引擎AIEngine。

然而……到底什么是AIEngine?简单说,AIEngine就是在骁龙移动平台上加速终端侧人工智能用户体验实现的硬件与软件组件的集合。

硬件:多核异构计算核心

高效运行终端侧人工智能需要多核异构计算。因为不同人工智能应用场景的功耗和对运算资源的需求各不相同,仅靠单颗人工智能内核无法以最佳方式解决,所以需要可编程的异构计算。

举个例子,Hexagon向量处理器、AdrenoGPU、KryoCPU就像三个各有所长的乐手,不同的曲目需要不同类型的乐手,有的擅长高音,有的擅长低音,只有根据曲目合理乐手搭配,方能呈上一场精彩合唱。

Qualcomm骁龙移动平台充分利用了多核异构计算核心Hexagon向量处理器、AdrenoGPU视觉处理子系统和KryoCPU的可编程架构。这为开发者提供了更广泛的选择,面向不同类型的功能、基于不同类型的数据、在不同的计算精度水平上,可支持大量卷积或循环神经网络。

HEXAGON向量处理器

QualcommHexagon向量处理器是向量处理器子系统中的加速引擎,支持处理8位定点运算。相较于GPU或CPU,涉及向量数学的应用工作负载通常更适合在骁龙的向量处理器上运行。

ADRENOGPU

具有庞大的并行数据集、需要大量的向量数学,尤其是对浮点精度有要求的应用工作负载,都非常适宜在骁龙的AdrenoGPU上运行。通过最新的AdrenoGPU对16位浮点精度的人工智能工作负载进行的优化,可提供更佳的能效表现,使其成为如计算机视觉物体分类、视频风格转换、场景检测和游戏等人工智能应用的理想选择。

KRYOCPU

神经网络模型通常以32位浮点(高精度)在云端完成训练。它也可以在终端侧的CPU上实现类似运行,但其代价太大,需要终端在性能和功耗上作出一些牺牲。骁龙845中在KryoCPU上优化了对8位定点精度的支持,帮助支持包含较大内核、相对较少向量处理、非规则性数据结构和/或复杂流程控制的应用。

总的来说,在骁龙平台上加速人工智能最高效的解决方案是将人工智能工作负载分配到CPU、GPU和向量处理器上。这为开发者提供了实现人工智能用户体验的多种灵活选择。

软件和工具

AIEngine的第二个组成部分是软件和工具。在处理AI应用时,软件和工具无疑更加重要。硬件是一个加速的平台,而在软件层面开发者能够实现大量的创新,打造最新的AI应用。

还是用乐手类比,如果说硬件是乐手,那么软件就是指挥,他能让乐队成员发挥最佳表现,呈现最佳演出效果。

Qualcomm人工智能引擎AIEngine的核心软件构架包括:骁龙神经处理SDK、随GoogleAndroidOreo发布的AndroidNNAPI以及HexagonNeutralNetwork(NN)库。

通过在骁龙终端上优化已训练好的神经网络运行的性能,骁龙神经处理引擎可帮助开发者节省时间和工作量,HexagonNN库让开发者可以直接将人工智能算法在Hexagon向量处理器上运行。为基础性的机器学习模块提供了优化的部署,并显著加速诸如卷积、池化和激活等人工智能运行。

移动平台支持

目前,骁龙845、骁龙835、骁龙821、骁龙820均已支持Qualcomm人工智能引擎AIEngine,其中骁龙845将支持最顶尖的终端侧人工智能。

而作为骁龙600系列中迄今为止最强的产品,骁龙660移动平台同样支持Qualcomm人工智能引擎 AIEngine,它首次将配备HVX的QualcommHexagonDSP运用至骁龙600系列之中,支持性能的飞跃式提升。除了带来卓越的AI体验,骁龙660移动平台还支持先进的拍摄技术、增强的游戏体验和持久的电池续航时间。

全新的骁龙700系列平台也将支持Qualcomm人工智能引擎AIEngine,骁龙700系列移动平台预计将于今年上半年向客户商用出样,让我们一起期待吧。

版权声明:本文内容由互联网用户自发贡献,该文观点仅代表作者本人。本站仅提供信息存储空间服务,不拥有所有权,不承担相关法律责任。如发现本站有涉嫌抄袭侵权/违法违规的内容,一经查实,本站将立刻删除。

上一篇

下一篇