混合人工智能(AI)——改善边缘计算
在生命周期开始之前,许多SoTAAI模型都需要进一步优化和压缩,而不会降低目标性能。随着该领域的发展,将模型部署到嵌入式设备已转向嵌入式系统范式,即在目标主机上交叉编译代码。
用户可以通过中间格式(MLIR)和Runtime执行环境来编译和优化处理器目标和设备执行,而不是部署较小的参数化抽象模型,以换取目标性能。这也与提供更低的延迟和改善的用户体验有关。
在运营过程中,AI边缘系统需要具有一定程度的独立性,尽管具有局限性,但仍能做出高性能的决策,直到它们能够利用更强大的资源以及来自所连接的云基础设施的大量数据和知识。对于互连的设备,这种独立状态被称为紧急模式。
02
使用混合AI改善边缘计算
使用混合AI(HybridAI)是推进边缘AI的潜在途径。混合AI是一种将机器学习与符号AI(SymbolicAI)相结合的方法,前者使用统计模型来分析数据,后者基于语义并提供对意义的见解。通过利用每种技术的优势,可以实现比单独使用任何一种技术更强大的结果。
混合AI作为数据驱动机器智能方法的配套技术,补充了认知符号AI能力,克服了推理、顺序规划、可操作反馈以及类似人类的可理解阐述和解释方面的限制。核心关注点是与用户的协作互动,充当情境决策支持顾问和诊断系统,尤其是在与高风险、不确定性和未知相关的情况下更是如此。例如,NASAJPL为火星探测器着陆开发了混合AI,增加了推理智能功能,以改善在不熟悉和传统技术难以实现的困难地形下的导航。
利用混合AI,可以通过编码的人类专家知识和约束、行业指南和最佳实践以及传统的支持历史库和流式事件信息来丰富系统。这些认知引擎和算法对假设的路径和场景进行建模,以提出行动方案并制定智能的近实时决策,即使在那些在操作、获取和访问质量数据方面被认为不太理想的边缘环境下也是能完成任务。
考虑连接受限或不稳定的边缘设备的使用工况,这些设备在恶劣或远程环境中运行,具有长尾数据分布,数据采集和存储受到限制。或者,当设备故障,传感器融合和机动高风险错误条件路径的时间周期内,发生数据冲突时所导致的不理想路径。这些案例都是传统大数据和微调方法不太适合的。混合AI可以直接将这些条件,作为推荐行动计划和用户反馈回路的一部分,或利用知识和约束的基础模型进行校正,间接地促成这些条件。
在IoT和其它在边缘运行的系统中使用混合AI,为连接、用户体验和运营决策带来了新的潜力。AI未来的愿景,包括能在网络边缘和更大的生态系统和价值链之外,实现传统机器学习系统无法完成的任务的认知系统:智能和流畅地与人类专家互动,提供清晰可行的解释,并增强用户对决策的信任和信心。
关键概念:
■作为数据驱动机器智能方法的配套技术,混合AI可以改善边缘计算。
■在IoT和其它在边缘运行的系统中使用混合AI,为连接、用户体验和运营决策带来了新的潜力。
思考一下:
AI和边缘计算可以为您的应用带来哪些潜在好处?
-END-
▲本文来自于控制工程中文版杂志(CONTROLENGINEERINGChina)2023年5月刊《封面故事》栏目:混合AI如何改善边缘计算和用户体验?
✦
推荐阅读
✦返回搜狐,查看更多