陈左宁院士:人工智能模型和算法的七大发展趋势
趋势三、人工智能的自学习、自演化。这个过程有三个阶段。一是自动化机器学习,主要是利用数据驱动方式来做决策。而是限制约束条件的AutoML。三是不舍初始条件,搜索空间极大丰富的自演化AutoML。这一趋势对于技术的需求有计算框架支撑、大算力支撑以及辅助设备支撑。
趋势四、多种算法、模型的有机结合。单一的算法或模型难以解决实际问题。比如问题分解和多种模型有机组合。人工智能模型的发展希望融入多种技术来解决已有问题。比如,通过贝叶斯技术增强因果关系分析;通过数据生成技术减少标注数据需求;通过AutoML技术提高搜索和挖掘能力。与此同时,人工智能的应用流程也越来越复杂,如,不同流程设计的设备以及环境多样;需要不同的算法和模型组合。多种算法、模型的有机组合的需求是计算存储等可拓展能力。基础软件能力提升,支持复杂模型,不同类型软件的协同和交互。
趋势五、人工智能应用需求需要关注全生命周期。全周期不同人物具有不同时间,空间和计算需求。全生命周期都要考虑可解释、公平等需求。
趋势六、分布式、分散式的需求越来越突出。首先,大型、复杂模型,海量数据需要并行,分布式计算。其次,联邦学习等分散场景需要分布式ML原生算法。使多个参与者可以在不共享数据的情况下构建通用的,健壮的机器学习模型,从而解决关键问题。不同节点上的数据集异构(分布不相同),大小可跨越几个数量级。节点可能不可靠,节点之间的互联可能不稳定。类别优集中式、分散式以及迭代式。这一趋势对安全性、架构、提升效率和效用、健壮性有需求。
趋势七,深度推理。从计算到感知再到认知和意识,人工智能模型和算法的发展趋势七是认知理论的进一步突破。这一趋势的需求有效应对多种形式的不确定性。其中概率计算根据不同精度计算需求设计硬件。根据数据和计算的稀疏分布设计。另外,这一趋势的需求还有类脑、仿脑体系结构以及模拟计算。
陈左宁总结说,总体来说,AI趋势对算力的需求主要是对软件栈的需求。从AI发展趋势的特点来看,关系、概率、近似计算更突出;不要求高精度、高容错;节点上计算简单;人在环路中需求明显。因此,对软件栈的需求更加多样,比如复杂、动态、分布式和分散;支撑新场景以及架构创新。目前AI算法仍在基本计算模式中。
陈左宁坦言:“未来的复杂问题可能会超越此模式,目前的模型和算法主要是低精度张量计算。”
来源:C114通信网
版权声明:转载文章和图片均来自公开网络,推送文章除非无法确认,我们都会注明作者和来源。如果出处有误或侵犯到原作者权益,请与我们联系删除或授权事宜返回搜狐,查看更多