人工智能和机器学习向边缘发展,为MTDC和高密度布线方案带来机遇
AI需要巨大的处理能力,这一直是一个问题。值得庆幸的是,像NVIDIA,Intel,AMD等公司正在缩小处理能力的差距。这使BMW,沃尔玛,Target等公司以及更多公司都可以部署边缘AI功能。这需要以安装功能强大的硬件为前提,这些硬件将使用预先训练的模型来处理本地数据。这大大减少了等待时间和对实时带宽的需求。
但问题在于,没有人能真正做到边缘的AI/ML部署,因为虽然硬件的预训练模型可以处理数据,但它的能力不足以更新此模型,并使其功能更强大。
因此,混合方案便应用而生。
在混合方案设计中,边缘服务器将使用经过训练的模型来处理所有本地数据。而这些“最适合的服务器”则可能位于不同的MTDC,从而实现网络和应用程序选择的灵活性。MTDC的光网络基础架构通常采用单模光纤来部署,目的是满足最终用户对未来扩展的需求。对于部署AI/ML的公司,重要的是需要同时考虑现在和未来网络中的带宽需求。CitadelAnalytics通常有一个经验法则,即取期望带宽的平均值并乘以4倍,就是应该在其系统内部署的带宽。在当前的AI/ML部署中,带宽尤其重要,是首要考量的因素。
带宽的增加也凸显了MTDC和最终用户对高密度解决方案的需求。高密度方案可以使MTDC空间实现最大化收益,而最终用户可以更有效地利用他们投资的空间。由于基础架构会随着不同用户的需求而变化,因此寻找具有产品宽度(单模或多模,LC或MTP等)和扩展灵活性的产品供应商显得尤为重要。对于最终用户,降低成本的一种方法是增加密度并降低功耗。这可以通过并行光学器件和端口分离来实现,即通过使用分支线缆来实现将一个高速带宽端口分解为多个低带宽端口。比如使用一个40g并行收发器端口分解为4个单独的10g收发器端口,以实现高密度的线缆转换。
通过减小10公里以内的传输距离,通常可以将延迟减少45%。这意味着什么?这将推动更多的和更小的区域性数据中心部署,使其更靠近产生数据的地方。MTDC将成为这些较小数据中心的主要承载工具。边缘数据中心将托管在这些互连密集型MTDC中,两者相互配合,为客户提供更全面的服务。拥有互联的基础设施、生态系统和丰富的客户组合的MTDC,将能把握边缘计算发展的商业机遇。
边缘人工智能:部署前需要考虑的三个技巧
随着人工智能(AI)的成熟,采用率继续增加。根据最近的研究,35%的组织正在使用人工智能,42%的组织正在探索其潜力。虽然人工智能在云中得到了很好的理解并大量部署,但它在边缘仍然处于萌芽状态,并面临一些独特的挑战。许多人全天都在使用人工智能,从汽车导航到跟踪步骤,再到与数字助理交谈。即使用户经常在移动设备上访问这些服务,计算结果仍然存在于人工智能的云使用中。更具体地说,一个人请求信息,该请求由云中的中央学习模型处理,然后将结果发送回该人的本地设备。与云端AI相比,边缘AI的理解和部署频率更低。从一开始,人工智能算法和创新就依赖于一个基本假设——所有数据都可以发送到一个中心位置。在这个中心位置,算法可以完全访问数据。这使得算法能够像大脑或中枢神经系统一样构建其智能,对计算和数据拥有完全的权限。但是,边缘的人工智能是不同的。它将智能分布在所有细胞和神经上。通过将智能推向边缘,我们赋予这些边缘设备代理权。这在医疗保健和工业制造等许多应用和领域中至关重要。在边缘部署人工智能的原因在边缘部署人工智能有三个主要原因。保护个人身份信息(PII)首先,一些处理PII或敏感IP(知识产权)的组织更愿意将数据留在其来源处——医院的成像机器或工厂车间的制造机器中。这可以降低通过网络传输数据时可能发生的“偏移”或“泄漏”风险。最小化带宽使用其次是带宽问题。将大量数据从边缘传送到云端会阻塞网络,在某些情况下是不切实际的。健康环境中的成像机器生成如此庞大的文件以致无法将它们传输到云或需要数天才能完成传输的情况并不少见。简单地在边缘处理数据会更有效,尤其是当洞察力旨在改进专有机器时。过去,计算的移动和维护难度要大得多,因此需要将这些数据移动到计算位置。这种范式现在受到挑战,现在数据通常更重要且更难管理,导致用例保证将计算移动到数据位置。避免延迟在边缘部署AI的第三个原因是延迟。互联网速度很快,但不是实时的。如果存在毫秒很重要的情况,例如协助手术的机械臂或时间敏感的生产线,组织可能会决定在边缘运行AI。边缘人工智能面临的挑战以及如何解决这些挑战尽管有这些好处,但在边缘部署AI仍然存在一些独特的挑战。以下是您应该考虑的一些提示,以帮助应对这些挑战。模型训练的好与坏结果大多数AI技术使用大量数据来训练模型。然而,在边缘的工业用例中,这通常会变得更加困难,因为大多数制造的产品都没有缺陷,因此被标记或注释为良好。由此产生的“好结果”与“坏结果”的不平衡使得模型更难学会识别问题。依赖于没有上下文信息的数据分类的纯AI解决方案通常不容易创建和部署,因为缺乏标记数据,甚至会发生罕见事件。为AI添加上下文(或称为以数据为中心的方法)通常会在最终解决方案的准确性和规模方面带来好处。事实是,虽然人工智能通常可以取代人类手动完成的平凡任务,但在构建模型时,它会极大地受益于人类的洞察力,尤其是在没有大量数据可供使用的情况下。从经验丰富的主题专家那里得到承诺,与构建算法的数据科学家密切合作,为AI学习提供了一个快速启动。AI无法神奇地解决或提供每个问题的答案通常有许多步骤进入输出。例如,工厂车间可能有许多工作站,它们可能相互依赖。一个过程中工厂某个区域的湿度可能会影响稍后在不同区域的生产线中另一个过程的结果。人们通常认为人工智能可以神奇地拼凑所有这些关系。虽然在许多情况下可以,但它也可能需要大量数据和很长时间来收集数据,从而导致非常复杂的算法不支持可解释性和更新。人工智能不能生活在真空中。捕捉这些相互依赖关系将把边界从一个简单的解决方案推向一个可以随着时间和不同部署而扩展的解决方案。缺乏利益相关者的支持会限制人工智能的规模如果组织中的一群人对它的好处持怀疑态度,则很难在整个组织中扩展AI。获得广泛支持的最好(也许是唯一)方法是从一个高价值、困难的问题开始,然后用人工智能解决它。在奥迪,我们考虑解决焊枪电极更换频率的问题。但是电极成本低,这并没有消除人类正在做的任何平凡的任务。相反,他们选择了焊接工艺,这是整个行业普遍认同的难题,并通过人工智能显着提高了工艺质量。这激发了整个公司工程师的想象力,他们研究如何在其他流程中使用人工智能来提高效率和质量。平衡边缘AI的优势和挑战在边缘部署AI可以帮助组织及其团队。它有可能将设施转变为智能边缘,提高质量,优化制造过程,并激励整个组织的开发人员和工程师探索他们如何整合人工智能或推进人工智能用例,包括预测分析、提高效率的建议或异常检测。但它也带来了新的挑战。作为一个行业,我们必须能够在部署它的同时减少延迟、增加隐私、保护IP并保持网络平稳运行。