• 正文
  • 相关推荐
申请入驻 产业图谱

从概念验证到投入生产:助力边缘AI走进现实

4小时前
168
加入交流群
扫码加入
获取工程师必备礼包
参与热点资讯讨论

规划与执行之间往往横亘着巨大的鸿沟。一个在理论上看似简单明了的项目,即便预算可控、进度有序、技术可行,一旦落地却会遇到重重阻碍。将构想转化为现实并非总是一帆风顺,成功很大程度上取决于我们预判并驾驭未知的能力。

在日新月异的边缘人工智能(AI)领域,这种构想与落地之间的差距尤为显著。

边缘AI的兴起

随着技术不断向个性化与交互化发展,企业正在发掘更多的设备端智能应用场景。不论是用来优化工业流程和系统、增强汽车安全性能,还是打造更智能、响应能力更强的消费产品,边缘部署正从孤立的概念转变为至关重要的产品功能。

这需要开发并部署越来越多的边缘AI解决方案,以支持近边缘计算和处理任务,尤其是在人机界面(HMIs)领域。在某种程度上,这是AI渗透至各行各业以及不同学科领域的结果。诚然,AI确实为边缘计算带来了诸多关键优势。通过在传感器内部或传感器附近进行本地化数据处理,开发人员能够减少对云基础设施的依赖、降低能耗并提升带宽效率,同时增强离线功能、可靠性以及实时响应能力。

即便如此,设计符合边缘设备限制条件的AI模型仍非易事。传统模型往往体积庞大且能耗惊人,根本无法匹配边缘设备的低功耗和有限算力的需求。要从目前在边缘端部署专用AI加速器的模型转变为非依赖云端的超高效“近传感器”计算架构,实属知易行难。这要求开发人员设计出更小巧的边缘原生AI模型,既能精准满足特定边缘应用的需求,又不会耗尽本就不多的功率和空间。而从这些设计到实际部署的过程,正是从构想到落地之间差距最为显著的环节。

从概念验证到投入生产所面临的挑战

虽然开发人员清楚他们需要设计高效、可靠的边缘AI模型,但概念验证(PoC)与模型部署之间的差距往往难以弥补。这个问题存在已久,只是换了一种说法:构建一个PoC模型并不难,任何人都能进行设计,关键在于能否让该模型落地,扩展为完整的生产级解决方案?

将边缘AI的PoC原型引入真实应用场景的过程通常会面临诸多严峻挑战,包括:

  • 将数据导入/导出系统级芯片(SoC)。当涉及各种不同的传感器、通讯协议、接口以及引脚数量较多时,在边缘组件与AI模型之间传输数据会变得十分复杂。要想将这些不同的数据源连接到边缘计算模型,需要细致的规划与执行,而且还要能够大规模复制。
  • PoC与生产环境之间的显著差异。PoC旨在验证、测试和演示边缘算法,因此会配置充沛的资源,包括算力、能源、资金和空间,而实际的边缘设备并不一定具备这些资源。如果这些PoC依赖云端处理能力、超大体积的硬件或未优化的模型,便难以成功转换成具体的生产级解决方案。
  • 实验室数据难以反应出真实场景的复杂性。除拥有额外的技术资源外,边缘AI的PoC模型通常采用合成数据集、在模拟测试环境中进行训练。尽管这有助于应对开发阶段遇到的难题,但往往无法反映出现场的边缘用例、传感器噪声以及整体差异性。以家庭安防系统为例,虽然模型经过训练可以识别出合成的“玻璃破碎”声,但真实环境中的声音必然会比测试数据集更具多样性。

构建专用的AI解决方案

上述挑战清晰地表明了:边缘AI架构必须从一开始就为最终部署而量身打造,而非在脱离实际的环境中进行设计,再怀揣侥幸进行部署。与通用AI模型不同,边缘部署场景要求解决方案能够针对其具体任务、运行条件和资源限制进行深度优化。通过从零开始构建而非简单压缩现有模型,开发团队能够有效节约时间、成本与开发资源,进而支持更具针对性、更贴合实际应用场景的操作。 为了支持边缘开发人员,莱迪思与合作伙伴携手推出多项经过预先验证的解决方案,如莱迪思sensAI? 解决方案集合,其中包含经过验证的硬件、预先训练的模型以及实用的开发工具。这些解决方案为开发人员提供了可靠的构建模块,以便针对特定应用场景进行搭建和定制,有助于加快开发进程并降低风险。

赋能的专用边缘HMI系统:

  • tinyVision的智能眼镜解决方案采用莱迪思CrossLink?-NX FPGA,在极其有限的空间内实现摄像头传感器及抬头显示的桥接和同步。通过将FPGA设计为灵活、低成本的小尺寸聚合枢纽,这款智能眼镜能够在边缘端执行关键运算并支持传感器融合,且无需占用极大功耗和/或物理空间。
  • Aizip的语音识别系统同样采用CrossLink-NX FPGA来支持个性化语音识别和处理。通过设计符合FPGA器件限制的AI模型,开发人员能够衔接麦克风传感器和计算能力,从而实现诸如定制化车载人员识别等任务。

凭借小尺寸、低功耗以及部署前后的灵活性,CrossLink-NX等FPGA产品成为专用边缘AI开发的重要组件。开发人员能够轻松配置这些芯片,以适应特定边缘应用的计算需求,融合来自不同传感器的数据,加快处理速度,并以极低延迟处理自定义I/O协议。FPGA的并行处理能力有助于实现本地化处理,而且仅向显示器或其他组件传输必要数据,有助于减少带宽占用、提升整体的隐私安全性。

支持边缘创新

要将边缘AI模型从概念转化为产品,仅靠可运行的原型还远远不够。成功的关键在于,从初始阶段就基于成熟的硬件与软件进行设计,使方案能够真正契合现实场景的需求与限制,而非事后对仅在实验室验证过的模型进行修补。凭借基于动态FPGA的专用边缘AI解决方案,开发人员能够获得所需的灵活性和效率,从而设计出具备可靠性和可扩展性的边缘AI应用。

如需进一步了解边缘设计,可点击此处观看整场圆桌讨论会。如果您想要

相关推荐