边缘AI需求爆发,边缘计算网关亟待革新

吴子鹏
在构建边缘AI方案时,计算、存储、网络和应用等资源都被移到更靠近终端的位置,以提供更低的延迟和更高的性能。

本文来自电子发烧友网,作者/吴子鹏。

根据《全球与中国边缘AI芯片市场竞争建议及发展状况调研报告2024-2030》,2023年全球边缘AI芯片市场规模大约为2563.6百万美元,预计未来六年年复合增长率CAGR为17.4%,到2030年达到8004.3百万美元。如果将范围扩大到整个边缘AI市场,根据英特尔公司高级副总裁兼网络与边缘事业部总经理Sachin Katti在分享中提到的数据,2030年全球边缘AI市场将达到4450亿美元的规模。

在构建边缘AI方案时,计算、存储、网络和应用等资源都被移到更靠近终端的位置,以提供更低的延迟和更高的性能。在此过程中,边缘计算网关起到重要的作用:一方面作为边缘和云端连接的重要枢纽,将边端计算的数据传回云端;另一方面边缘计算网关也能够协调边缘端的多款设备,协调这些设备的计算资源和计算任务。

基于边缘计算网关实现更好的终端智能

作为边缘计算和网关的结合体,边缘计算网关带来了一种分布式计算范式,将计算任务和数据存储从中心化的数据中心推向网络的边缘——终端设备。因而,边缘计算网关通常部署在网络的边缘侧,提供数据采集、处理、存储和通信等功能。

由于是部署在现场的终端,因此边缘计算网关具有很多突出的优势:低延迟、高安全并降低云端的计算负载。

边缘计算网关具有一定的计算能力,可以将数据处理在更靠近终端的场景下实现,因此有明显的低延迟特性。像工业自动化、智能交通和智能家居等对数据处理时效要求高的领域,边缘计算网关能够实时采集来自各种传感器和执行器的数据,并将这些数据进行整合和标准化处理,这一低延迟特性被格外看重。

边缘计算网关将数据采集和处理都在更靠近终端的场景下完成,减少了数据的传输,也就降低了数据在网络传输中暴露的风险。在云AI场景里,敏感数据总是会在终端和云端之间反复地传输,有非常大的泄露风险,而有了边缘计算网关,云端最终接收到的数据都是脱敏的结果数据。

同时,我们也不难看出,边缘计算网关将计算任务进行了有效地分发,而不是全部集中在云计算场景下,也能够有效降低云计算的负载。当然,市场需求在不断变化,对于边缘计算网关也提出了更高的要求,包括高算力、低功耗、智能化和灵活部署。

边缘计算网关着力强化计算性能

在新的市场需求下,边缘计算网关成为普惠算力的一类关键设备,相关设备的核心性能也变得越来越强,产业界涌现出一系列具有竞争力的新品。

比如,联想集团打造了智能边缘计算品牌“慧天”,包括智能边缘网关、边缘服务器、工业控制器、嵌入式计算机等硬件设备。这些设备可以让相关应用在边缘硬件上处理AI算法,并且有5G的加持,和云端的互动也更加高效。

2024年初,TSINGSEE青犀视频在年初推出了一款高性能、低功耗的软硬一体AI边缘计算硬件设备——智能分析网关V4,硬件采用BM1684芯片,集成高性能8核ARM A53,主频高达2.3GHz。这款智能网关提供高达17.6/32 Tops的INT8峰值算力,2.2T的FB32高精度算力,支持高达16 TFLOPS的FP16/BF16半精度算力,以及支持高达16/32路1080P高清视频全流程处理。在安全方面,支持高容量eMMC可开发支持主备分区和可编程加密分区等加密技术。

去年下半年,Dusun IoT基于Rockchip的RK3588芯片推出了DSGW-380边缘人工智能网关。作为系统核心,RK3588芯片提供四核Arm Cortex A76和四核Arm Cortex A55架构,配备NEON协处理器,专用于低功耗控制的MCU,以及宽大的8GB 64位LPDDR4 RAM和128GB eMMC。RK3588让DSGW-380边缘人工智能网关提供6TOPS的计算算力,能够无缝支持包括INT4、INT8、INT16和FP16混合操作等多种精确操作。

另外,前不久研扬科技基于昇腾Atlas 200I A2加速模组,打造了电力通信边缘AI网关ARES-501AI A2,使能客户在Mega OM平台的基础上快速对接管理自己的运维平台。ARES-501AI A2智能网关能够提供高达20TOPS(INT8)的强劲算力,拥有丰富的工业级I/O接口,包括RS232/RS485、USB 3.0*4、GbE LAN*2、CAN*2等。

通过上述案例不难看出,目前边缘计算网关一个重要的升级方向就是提供高算力,并强化算法的承载能力。不过,这些性能的提升并不能牺牲系统功耗,因此在相关产品中,往往会配合低功耗的MCU,配合低功耗的外设,以最低的系统功耗去运行非计算的控制功能,并将系统运行功耗进行更细分的区分。

结语

在边缘AI爆发的大潮下,边缘计算网关也在朝着边缘智能网关的方向发展,一个重要的标志就是NPU逐渐成为网关内核心的一部分,且系统算力得到了显著提升。当然,由于部署在边缘端,且设备数量巨大,因此低功耗将一直都是边缘计算网关更新过程中需要面对的挑战。

THEEND

最新评论(评论仅代表用户观点)

更多
暂无评论