比利时Imec和美国晶圆代工厂商GlobalFoundries已开发出一种使用模拟技术的测试芯片,用于边缘AI的低功耗机器学习引擎。
Imec使用一种新技术开发了一种测试芯片,该技术大大降低了机器学习边缘AI系统的功能。
存内模拟计算(The Analog in Memory Computing,AiMC)架构使用经过修改的存储单元在经过训练的神经网络中处理网络边缘AI的数据,功率效率为2900TOPS/W。
imec机器学习主管Diederik Verkest说:“我们建立了一个特殊的计算单元,可以在这里通过减少数字传输来节省能源。”他说:“取决于[激活单元]激活线上的脉冲宽度,可以在继续进行数字计算之前获得[模拟-数字转换器]ADC的权重之和。”
在该芯片中,我们使用3级权重。权重可以是-1、0或1,并且我们使用两个SRAM单元来存储此权重级别。计算单元是一个模拟电路,顶部有一些其他晶体管。这会产生与存储的三级权重和激活信号(DAC的输出)相乘的比例的模拟信号。
严格来说,三级权重是以数字方式存储的,但是所有计算都是在模拟域中完成的。”他补充说:“AnIA的成功推出标志着朝着验证存内计算(AiMC)中的模拟迈出了重要的一步。参考实现不仅表明在实践中可以进行模拟内存计算,而且能效比数字加速器高十到一百倍。从我们的角度来看,这是机器学习程序中的一个里程碑,它表明模拟计算可以与数字计算具有相同的准确性”。
Analog Inference Accelerator(AnIA)测试芯片是在Global Foundries位于德国德累斯顿的工厂基于22nm FD-SOI低功耗工艺构建的。该芯片面积为4mm2,具有1024个输入信号和512个输出,其性能与当今的GPU相似。它显示出与数字实现相同的精度,误差在1%以内,但功率效率为2900TOPS/W。低功耗和低成本的结合为嵌入式硬件中的边缘AI图像识别和传感打开了机遇。
GF计算和有线基础设施产品管理副总裁Hiren Majmudar说:“模拟计算是一个惊人的前沿,因为它可以减少数据移动,这将成为主流。”
Edge AI测试芯片
“该测试芯片是向业界展示22FDX如何显著降低能耗密集型AI和机器学习应用程序功耗的关键一步,”Majmudar说。
Verkest说:“我们获得与GPU相同的性能,但具有更高的能源效率和小尺寸(4mm2)的芯片。如果增加阵列的大小,还将提高性能水平。”
GF将把AiMC包括在22nm FD-SOI(22FDX)技术中实现的功能与新的AiMC功能在GF位于德国德累斯顿Fab 1的最先进的300mm生产线中生产。
他说:“我们正在看到GF与经过验证的芯片合作伙伴,我们预计模拟计算芯片将在今年下半年和明年年初投入生产,并在2022年或更晚一些进入大众市场,”
GF的该版本使用了经过修改的SRAM单元,但是其他存储技术也可以使用相同的技术。imec的Verkest说:“您可以使用SRAM,MRAM,DRAM,这些都是我们研发工作的一部分,以了解最佳选择。”