本文来自AI芯天下,作者/方文三。
近10年AI技术发展迅猛,随着算力越来越大,市场空间暴涨,端侧和边缘侧的AI芯片也迎来发展机遇。
在端侧、边缘侧对智能要求越多,需要的算法也就越多,同时,AI的应用也对感知和计算提出了更高的需求。
AI芯片端侧增速最快
AI芯片可以分为端侧AI、云端AI以及边缘AI。
端侧AI主要应用于终端设备,如手机、智能家电、各类传感器、摄像头等。
云端AI负责数据处理的中心,主要用于云端AI加速,如英伟达的GPGPU卡,谷歌的TPU等。
边缘AI在数据来源侧直接解决问题,不需要到达云端数据中心,更多地应用于工业领域。
近年来,随着元宇宙的爆火,促进了AI芯片领域的迅速发展。
AI芯片的市场规模,2017年到2025年接近十年的区间,和云端相比,端侧AI芯片的市场增速非常高,尤其在未来的5—10年的区间之内。
在未来5—10年内,在整个端侧包括云端还有Edge端推理市场的增速是最快的。
智能安防、智能车载是目前端侧AI规模落地的两大细分市场,对AI的需求明确,性能规格明确。
端侧AI的三道槛
AI芯片设计出来但是没多少人能用起来,这是两三年前端侧AI芯片发展的烦恼。
如何在满足算力条件下确保AI芯片低功耗,以便于更好地为终端提供完整的更具性价比的解决方案,加速应用落地。
端侧AI市场发展近年来不断扩大规模,但端侧AI的发展还需跨越鸿沟,进而赋能视觉生态。
面对十多款端侧AI芯片,选型就是一个难题。
端侧AI普及面临硬件、算法以及应用需求多样的三道槛。
针对端侧AI的算法太少,这直接导致了许多AI硬件没办法用起来。
算法肯定是影响最终效果和体验的因素,但算法不够好可能是因为应用场景太小没人愿意投入,或者那个场景的数据难以获取,增加了算法提升的难度。
不同的应用场景对于芯片的性能和功耗,对于使用的算法的类型和精度,以及使用的场景都大不相同。
另外,端侧和边缘的AI硬件采用的是ASIC专用芯片,并没有统一的标准,实现通用的AI解决方案难度比较大。
云边协同的解决方案或许可行
未来许多场景的AI产品不会只是用单纯的视觉或语音方案,将会是多传感器融合的产品,这将是未来AI边缘和AI产品发展的趋势。
随着技术的进步,采用云边协同的方案,可以充分利用云端灵活的管理系统和边缘端不断强大的计算能力。
云边协同对于AI普及更重要的价值在于,已经搭建好了一套云边协同的方案,已经提前做好了前期的开发和测试。
云边协同的AI解决方案对于助推边缘AI的普及,以及推动AI在更多领域的创新,都是一个显著的推动力。
相对云端AI芯片,边缘侧与端侧的AI芯片企业面临着更为多元的应用场景,不止要通过优化底层技术,还必须抓住时间窗口,加速实现芯片及相应解决方案的规模化落地。
端侧AI具有显著的安全和隐私方面的优势,与云端AI和边缘AI一起,共同给使用者创造元宇宙的全新体验。
端侧分布式AI能带来的改变和问题
独立设备之间较为割裂的交互体验可以被统一起来,每一个设备不再单单是垂直能力的延申,更可以连点成网,形成一个智能[超级终端]。
更多具备不同外设能力的设备接入系统,就意味着会有更多不同模态的数据涌入,想要妥善利用这些数据,就要解决多模态机器学习问题。
在模态表示方面,利用多模态数据之间的互补性,去除模态间的冗余性,得到更好的特征表示是关键问题;
在模态对齐方面,确定来自两种或两种以上不同模态的数据元素之间的关系也存在挑战。
结尾:
在下一个十年里,市场所考验的将是人工智能[从1到N]的能力,所考验的是它是否真正能够创造价值,落地产业,推动社会不断向前发展。
在端侧,AI芯片市场还处于完全的蓝海状态,需要有人在汪洋大海一样的场景中捕捉机会。
部分资料参考:雷锋网:《端侧AI普及,到底卡在哪了?》,DeepTech深科技:《AI框架百花齐放,端侧体验将是优化重点》