智能座舱大模型,混合算力还是全靠端侧输出

周凯扬
随着新一代智能汽车算力硬件纷纷进入下一阶段,如今智能座舱开始在新车型上铺开。

本文来自微信公众号“电子发烧友网”,作者/周凯扬。

除了传统的LLM模型外,不少垂直领域的大模型也在飞速发展,尤其是在汽车领域,越来越多的车企开始考虑在车内引入AI大模型。如今汽车此前由于车端算力的限制,大模型很难运行在智能座舱上,而全程联网跑的座舱大模型在使用体验上又有所欠缺。然而,随着新一代智能汽车算力硬件纷纷进入下一阶段,如今智能座舱开始在新车型上铺开。

理想Mind GPT

去年年底,理想发布了最新的OTA 5.0版本,率先为Max车型升级了AD MAX 3.0智能驾驶。然而,这一次OTA还包括了最新的智能空间SS 3.0,为Max、Pro和Air车型正式引入了Mind GPT这一智能座舱多模态认知大模型。

理想从零构建了Mind GPT的原始基座模型,并采用了自研的TaskFormer神经网络架构,Mind GPT使得理想语音助手“理想同学”获得了听感和自行能力全面升级,并基于其重点场景,定制了111个领域、1000种以上的专属能力,比如理解语义、多语种交流、模糊感知和行程安排规划等。

从中文大模型排行榜C-Eval网站上可以看到,12月4日发布的Mind GPT在当时斩获了闭源模型第一的成绩。尽管随后被荣耀、海思和vivo的大模型超过,但Mind GPT目前依然以89.7的成绩高居第四的位置。

可以看出,理想Mind GPT对于硬件的要求并不算高,从理想分享的Mind GPT推理引擎来看,其推理负载被分配给了云端GPT和端侧的NPU,从而降低智能座舱的算力要求,使得更多老车型也可以享受到大模型的完整体验。

蔚来NOMI GPT

蔚来宣称NOMI GPT是业内首家纯端侧部署的多模态感知大模型,新的NOMI借由这一大模型,可以在无需联网的前提下识别数千种物体,且做到快速响应,还可以根据非颜色类磁珠,完成氛围灯的颜色组合。由于是纯端侧处理,NOMI GPT做到了车主隐私数据不出车,提高了信息安全性。

之所以能做到纯端侧,自然离不开计算硬件的支撑。2024款蔚来全系车型均将采用全新的中央计算平台ADAM,在智舱上搭载了高通最新的骁龙8295智能座舱芯片。在5nm工艺和架构优化下,8295相较上一代8155在性能上有了巨大的提升,除了通用计算与图形处理的CPU和GPU算力分别翻了2倍和3倍外,用于AI计算的NPU算力也提升了8倍,达到了30TOPS。

除此之外,蔚来的ADAM通过系统级创新实现了舱驾融合,不仅可以拓展算力,更可以实现跨域算力共享。如此一来,类似NOMI GPT这样的多模大模型端侧部署,就可以调用来自智驾芯片Orin X的算力,从而提高CPU、GPU和NPU的使用效率。

写在最后

可以看出,理想和蔚来在智能座舱大模型上采用了不尽相同的策略,理想的Mind GPT主打让所有L系列车主都能享受到大模型的智能空间,而蔚来则是追求极致的硬件算力,把一切推理计算都留在端侧。这两种方式都各有优劣,未来随着更多车企跟进智能座舱大模型,我们届时将看到究竟何种技术路线更受欢迎。

THEEND

最新评论(评论仅代表用户观点)

更多
暂无评论