本文来自微信公众号“半导体行业观察”，编译自theregister。
来源：内容编译自theregister，谢谢。
如果您现在还没有听说过神经处理单元(NPU)，那么您一定错过了英特尔、AMD和高通一年的人工智能营销。
在过去的12个月中，这些专注于AI的处理器被吹捧为下一个必不可少的升级——显然每个人都需要它来充分利用人工智能。但这是否只是营销炒作，还是NPU真的提供了它们所承诺的变革价值？
什么是NPU？
NPU是片上系统(SoC)中的专用处理器，旨在处理特定于AI的任务，例如背景噪音抑制、实时视频增强和基本的生成AI功能。包括英特尔(其Meteor Lake中的VPU)、AMD(其Ryzen AI)和高通(其Hexagon AI处理器)在内的公司都已将NPU嵌入到其芯片中，声称它们将通过使设备更智能、更高效来彻底改变计算体验。其想法是从CPU和GPU中卸载AI工作负载以节省电量，理论上可以延长电池寿命并提供更快的片上AI处理速度。
但是，这些支持人工智能的处理器是否真的具有改变游戏规则的功能，还是它们占用了宝贵的芯片空间，而这些空间可以更好地用于满足用户的实际需求？
NPU优势背后的现实
虽然NPU确实能提高效率，尤其是在移动设备中，节省的每一瓦电都很有价值，但它们对笔记本电脑的影响（电池寿命已经很长）却很难证明。NPU处理的任务大多是小众任务，对普通用户的体验影响有限。如果你经常使用语音命令或严重依赖视频通话增强功能，NPU可能会节省一些电池寿命。但对于大多数用户来说，目前它只是一个不错的功能，而不是必不可少的功能。多年来，CPU和GPU已经充分管理了这些功能，虽然NPU可能会略微降低功耗，但创新更多的是提高效率，而不是提供有意义的新功能。
以英特尔的Meteor Lake VPU为例。它被宣传为设备上AI任务的解决方案，例如视频通话背景模糊和噪音消除——这些任务CPU和GPU一直在有效处理。主要好处是功率效率略有提升，虽然有用，但考虑到整体计算体验，这并不起眼。AMD的Ryzen AI采用了类似的方法，在没有突破性功能的情况下提高了效率。高通的Hexagon处理器借鉴了其移动血统，为笔记本电脑带来了类似的功能，但并没有显著扩大大多数用户的应用范围。
TOPS胜出
在讨论NPU时，供应商通常会强调TOPS作为性能指标。英特尔即将推出的Lunar Lake平台拥有48 TOPS NPU，AMD的Ryzen AI 300系列拥有55 TOPS，而高通的Snapdragon X Elite拥有45 TOPS NPU。这些数字被随意抛出，好像它们对现实世界的用户具有实质性意义。
然而，TOPS是在理想实验室条件下对峰值性能的理论测量。它基于乘法累加(MAC)单元的数量和工作频率计算得出，但并不一定能转化为日常使用中的实际性能提升。对于普通用户来说，这些数字就像他们永远不会以最高速度驾驶的汽车的理论马力一样有意义。
权衡：芯片空间利用率
添加NPU会占用宝贵的芯片空间，而这些空间原本可以用来增强更普遍有益的功能，包括CPU内核或GPU功能。以AMD基于Zen 5的Ryzen AI 300移动SoC为例，NPU占用了芯片空间的10-15%左右，这是一个相当大的比例。如果将这些空间用于添加更多CPU内核，用户就可以在多线程应用程序中体验到明显的改进，让开发人员、内容创建者和高级用户都受益。
NPU真的能适应未来吗？
制造商将NPU宣传为在AI驱动的世界中面向未来的笔记本电脑的必备功能。然而，鉴于AI的快速发展，很难预测哪些硬件功能将保持相关性。虽然NPU确实为特定的AI任务提供了一些优势，但大多数用户不太可能注意到它们的缺失。大多数日常计算任务（如网页浏览、文档编辑和媒体消费）不需要AI驱动的优化。
即使对于偶尔使用AI功能的用户，CPU和GPU通常也足以处理这些工作负载，尽管功耗略高。NPU的前景更多地在于潜在的未来应用，而不是目前普通消费者的切实利益。
噱头还是真正的创新？
尽管人工智能有许多实际应用，例如语音转文本和实时翻译工具，但将NPU纳入笔记本电脑似乎为时过早。这项技术似乎是一种寻找问题的解决方案，其驱动力更多是营销策略而非实际用户需求。在人工智能应用真正成为主流并在日常计算中不可或缺之前，NPU可能仍是一种被过度炒作的功能，而不是必不可少的组件。
与此同时，消费者可能会从处理能力、图形功能和整体系统性能的增强中受益更多——这些改进提供了立竿见影的优势。就目前而言，NPU是一项有趣的发展，但可能并非他们所期望的改变游戏规则的创新——至少对用户而言。
PC制造商热衷于推广包含NPU的硬件，可能是因为AI PC有望将整个行业的平均销售价格提高5%到10%。
参考链接
https://www.theregister.com/2024/11/11/npu_debate/
