本文由半导体行业观察编译自datacenterknowledge。
就在科技硬件供应链似乎正在从新冠疫情引发的短缺中恢复时,一个新的瓶颈又出现了,这可能会影响数据中心GPU的供应和数据中心开发商的扩张计划。
今年5月,韩国内存制造商SK海力士宣布,其2024年和2025年大部分时间的高带宽内存(HBM)芯片供应已售罄。其在该领域的竞争对手之一美光在3月份也发表了类似的声明。作为HBM市场的最后一家参与者,三星尚未就产品供应情况发表公开评论。
随着人工智能和数字服务的激增,HBM短缺对数据中心的扩张提出了新的挑战。虽然GPU瓶颈问题备受关注,但高带宽内存需求的不断增长可能会进一步影响该行业的增长计划。
什么是HBM芯片?为什么数据中心需要它们?
实际的GPU封装本身中使用了高带宽内存,其芯片物理上位于GPU硅片的旁边,而标准DRAM则安装在DIMM条上并位于CPU旁边。
在新冠疫情供应链短缺期间,汽车制造商无法获得车辆所需的芯片,因此他们干脆生产不带芯片的汽车并将其封存,直到能够补充库存为止。
Nvidia和AMD等GPU供应商没有这种选择。没有高带宽内存意味着无法组装GPU,因为必须在制造阶段将HBM添加到GPU封装中。
这显然是一个敏感话题。当Data Center Knowledge采访时,数据中心硬件供应商Hynix、Micron、Samsung、Nvidia、Intel和AMD均拒绝就此事发表评论。
TrendForce预测,HBM在整个内存市场的份额将在2024年增长近一倍,从2023年的2%增至今年的5%。展望未来,预计到2025年,HBM的市场份额将超过整个内存市场的10%。
从市场价值来看,预计从2024年开始高带宽内存将占DRAM总市场价值的20%以上,到2025年可能超过30%。
数据中心持续增长,但HBM短缺可能带来挑战
HBM内存的制造成本更高,制造难度更大,制造时间也比标准DRAM更长。因此,内存制造商不可能立即转向增加HBM产量。此类制造厂(如CPU工厂)需要时间来建造。
数据中心产品的短缺可能会影响该行业的扩张和增长计划,但供应链目前仍在坚持。Omdia的主机托管和数据中心建设首席分析师Alan Howard指出,尽管一些公司不得不等待GPU硬件,但数据中心建设仍在继续进行。
需求肯定不会放缓。Omdia预测,到2024年,其追踪的100家公司预计将有3770万平方英尺和6吉瓦的计划产能上线。
Howard告诉Data Center Knowledge:“在可预见的未来,GPU短缺不太可能对数据中心建设计划产生重大影响。唯一可能对数据中心建设造成影响的因素,无论是计算还是AI硬件,将是一场巨大而长期的供应链噩梦。这不太可能,但就像一场疫情一样,并非不可能。”
如果真的出现严重的GPU短缺,情况又会如何呢?“这将是一场交易盛宴,”科技硬件研究公司Jon Peddie Research总裁Jon Peddie说道。“无论哪家公司愿意支付溢价以占据榜首,他们都会获得第一批货,然后这种交易就会一直存在。”
Moor Insights and Strategy首席分析师安谢尔·萨格(Anshel Sag)表示,真正的问题是,如果出现HBM瓶颈,这种模式不允许任何新进入者进入市场。
“Nvidia将获得HBM的大部分份额,但AMD和其他公司可能已经下了订单一段时间了,”Sag解释道。“所以,如果你想推出使用HBM的产品,而你还没有协商好供应,那么你可能就拿不到任何HBM。”
这也影响到SambaNova等规模较小的公司,该公司使用自己的定制硅片和非GPU部件制造专用AI处理服务器。Sag指出,AMD的Versal系列FPGA处理器也使用HBM内存,这也可能会进一步遭遇短缺。
佩迪表示,订单上已经积压了大量GPU。他预计Nvidia将在第二季度出货80万台GPU,但销量可能还会更高。“他们可能无法满足需求的增长,但他们将满足80%或更多的需求,”他说。“这只是有点不舒服。你知道,这就像,‘哎呀,我今晚没有甜点,但我吃了一顿丰盛的晚餐’。”
Sag表示,他认为内存制造商积极扩大产能的唯一方式是Nvidia这样的供应商要求第三方增加产能。“其他公司……也对代工厂做过类似的事情。苹果和高通等公司为代工厂提供了工具和资金,以加速其某些技术的部署。因此,芯片供应商为代工厂提供激励措施以扩大产能或提高产量是有先例的,”他说。
除了HBM短缺,还有更广泛的扩张挑战
Peddie预测,目前正在建设的数据中心将会建成,但展望未来,GPU和内存供应问题将成为他们面临的最不重要的问题,因为数据中心运营商和建设者正在努力解决其他问题。这包括获得房地产、足够的电力和冷却,以及建设数据中心所需的所有其他因素。
“安装基数将达到一定水平,开始接近需求,然后客户就会不以为意,因为他们会说我们现在不需要更多的电路板,我们已经有足够的电路板了,”佩迪说。“而且我们不仅有足够的电路板,而且没有地方放新的电路板。”
参考链接
https://www.datacenterknowledge.com/supply-chain/hbm-chip-shortage-a-new-bottleneck-in-the-data-center-supply-chai