本文来自微信公众号“全球半导体观察”,【作者】韦思维。
在AI大模型叩响全球智能大门的进程中,HBM(高带宽存储器)凭借强大的数据存储与读取动力骤然崛起,引发了一场惊心动魄的半导体存储技术争霸赛。
近几年,SK海力士一马当先,在HBM产业发展的早期道路上一骑绝尘,引领着行业的发展方向。而今AI、高性能计算等对HBM的需求呈爆发式增长,这片战场上早已涌入了众多实力强劲的选手。三星、美光等老牌存储原厂闻风而动,此外包括最近表现出强烈涉足意向的铠侠等,加入到了这场激烈的HBM擂台竞赛之中...
三大原厂逐鹿,HBM4研发风云激荡
据TrendForce集邦咨询数据显示,目前全球HBM市场的三大巨头——SK海力士、三星和美光,占据着主导地位。
今年,SK海力士、三星、美光在HBM3的技术进步中竞相推出新的产品,同时也加大了对HBM4的研发投入。随着AI、深度学习、大数据等领域对存储带宽和容量的要求不断攀升,明后年即将迎来HBM4的量产,并且这场“内存大战”正在提前预热。
01 美光:HBM4有望2026年量产
近日,在最新的投资者会议上,美光透露了HBM4开发进展顺利,HBM4有望2026年量产,HBM4E也会在2027~2028年亮相。
美光HBM4预计堆叠多达16个DRAM芯片,每个芯片的容量为32GB,并配备2048位宽的接口,性能比上一代HBM3E提高50%以上。据了解,美光HBM4采第五代10nm1b制程,预计用于英伟达Rubin和AMD Instinct MI400系列GPU,相较竞争对手SK海力士和三星都倾向更先进第六代10nm1c制程,市场竞争优势有待考验。
业界认为,这些HBM产品除了更高数据传输速度,HBM4E还采客制化基础芯片,代表产业模式转变。美光总裁兼执行长Sanjay Mehrotra表示,HBM4E将带来存储器业务的模式转变,其因为采用了台积电先进的逻辑代工制程技术,为某些客户客制化逻辑基础芯片,预计将给美光未来业绩带来改善。
关于HBM4E,美光表示,HBM4E开发顺利,已与多客户合作,预期会采不同基础芯片和配置,达成客制化设计的目标。美光HBM4E还能支持Marvell客制化HBM运算架构,以便更客制化各种XPU和HBM解决方案。
此外,HBM需求强劲,美光自己也透露,到2025年,生产线已被预订。
02 SK海力士:HBM4,计划2026年实现量产
作为全球领先的HBM制造商之一,SK海力士于今年4月表示将在2025年开始采用台积电先进制程生产HBM4,并计划于2026年实现量产。
SK海力士HBM4将会开始采用台积电的先进逻辑(Logic)制程,以超细微制程基础裸片(base die)增加更多的功能。同时SK海力士也将在性能和功效等方面,满足客户的客制化(Customized)需求。
据台湾地区媒体报道称,SK海力士还计划将于2025年下半年推出12层HBM4,2026年推出16层HBM4。
03 三星:HBM4,预计2025年量产
据韩媒11月报道,三星电子已着手为微软(MSFT-US)和Meta平台(META-US),量身打造第六代、客制化高频宽存储器(HBM)HBM4。从HBM4开始,不仅进一步提升储存特性,还会针对客户的要求,客制化多种运算模式,因此称为计算存储器(CIM)。
目前三星正在建立专门的HBM4生产线,目前进入试生产阶段。这一阶段涉及小规模的试验性制造,为后续的大规模生产做准备。三星电子目标是在2025年之前完成HBM4的开发,并投入大量生产,该公司看好HBM4的未来前景。
根据报道,尽管HBM4的具体产品细节尚未公布,但三星在2月份透露了其整体规格。HBM4的传输速度达到每秒2太字节(TB),较HBM3E提升66%;容量从36GB提升至48GB,增加33%。
目前上述大厂布局动态表明,虽然HBM4还处于推测阶段,但从技术发展趋势来看,未来的内存系统将越来越强大、高效,并能够应对更为复杂和要求更高的应用场景。随着AI、HPC和图形计算需求的不断增长,HBM4等下一代内存技术将在未来几年得到更加广泛的应用。
HBM4引领,1.6TB/s带宽新时代?
如今HBM之所以能成为存储领域的“宠儿”,其独特的技术原理功不可没。HBM(High Bandwidth Memory)是一种高带宽、低功耗的存储器,主要应用于高性能计算(HPC)、人工智能(AI)和图形处理(GPU)等领域。
HBM的核心优势在于采用了3D堆叠技术,将多个DRAM芯片垂直堆叠在一起,通过硅通孔(TSV)技术实现芯片间的高速信号传输,大大缩短了数据传输的距离和延迟,从而能够以极高的带宽为处理器提供数据支持。
从诞生之初,HBM技术便踏上了不断迭代升级的征程。HBM1作为最早的版本,带来了128GB/s的带宽,开启了高带宽内存的应用。随后,HBM2、HBM3等相继问世,每一代都在带宽、容量和能效等关键指标上实现了显著突破。
从业界数据来看,HBM4标准支持2048位接口和6.4GT/s的数据传输速率。相比HBM3E,HBM4的单个堆栈带宽已达到1.6TB/s,极大地提升了内存系统的数据吞吐能力,能够更高效地满足人工智能、深度学习、大数据处理和高性能计算等领域对内存性能日益苛刻的需求。
HBM供应商在各代产品中往往会推出不同堆栈层数的产品,如HBM3e世代的8hi及12hi,而HBM4世代则规划了12hi及16hi。各业者已预定于2025年下半年以后陆续投入HBM4 12hi,不过SK hynix选择在HBM3e追加推出16hi产品。据悉,11月,SK hynix(SK海力士)在SK AI Summit 2024活动中透露其正在全力开发HBM3e 16hi产品,每颗HBM芯片容量高达48GB,预计在2025年上半年送样。
TrendForce集邦咨询研究指出,从HBM3e过渡到HBM4世代中,IO数翻倍带动运算频宽提高,此升级造成晶粒尺寸放大,但单颗晶粒容量维持在24Gb。在HBM3e 12hi升级至HBM412hi的过程中,HBM3e 16hi可作为提供低IO数、小晶粒尺寸和大位元容量的选项。
业界认为,当前,HBM3的最大带宽为819GB/s,但随着高性能计算(HPC)、人工智能(AI)和大数据处理的需求不断增加,HBM4有可能将内存带宽提升到1.6TB/s或更高。
HBM4将堪大任,背后先进封装技术引争议?
尽管HBM4在数据传输速率和内存容量上取得了飞跃,但背后仍面临着一系列挑战,特别是在封装技术的选择上。据业界指出,HBM4预计将继续使用先进的封装技术,如Advanced MR-MUF(高级多通道无铅焊料)和TC-NCF堆叠架构。然而,对于16hi堆栈和HBM4e等新产品,是否采用Hybrid Bonding(混合键合)技术,成为行业内争论的焦点。
据TrendForce集邦咨询表示,三大原厂已确定将在HBM3e 12hi及HBM4 12hi世代延续使用Advanced MR-MUF及TC-NCF堆叠架构。对于HBM4 16hi和HBM4e 16hi世代,因Hybrid Bonding未较MicroBump具明显优势,尚无法断定哪一种技术能受青睐。若原厂决定采用Hybrid Bonding,主要原因应是为及早经历新堆叠技术的学习曲线,确保后续HBM4e和HBM5顺利量产。
而关于HBM5,据TrendForce集邦咨询研究显示,三大HBM原厂考量堆叠高度限制、IO密度、散热等要求,已确定于HBM5 20hi世代使用Hybrid Bonding(混合键合)先进封装。
根据优势来看,与已广泛使用的MicroBump(微凸块)堆叠技术相比,Hybrid Bonding由于不配置凸块,可容纳较多堆叠层数,也能容纳较厚的晶粒厚度,以改善翘曲问题。使用Hybrid Bonding的芯片传输速度较快,散热效果也较好。
不过,业界认为采用Hybrid Bonding恐将导致HBM的商业模式出现变化。对此,TrendForce集邦咨询表示,使用Wafer to Wafer模式堆叠,须确保HBM base die(基础裸晶)与memory die(内存裸晶)的晶粒尺寸完全一致;而前者的设计是由GPU/ASIC业者主导,因此,同时提供base die及GPU/ASIC foundry(晶圆代工)服务的TSMC(台积电)可能将担负base die与memory die堆叠重任。若循此模式发展,预计将影响HBM业者在base die设计、base die与memory die堆叠,以及整体HBM接单等商业环节的产业地位。
结语
尽管此前市场曾有HBM可能供过于求的担忧,但从长远的发展趋势来看,HBM市场仍然充满着无限的机遇和潜力。根据JEDEC的预测,全球HBM市场将从2022年的23亿美元激增至2026年的230亿美元,复合年增长率达到77%。随着HBM技术逐步进入成熟阶段,其对整个DRAM市场的影响将越来越深远。TrendForce集邦咨询表示,预估2025年HBM将贡献10%的DRAM总位元产出,较2024年增长一倍。由于HBM平均单价高,估计对DRAM产业总产值的贡献度将突破30%。
总的来说,HBM4不仅是下一代内存技术的核心,也是推动AI、HPC以及图形处理等领域发展的关键。在这场HBM4的激烈竞争中,三星、SK海力士、美光等巨头们凭借各自的技术实力、创新策略和市场布局,在技术研发、生产制造、市场拓展等多个维度展开了全方位的较量。未来,当HBM4量产的钟声敲响,究竟谁是否能在这场“华山论剑”中脱颖而出,登顶行业之巅,我们拭目以待。