本文来自微信公众号“半导体行业观察”，作者/编辑部。
昨日，英伟达发布了更新后的H200 GPU。该芯片的最大改变来自使用了HBM3e。其带来的提升从半导体行业观察昨日的文章《英伟达H200突然发布：容量翻倍，带宽狂飙》中可以一览无遗。
然而，据韩媒报道，在英伟达发布新GPU之后，一场围绕HBM的争夺战已悄然打响。
韩国双雄，争霸HBM
韩国经济日报在报道中指出，随着美国无晶圆厂芯片设计商英伟达公司周一推出其新的人工智能芯片组H200 Tensor Core GPU，三星电子公司和SK海力士公司等韩国存储芯片制造商对其高带宽内存(HBM)销售的快速增长寄予厚望。
报道表示。随着人工智能芯片竞争的加剧，全球最大的两家存储芯片制造商三星和SK海力士正准备将HBM产量提高至2.5倍。
三星存储芯片业务副总裁Kim Jae-joon在10月份表示，三星电子还完成了与主要客户关于明年HBM供应的谈判。
据了解，三星正在向AMD提供HBM3和交钥匙封装服务。据业内人士透露，这家全球顶级内存芯片制造商还在8月下旬通过了Nvidia A100和H100的HBM3质量验证；目前尚未正式确认是否向Nvidia供应HBM3。
仅次于三星的全球第二大内存芯片制造商SK海力士则早于今年8月向Nvidia提供了HBM3E的样品，即HBM3的扩展版本。而SK海力士正在向AMD供应HBM3。
SK海力士DRAM营销副总裁Park Myoung-soo也强调：“公司明年第四代HBM3产品和第五代HBM3E产品的供应量都在增加，并已完全售空。现在更是与客户和合作伙伴就2025年HBM产量进行生产和供应的讨论也在进行中。”
除了韩国双雄以外，全球第三大DRAM公司美光也将从2024年开始积极瞄准高带宽内存(HBM)市场。市场专家预测，三星电子、SK海力士和美光之间争夺更大市场份额的竞争将会加剧。
据业内人士透露，美光在上季度的财报电话会议上表示，它已经开发出了业界最好的HBM3E产品，并将于2024年初开始生产，并创下有意义的销量。HBM3E是HBM的下一代版本，被认为是比当前市场领先产品HBM2和HBM3更高附加值的产品。
美光正在向包括Nvidia在内的主要企业HBM客户发送HBM3E样品，让他们测试其性能。Nvidia一直在向OpenAI、谷歌、微软等公司提供AI加速器，其中HBM封装在其图形处理单元(GPU)中。人工智能加速器是用于推进生成式人工智能服务的服务器的关键组件。
目前，HBM市场由三星电子和SK海力士占据主导地位。市场研究公司TrendForce的数据显示，三星和SK海力士预计将分别占据HBM 46%和49%的市场份额，美光将在2023年占据其余市场份额。
在这种情况下，美光明年愿意瞄准下一代HBM市场，预计将对三星电子和SK海力士产生负面影响。这是因为美光的HBM供应可能会缓解HBM短缺问题，并加剧HBM制造商之间的价格竞争。鉴于美光是一家美国公司，分析人士表示，英伟达和AMD等大公司可能会青睐与美光同国籍的产品。“随着美光宣布积极进军市场，竞争很可能会加剧，”一位半导体业内人士表示。
美光则透露，英伟达有望在2024年使用其HBM3E。
两大巨头，各显神通
回看HBM的发展，资料显示，该技术从13年开始出现在半导体市场，且已经扩展到第一代(HBM)、第二代(HBM2)、第三代(HBM2E)，目前是第四代(HBM3)。
在2021年10月，SK海力士在业界首次成功开发HBM3，通过将其独家供应给在AI用GPU上拥有全球领先份额的英伟达，从而获得HBM市场的领先份额。最近他们还开发了第五代HBM3E，预计从24年上半年开始量产，2026年计划第六代HBM4。
报道支出，SK海力士自从HBM3获得市场领先份额以来，在不断扩大产能，以增强HBM3E等下一代产品的量产能力。在对HBM最大客户英伟达继HBM3独家供应之后，独家供应至第五代HBM3E，确保其在HBM市场的优势。
SK海力士于2023年6月开始HBM3E的样品出货，其拥有广泛领先的性能，能满足开发者需求。首先，该芯片每秒最多可以处理1.15TB(兆字节)以上的数据。与HBM3相比，处理速度提高了1.3倍，容量提高了1.4倍；另外，HBM3在8层层叠中为16 GB，12层层叠为24 GB封装，HBM3E在8层中具有24 GB容量，今后还将开发12层层叠的36 GB的封装。
SK海力士的HBM3E更是应用了“Advanced MR-MUF”的最新封装技术，产品的热释放性能比以往提高了10%。该封装技术从应用到HBM3的现有MR-MUF技术补充了短处——引入了克服芯片翘曲的新技术，并用新的保护材料改善了散热性。
在SK海力士高歌猛进的同时，三星电子已完成HBM3的量产准备。据透露，他们计划2023年下半年开始进入量产阶段。
众所周知，三星不仅是一个名列前茅的存储供应商，也是一个领先的在晶圆代工厂，同时也有封装业务。
为此这种情况下，三星电子不仅利用HBM的内存，还充分利用自己公司的封装技术推动了一起提供到基金业务的周转解决方案。对于SK海力士和美光来说，这是一种将这样的优势攻克为武器的战略，因为他们不拥封装的技术。
对于三星电子来说，“2.5D封装技术”在大大扩大HBM3供应量方面的重要性越来越高。具体来说，就是他们推出的一项被称为“I-Cube”(I-Cube)的技术。根据HBM模块的搭载数，发展为I-Cube 2(搭载了2个HBM)等。
根据三星的规划，到2024年4~6月期间，公司讲量产I-Cube 4，7~9月期间，公司则计划批量生产I-Cube 8。三星电子称，在将该技术与HBM一起提供，可使供应量大大扩大。
正如大家所看到，在HBM中，产能往往成为瓶颈，而三星电子的一系列解决方案有望解决这些问题。目前英伟达和AMD等采用台积电的“CoWoS”技术，但该技术也没有充分增加生产容量。
基于这种情况，三星电子向英伟达提出了封装服务和HBM3供应之前的周转关键服务，但会发生什么还是未知数。
虽然可以用转向钥匙制作产品是其优点，但是从在HBM3中用SK海力士的MUF技术获得市场领先份额的状况来看，利用三星电子的HBM3的风险很高，其他的危险因素也很多。
美光和台积电，会成为X因素？
如前文所说，美光在HBM市场没有多少影响力。但他们也正在发力。在他们看来，通过技术进步带来的产品性能提升，会是公司发力的根本助推器。
据了解。美光的24 GB HBM3E模块基于八个堆叠24Gbit内存芯片制造。而改芯片采用该公司的1β(1-beta)制造工艺制造。领先的技术让这些模块的数据速率高达9.2 GT/秒，使每个堆栈的峰值带宽达到1.2 TB/s，比现有最快的HBM3模块提高了44%。与此同时，该公司不会停止其基于8-Hi 24 Gbit的HBM3E组件。他们宣布，继开始量产8-Hi 24GB堆栈后，计划于2024年推出超大容量36 GB 12-Hi HBM3E堆栈。
美光首席执行官补充道：“我们预计将于2024年初开始HBM3E的生产，并在2024财年实现可观的收入。”
在美光来势汹汹的同时，台积电也宣布将CoWoS产能扩大两倍(每月1万6000张)。这就意味着三星电子要想成功完成上面讨论的提案，就必须在台积电完成增设的准备工作之前按照英伟达要求的质量和规格成功量产。目前很难期待比TSMC的CoWoS更高的性能，对但三星电子来说这是最后的机会一决高下。
同时，由于三星尚未确定与英伟达的合同，他们在与SK海尼克斯的竞争中苦战仍在继续。
HBM作为今后AI时代的必备材料，在最近记忆半导体的不景气中也有很大的收益性。虽然在内存市场中比例还不大，但据说盈利能力是其他DRAM的5-10倍。尤其是SK海力士在2023年7-9月当季DRAM业务两个季度来首次转为盈余，由此发挥了HBM的威力。HBM市场预计年均最大将扩大至80%。
由此可见。今后HBM的影响力将进一步加大。
