本文来自微信公众号“全球半导体观察”，作者/刘静。
人工智能AI浪潮下，以HBM为代表的新型DRAM存储器迎来了新一轮的发展契机，而与此同时，在服务器需求推动下，存储产业的另一大“新宠”MRDIMM/MCRDIMM也开始登上“历史舞台”。
当前，AI及大数据的快速发展带动服务器CPU内核数量同步增加，为满足多核CPU中各内核的数据吞吐要求，需要大幅提高内存系统的带宽，在此情况下，服务器高带宽内存模组MRDIMM/MCRDIMM应运而生。
01
JEDEC公布DDR5 MRDIMM标准细节
当地时间7月22日，JEDEC宣布即将推出DDR5多路复用双列直插式内存模组(MRDIMM)和下一代LPDDR6压缩连接内存模组(CAMM)先进内存模组标准，并介绍了这两项内存的关键细节，旨在为下一代高性能计算和人工智能发展提供支持。
JEDEC表示，这两项新技术规范均由JEDEC的JC-45 DRAM模组委员会开发。
作为JEDEC的JESD318 CAMM2内存模组标准的后续，JC-45正在开发用于LPDDR6的下一代CAMM模组，目标是最大速度超过14.4GT/s。按照计划，该模组还将提供24bit位宽子通道、48bit位通道并支持“连接器阵列”，以满足未来高性能计算和移动设备的需求。
图片来源：JEDEC
而DDR5 MRDIMM内存支持多路复用列，能够在单个通道上组合和传输多个数据信号，有效提升带宽而无需额外的物理连接。据悉，JEDEC规划了多代DDR5 MRDIMM内存，最终目标是将其带宽提升至12.8Gbps，较DDR5 RDIMM内存目前的6.4Gbps翻倍并提高引脚速度。
在JEDEC的设想中，DDR5 MRDIMM将利用与现有DDR5 DIMM相同的引脚、SPD、PMIC等设计，与RDIMM平台兼容，并利用现有的LRDIMM生态系统进行设计与测试。
JEDEC表示，这两项新技术规范的推出，预计将为内存市场带来新一轮的技术革新。
02
美光MRDIMM DDR5下半年批量出货
2023年3月，AMD在Memcom 2023活动上表示，正在和JEDEC合作，开发新的DDR5 MRDIMM标准内存，其目标传输速率高达17600 MT/s。据TomsHardware当时的报道，第一代DDR5 MRDIMM的目标速率是8800MT/s，之后会逐步提高，第二代将达到12800MT/s，然后第三代会提升至17600MT/s。
MRDIMM的全称为“Multiplexed Rank DIMM”，即将两个DDR5 DIMM合二为一，从而提供双倍的数据传输率，同时可访问两个Rank。
7月22日，存储大厂美光宣布推出全新的MRDIMM DDR5，目前已经出样，可为人工智能AI、高性能计算HPC应用提供超大容量、超高带宽、超低延迟，将于2024年下半年开始批量出货。
图片来源：美光
MRDIMM可以提供最高带宽、最大容量、最低延迟以及更高的每瓦性能。美光表示，在加速内存密集型虚拟化多租户、高性能计算和AI数据中心工作负载方面，表现优于当前的TSV RDIMM。
据官方介绍，与传统的RDIMM DDR5相比，MRDIMM DDR5可实现有效内存带宽提升高达39%，总线效率提升超过15%，延迟降低高达40%。
MRDIMM支持从32GB到256GB的容量选择，涵盖标准和高型两种外形规格（TFF），适用于高性能的1U和2U服务器，其中256GB TFF MRDIMM对比类似容量的TSV RDIMM，性能可以领先35%。
该款全新内存产品为美光MRDIMM系列的首代，将与英特尔至强处理器兼容。美光表示，后续几代MRDIMM产品将继续提供比同代RDIMM高45%的单通道内存带宽。
03
SK海力士下半年推出MCRDIMM产品
作为全球最大的存储厂商，为提升产品速度，SK海力士在AMD与JEDEC之前便推出了类似MRDIMM的MCRDIMM。
MCRDIMM全称为“Multiplexer Combined Ranks Dual In-line Memory Module”，是将多个DRAM结合在基板上的模组产品，通过同时操作模组的两个基本信息处理运算单位Rank。
2022年底，SK海力士与英特尔和瑞萨合作，开发出了DDR5多路合并阵列双列直插内存模组（MCR DIMM），成为当时业界最快的服务器DRAM产品。根据澜起科技2023年年报，MCRDIMM也可以视为MRDIMM的第一代产品。
图片来源：SK海力士
传统DRAM模组每次只能向CPU传输64个字节的数据，而在SK海力士的MCRDIMM模组中，两个内存列同时运行可向CPU传输128个字节的数据。每次传输到CPU的数据量的增加使得数据传输速度提高到8Gbps以上，是单个DRAM的两倍。
SK海力士彼时预计，在高性能计算对于内存带宽提升需求的驱动下，MCR DIMM的市场将会逐步打开。据SK海力士在其2024财年第二季度财务报告最新透露，公司将在下半年推出适用于服务器的32Gb DDR5 DRAM和用于高性能计算的MCRDIMM产品。
04
MRDIMM未来可期
MCRDIMM/MRDIMM采用DDR5 LRDIMM“1+10”的基础架构，需要搭配1颗MRCD芯片及10颗MDB芯片。从概念来看，MCRDIMM/MRDIMM允许并行访问同一个DIMM中的两个阵列，从而大幅提升DIMM模组的容量和带宽。
与RDIMM相比，MCRDIMM/MRDIMM可以提供更高的带宽，同时与现有RDIMM成熟的生态系统有较好的兼容性。此外，使用MCRDIMM/MRDIMM有望显著提升服务器整体性能，减少企业的总拥有成本（TCO）。
MRDIMM和MCRDIMM同属于DRAM内存模组范畴，而内存模组与HBM的应用场景不同，各自的市场空间较为独立。作为行业标准的封装内存，HBM以较小的尺寸，在给定容量下可以实现更高的带宽和能效，但其价格贵、容量较小、不可扩展等特点限制它只能在少数领域使用。因此从产业角度来说，内存模组是大容量、高性价比、可扩展内存的主流解决方案。
澜起科技认为，基于高带宽、大容量的优势，MRDIMM有望成为未来AI和高性能计算主内存的优选方案。而根据JEDEC的规划，未来用于服务器的新型高带宽内存模组MRDIMM，将支持更高的内存带宽，进一步满足HPC及AI应用场景对内存带宽的需求。
