存储产业的下一个“新宠”是?

当前,AI及大数据的快速发展带动服务器CPU内核数量同步增加,为满足多核CPU中各内核的数据吞吐要求,需要大幅提高内存系统的带宽,在此情况下,服务器高带宽内存模组MRDIMM/MCRDIMM应运而生。

本文来自微信公众号“全球半导体观察”,作者/刘静。

人工智能AI浪潮下,以HBM为代表的新型DRAM存储器迎来了新一轮的发展契机,而与此同时,在服务器需求推动下,存储产业的另一大“新宠”MRDIMM/MCRDIMM也开始登上“历史舞台”。

当前,AI及大数据的快速发展带动服务器CPU内核数量同步增加,为满足多核CPU中各内核的数据吞吐要求,需要大幅提高内存系统的带宽,在此情况下,服务器高带宽内存模组MRDIMM/MCRDIMM应运而生。

01

JEDEC公布DDR5 MRDIMM标准细节

当地时间7月22日,JEDEC宣布即将推出DDR5多路复用双列直插式内存模组(MRDIMM)和下一代LPDDR6压缩连接内存模组(CAMM)先进内存模组标准,并介绍了这两项内存的关键细节,旨在为下一代高性能计算和人工智能发展提供支持。

JEDEC表示,这两项新技术规范均由JEDEC的JC-45 DRAM模组委员会开发。

作为JEDEC的JESD318 CAMM2内存模组标准的后续,JC-45正在开发用于LPDDR6的下一代CAMM模组,目标是最大速度超过14.4GT/s。按照计划,该模组还将提供24bit位宽子通道、48bit位通道并支持“连接器阵列”,以满足未来高性能计算和移动设备的需求。

640 (1).png

图片来源:JEDEC

而DDR5 MRDIMM内存支持多路复用列,能够在单个通道上组合和传输多个数据信号,有效提升带宽而无需额外的物理连接。据悉,JEDEC规划了多代DDR5 MRDIMM内存,最终目标是将其带宽提升至12.8Gbps,较DDR5 RDIMM内存目前的6.4Gbps翻倍并提高引脚速度。

在JEDEC的设想中,DDR5 MRDIMM将利用与现有DDR5 DIMM相同的引脚、SPD、PMIC等设计,与RDIMM平台兼容,并利用现有的LRDIMM生态系统进行设计与测试。

JEDEC表示,这两项新技术规范的推出,预计将为内存市场带来新一轮的技术革新。

02

美光MRDIMM DDR5下半年批量出货

2023年3月,AMD在Memcom 2023活动上表示,正在和JEDEC合作,开发新的DDR5 MRDIMM标准内存,其目标传输速率高达17600 MT/s。据TomsHardware当时的报道,第一代DDR5 MRDIMM的目标速率是8800MT/s,之后会逐步提高,第二代将达到12800MT/s,然后第三代会提升至17600MT/s。

MRDIMM的全称为“Multiplexed Rank DIMM”,即将两个DDR5 DIMM合二为一,从而提供双倍的数据传输率,同时可访问两个Rank。

7月22日,存储大厂美光宣布推出全新的MRDIMM DDR5,目前已经出样,可为人工智能AI、高性能计算HPC应用提供超大容量、超高带宽、超低延迟,将于2024年下半年开始批量出货。

640 (1).png

图片来源:美光

MRDIMM可以提供最高带宽、最大容量、最低延迟以及更高的每瓦性能。美光表示,在加速内存密集型虚拟化多租户、高性能计算和AI数据中心工作负载方面,表现优于当前的TSV RDIMM。

据官方介绍,与传统的RDIMM DDR5相比,MRDIMM DDR5可实现有效内存带宽提升高达39%,总线效率提升超过15%,延迟降低高达40%。

MRDIMM支持从32GB到256GB的容量选择,涵盖标准和高型两种外形规格(TFF),适用于高性能的1U和2U服务器,其中256GB TFF MRDIMM对比类似容量的TSV RDIMM,性能可以领先35%。

该款全新内存产品为美光MRDIMM系列的首代,将与英特尔至强处理器兼容。美光表示,后续几代MRDIMM产品将继续提供比同代RDIMM高45%的单通道内存带宽。

03

SK海力士下半年推出MCRDIMM产品

作为全球最大的存储厂商,为提升产品速度,SK海力士在AMD与JEDEC之前便推出了类似MRDIMM的MCRDIMM。

MCRDIMM全称为“Multiplexer Combined Ranks Dual In-line Memory Module”,是将多个DRAM结合在基板上的模组产品,通过同时操作模组的两个基本信息处理运算单位Rank。

2022年底,SK海力士与英特尔和瑞萨合作,开发出了DDR5多路合并阵列双列直插内存模组(MCR DIMM),成为当时业界最快的服务器DRAM产品。根据澜起科技2023年年报,MCRDIMM也可以视为MRDIMM的第一代产品。

640 (1).png

图片来源:SK海力士

传统DRAM模组每次只能向CPU传输64个字节的数据,而在SK海力士的MCRDIMM模组中,两个内存列同时运行可向CPU传输128个字节的数据。每次传输到CPU的数据量的增加使得数据传输速度提高到8Gbps以上,是单个DRAM的两倍。

SK海力士彼时预计,在高性能计算对于内存带宽提升需求的驱动下,MCR DIMM的市场将会逐步打开。据SK海力士在其2024财年第二季度财务报告最新透露,公司将在下半年推出适用于服务器的32Gb DDR5 DRAM和用于高性能计算的MCRDIMM产品。

04

MRDIMM未来可期

MCRDIMM/MRDIMM采用DDR5 LRDIMM“1+10”的基础架构,需要搭配1颗MRCD芯片及10颗MDB芯片。从概念来看,MCRDIMM/MRDIMM允许并行访问同一个DIMM中的两个阵列,从而大幅提升DIMM模组的容量和带宽。

与RDIMM相比,MCRDIMM/MRDIMM可以提供更高的带宽,同时与现有RDIMM成熟的生态系统有较好的兼容性。此外,使用MCRDIMM/MRDIMM有望显著提升服务器整体性能,减少企业的总拥有成本(TCO)。

MRDIMM和MCRDIMM同属于DRAM内存模组范畴,而内存模组与HBM的应用场景不同,各自的市场空间较为独立。作为行业标准的封装内存,HBM以较小的尺寸,在给定容量下可以实现更高的带宽和能效,但其价格贵、容量较小、不可扩展等特点限制它只能在少数领域使用。因此从产业角度来说,内存模组是大容量、高性价比、可扩展内存的主流解决方案。

澜起科技认为,基于高带宽、大容量的优势,MRDIMM有望成为未来AI和高性能计算主内存的优选方案。而根据JEDEC的规划,未来用于服务器的新型高带宽内存模组MRDIMM,将支持更高的内存带宽,进一步满足HPC及AI应用场景对内存带宽的需求。

THEEND

最新评论(评论仅代表用户观点)

更多
暂无评论