亚洲财经

搜索

AI服务器迎来新变量,美光推出全球首款超高密度内存模块

AI服务器迎来新变量,美光推出全球首款超高密度内存模块

美光科技在服务器内存领域取得新突破,有望为AI数据中心基础设施带来新的硬件路径。

9月15日,美光宣布,成功完成全球首款512GB DDR5 RDIMM内存模组的演示验证,并已在多个服务器平台上完成测试。该产品使单台双路服务器的DDR5内存容量上限突破12TB,可为大规模AI推理、内存数据库以及高密度虚拟化等工作负载提供更高的内存容量。AMD与英特尔均已启动对该模组的主动验证,传输速率最高可达9200 MT/s。

对数据中心运营商而言,这款超高密度内存模块的另一大看点是能效。与采用4条128GB模组的方案相比,单条512GB模组的运行功耗降低逾60%,有望在提升内存容量的同时降低数据中心的电力消耗。

技术突破:垂直封装堆叠实现超高密度

512GB模组的高容量得益于美光自主研发的先进垂直互连封装技术。该技术利用硅通孔(TSV)将多层DRAM裸片进行垂直堆叠和互连,在有限封装空间内提升存储密度,同时保持数据中心架构所需的性能水平。

美光云内存业务部门高级副总裁兼总经理Raj Narasimhan表示,512GB RDIMM能够支持多太字节级服务器,在不改变现有服务器机箱尺寸的情况下,同时满足更大规模AI和数据库工作负载、更高虚拟化密度以及更高能效的需求。

在性能方面,针对Spark支持向量机(SVM)数据分析等内存密集型工作负载,512GB RDIMM相较256GB DDR5配置可带来最高1.4倍的性能提升。对于RocksDB、Redis等内存数据库和缓存平台,该模组也有望提升吞吐量和并发处理能力,并支持更大规模的数据集。

生态系统验证:AMD与英特尔同步推进

为了推动512GB DDR5 RDIMM进入下一代服务器平台,美光正与AMD和英特尔展开工程协作,验证产品的兼容性并推进后续部署。

AMD企业副总裁Amit Goel表示,AMD与美光的紧密工程合作,将计算与内存创新进一步结合,有助于客户充分释放AMD平台的性能,并共同应对现代工作负载规模和复杂性不断上升带来的基础设施需求。

英特尔数据中心事业部平台与系统工程总经理Karin Eibschitz Segal则表示,AI及其他数据密集型工作负载的增长,正在对服务器基础设施提出更高要求,内存容量和带宽对整体系统性能的重要性日益提升。英特尔正与美光密切合作,验证512GB DDR5 RDIMM,并推动面向下一代数据中心工作负载的服务器平台落地。

需求驱动:AI工作负载推高内存容量需求

大型语言模型(LLM)、智能体AI、实时推理以及高核心数CPU工作负载的快速扩张,正推动服务器内存市场向更大容量、更高带宽和更优能效演进。512GB RDIMM能够将更多数据保留在主内存中,减少对较慢存储层级的依赖,从而降低数据搬移带来的性能损耗。

企业端的需求也印证了这一趋势。JPMorganChase基础设施平台首席信息官Darrin Alves表示,随着数据中心工作负载持续增长,如何在整个技术栈中平衡计算、内存和效率变得越来越重要。美光512GB RDIMM等高容量内存技术,有助于企业承载更大规模的内存工作负载、提升资源利用率,并增强扩展现代计算环境所需的灵活性。

美光表示,512GB DDR5 RDIMM预计将于2027年下半年根据客户需求进入量产阶段。

风险提示及免责条款
市场有风险,投资需谨慎。本文不构成个人投资建议,也未考虑到个别用户特殊的投资目标、财务状况或需要。用户应考虑本文中的任何意见、观点或结论是否符合其特定状况。据此投资,责任自负。