美光科技(MU.US)已开始向客户交付 256GB SOCAMM2 的样本，该公司声称这是目前容量最高的 LPDRAM 模块。

该模块采用了美光所称的行业首款单晶体 32Gb LPDDR5X 设计，能够提供低功耗内存容量，从而开启新的系统架构。

美光云内存业务部高级副总裁兼总经理 Raj Narasimhan 表示，“美光推出的 256GB SOCAMM2 为人工智能(AI)和高性能计算(HPC)提供了能效最高的 CPU 直连内存解决方案。今天的公告凸显了美光在技术和封装方面的进步，能够以行业最小的占用空间提供容量最高、功耗最低的模块化内存解决方案。”

这款新模块的容量比此前最高容量的 192GB SOCAMM2 增加了三分之一，每个 8 通道 CPU 可支持 2TB 的 LPDRAM，从而适用于更大的上下文窗口和复杂的推理工作负载。

在 AI 服务器中，SOCAMM2 解决了“内存墙”问题。这比传统 RDIMM 方案更省电、更凉快，极大提升了机架的计算密度(Context Window 越大，模型处理复杂任务的能力越强)。

与同等规格的 RDIMM （寄存式双列直插内存模块）相比，它的功耗仅为三分之一，同时占用的空间也仅为三分之一。