韩国媒体ZDNet Korea10月20日援引半导体业界消息称，英伟达实际收购的AI芯片公司Groq正考虑在下一代芯片中引入3D封装技术——不再沿用现有SRAM方案，而是改用DRAM。

3D封装是将多枚半导体裸片（Die）垂直堆叠、使其像单一芯片一样工作的技术，相比2D平面方案可以在缩小面积的同时提高电力效率。Groq考虑的方案名为3DS（3D Stacked Memory），即通过硅通孔（TSV）垂直互连DRAM芯片的高容量封装。

市场上使用TSV的堆叠内存分为3DS与HBM两类：3DS将多颗DDR DRAM芯片经TSV互连、作为独立内存运行，主要面向高性能计算与数据中心；HBM则通常与GPU、CPU等并置于2.5D中介层上使用。HBM侧重数据传输速度，而3DS保留标准DRAM接口、专注于扩大容量。

（HBM与3DS对比图）

现行架构以SRAM为核心

Groq由谷歌TPU设计者Jonathan Ross于2016年创立，2025年12月被英伟达以间接方式收购并签订技术许可协议。其现任主力产品Groq 3 LPU（LP30）采用大容量SRAM设计：每颗芯片集成约500MB片上SRAM，内存带宽最高150TB/s，韩媒TheElec称这比HBM快7到45倍。英伟达CEO黄仁勋在GTC 2026主题演讲中公开表示：“三星正在为我们制造Groq3芯片，目前正在尽可能提高产量。”

（Groq 3 LPU有关SRAM的介绍）

系统层面，英伟达在GTC 2026上发布的Groq 3 LPX机架采用全液冷设计并基于MGX基础设施，拥有32个1U计算托盘、每个托盘配备8颗LP30芯片，整机集成256颗LPU，片上SRAM合计128GB，对应40PB/s的SRAM带宽，定位是Vera Rubin平台的AI推理加速器。英伟达表示，Groq 3 LPX可使Vera Rubin平台每兆瓦推理吞吐量提升最高35倍。

SRAM的容量天花板

SRAM的长项是速度，代价是容量、成本与芯片面积。SRAM单元结构复杂，速度快但占用硅片面积大、单位容量成本高，且制程升级带来的密度收益有限。

TheElec的对比十分直观：Groq 3约500MB的SRAM容量，与英伟达Rubin GPU单颗288GB HBM4相比，仅为其1/500水平。如此一来，若要用LPU单独运行万亿参数级超大模型，需要将数千颗芯片并联，而芯片级token处理效率（经济性）会随之大幅下降。

英伟达目前的过渡性对策是系统级互补：让Groq 3 LPX机架与Vera Rubin GPU通过Spectrum-X互连配对，带宽极高的LPU负责前馈网络层运算，GPU负责需要大键值内存的注意力层。而下一代芯片直接转向3D堆叠DRAM，则是在芯片层面扩大容量、突破SRAM瓶颈的尝试。ZDNet Korea援引另一位业界人士的分析称，整个市场都在朝“更大的芯片”方向演进，Groq选择容量更强的DRAM正是顺应这一趋势。

同样以大SRAM路线著称的Cerebras芯片公司已在Hot Chips 2026上预告，未来的CS-6系统将首次引入晶圆级3D堆叠，把DRAM层通过超高带宽垂直互连置于逻辑/SRAM晶圆之上，在保持近存计算低延迟优势的同时突破仅靠SRAM扩容的瓶颈。

AI推理芯片公司d-Matrix的Raptor方案同样是将定制DRAM裸片与SRAM计算裸片做3D堆叠封装，其首席执行官明确表示“这不是传统的HBM方案”。

从SRAM独扛，到“SRAM+3D堆叠DRAM”的混合内存层级，正在成为大SRAM流派AI芯片的共同演进方向。