10月21日消息，据韩媒报道，NVIDIA下代Groq LPU AI推理加速器芯片有望采用基于TSV（硅通孔）工艺的3D堆叠DRAM方案，以替代当前一代大容量SRAM缓存设计。

当前一代Groq LPU采用大容量SRAM缓存设计，可提供快速解码输出，但SRAM存在容量较小、制程升级密度收益有限的问题，在大型模型表现和芯片迭代上存在固有局限。采用3D堆叠DRAM方案有望突破上述瓶颈。

值得注意的是，同样采用大SRAM技术路线的Cerebras此前已预告，未来的CS-6将实现3D垂直集成DRAM。此次NVIDIA被曝跟进类似技术路径，显示出AI推理芯片领域对高带宽、大容量存储方案的持续探索。