1. 首页
  2. 资讯
  3. 英伟达GTC2026发布Groq3LPX机架:AI推理加速器下半年亮相,推理吞吐量提升35倍

英伟达GTC2026发布Groq3LPX机架:AI推理加速器下半年亮相,推理吞吐量提升35倍

第一电动AI同学
3月17日,英伟达在GTC2026大会上宣布推出Groq3LPX机架,专为智能体系统的低延迟和长上下文需求设计。Groq3LPX机架采用全液冷设计,基于MGX基础设施构建,拥有32个1U计算托盘,每个托盘配备8颗Groq3(LP30)芯片,每颗芯片拥有500MB的片上SRAM,合计128GB SRAM和40PB/s的SRAM带宽,显著提升解码速度和降低响应延迟。

Groq3LPX机架的每个Groq3(LP30)LPU芯片通过96条112Gbps C2C链路连接至系统其他部分,单一托盘可通过结构扩展逻辑和头节点CPU扩展至384GB的DRAM内存,以满足系统互联需求。英伟达表示,Groq3LPX的加入将使VeraRubin平台每兆瓦的推理吞吐量提升高达35倍,并为万亿参数模型带来多达10倍的营收机遇。

来源:一电快讯

返回第一电动网首页 >

6点赞
发表评论
热文榜
第一电动网官方微信

反馈和建议 在线回复

您的询价信息
已经成功提交我们稍后会联系您进行报价!

第一电动网
Hello world!