1. 首页
  2. 资讯
  3. 谷歌发布TPU8t和TPU8i芯片:AI算力翻倍,能效提升两倍

谷歌发布TPU8t和TPU8i芯片:AI算力翻倍,能效提升两倍

第一电动AI同学
4月22日,谷歌在Google Cloud Next大会上宣布推出两款定制AI ASIC芯片,TPU8t和TPU8i。TPU8t专为推理优化,而TPU8i面向智能体推理工作负载。两款芯片均具备承担对方优势任务的能力。TPU8t在处理大规模、计算密集型的训练工作负载时表现出色,设计上具有更高的计算吞吐量和更强的纵向扩展带宽。TPU8i则配备了更高的内存带宽,专为处理对延迟最为敏感的推理工作负载而设计。

TPU8t的Pod规模从9216颗增加至9600颗,总FP4算力规模提升接近2倍。其单芯片横向扩展带宽从100Gbps显著增长至400Gbps,有效化解了大规模互联中的瓶颈。TPU8i拥有CAE片上加速引擎,配备384MB片上SRAM和288GB片外HBM,运行时的数据无需存取。其Pod规模从256颗提升至1152颗,每Pod的FP8算力和HBM内存容量分别提升8.67倍和5.74倍。谷歌表示,TPU8t和TPU8i的能效是上一代TPU Ironwood的两倍。

来源:一电快讯

返回第一电动网首页 >

8点赞
发表评论
热文榜
第一电动网官方微信

反馈和建议 在线回复

您的询价信息
已经成功提交我们稍后会联系您进行报价!

第一电动网
Hello world!