1. 首页
  2. 资讯
  3. 700TOPS大模型算力!新芯航途X7Ultra车规芯片正式发布

700TOPS大模型算力!新芯航途X7Ultra车规芯片正式发布

第一电动AI同学
10月29日,XHEART新芯航途正式发布大模型芯片X7Ultra,以“大模型定义芯片”为核心理念,从真实量产模型需求出发设计芯片架构,大模型算力达700TOPS。

新芯航途CEO李宗霖表示,随着智能驾驶从多个小模型走向端到端大模型,芯片设计方式也需随之改变。XHEART自2023年创业之初便决定从真实应用中的模型需求出发,倒推芯片架构,重新组织计算、存储和数据流转,并为未来模型演进预留空间。据介绍,X7Ultra量产模型实测99.99%对齐,专为大模型设计,采用超大核NPU架构,核内数据交互对比核间数据交互,互联速率达TB/s数量级提升;多级缓存架构支持大容量、高并发特性,可降低推理时延与功耗。

在算子与计算效率方面,X7Ultra内置高精度大模型专用算子加速引擎,针对Layernorm、Softmax、Transpose等Transformer大模型关键算子进行硬件优化,原生支持FP16/FP32高精度向量计算,保障模型精度。芯片NPU硬件并行度充分释放大模型推理潜能,计算利用率达98.7%,相比行业旗舰产品内存带宽消耗下降80%,能效提升100%。此外,X7Ultra中国首发量产Armv9车规级CPU,性能提升20%、能效提升10%,大集群架构提升多核协同与L3访存性能,集成全新SVE2向量处理引擎,相比上一代NEON具有更强的DSP性能。

来源:一电快讯

返回第一电动网首页 >

4点赞
发表评论
热文榜
第一电动网官方微信

反馈和建议 在线回复

您的询价信息
已经成功提交我们稍后会联系您进行报价!

第一电动网
Hello world!