7月21日,英伟达发布博文详细介绍了VeraCPU,这是一款专为智能体AI(AgenticAI)场景设计的CPU。智能体AI将更多关键执行路径转移到CPU上,涉及沙箱中运行代码、调用工具、检索上下文、与数据库交互以及分析结果等多个方面。智能体AI工作负载主要取决于强大的单线程性能、足够的内存带宽、并发下的可预测延迟以及高效处理不规则控制流等。
VeraCPU的设计重点在于提升满负载条件下的单线程表现,其核心是Olympus核心。Olympus核心采用前端、核心中段、执行引擎和缓存子系统四部分设计,集成10宽解码引擎,并支持每周期最多处理2个已采用分支。VeraCPU共配备88个Olympus核心和176个SMT线程,旨在在单线程高负载与更高线程密度两类场景间切换,并降低线程间资源争用。
在片上互连与缓存方面,VeraCPU搭载NVIDIA可扩展相干互连(SCF),提供最高3.4TB/s双向分区带宽,并集成164MB统一L3缓存。内存方面,VeraCPU采用SOCAMM2LPDDR5X内存,聚合带宽最高1.2TB/s,单核最高14GB/s,面向高并发AI、分析、图计算与强化学习负载。扩展与I/O方面,VeraCPU支持双路扩展,通过第二代NVLink-C2C构建一致性双路平台,双路配置下提供176条PCIe6.4通道,并支持CXL3.1。保密计算方面,VeraCPU基于ArmCCA/RME,支持按虚拟机分配加密密钥,并使用经认证的C2C加密保护一致性链路数据。



来源:一电快讯
返回第一电动网首页 >
以上内容由AI创作,如有问题请联系admin#d1ev.com(#替换成@)沟通,AI创作内容并不代表第一电动网(www.d1ev.com)立场。
文中图片源自互联网或AI创作,如有侵权请联系邮件删除。