跳到正文
原文
NVIDIA Blog· Hannah Coutand·· 2 小时前AI 评分55

NVIDIA Vera CPU 发布:在单芯片上实现最高吞吐量与最快Agent性能

Vera Delivers the Best of Both Worlds: Highest Throughput and Fastest Agents

AI 摘要

NVIDIA正式发布Vera CPU,旨在解决AI工厂中AI智能体任务对CPU执行的高吞吐与低延迟需求。该芯片宣称能在单一架构下同时提供行业领先的Agent速度和每瓦特更高的容量,使基础设施提供商无需混合搭配不同特性的x86处理器即可平衡速度与密度。

核心证据来自100兆瓦数据中心的对比测试:相比最快的x86 CPU,Vera实现了每瓦特支持1.6倍更多的Agent;相比能效最高的x86 CPU,其Agent速度提升2倍且保持领先能效。早期采用者的生产级测试结果进一步佐证了这一性能:Perplexity在Agentic编码任务上提速1.5倍;DeepInfra在Agent编排任务上达到被测四种架构中最快,速度提升达2.2倍;Daytona将1000个Agent沙箱上线时间从88.4秒缩短至10.8秒,并在2000并发沙箱下实现每秒12.7个完成作业。

事实层面,NVIDIA提供了具体的基准测试数据和部分合作伙伴的实测反馈。推断层面,这标志着AI基础设施正从单纯依赖GPU推理转向强调CPU在Agent工作流中的核心调度与执行能力,特别是针对多Agent并发场景的能效优化。猜测层面,若Vera能持续维持其在非特定调优下的线性扩展能力(如ClickHouse案例所示),可能会改变未来AI工厂的硬件选型标准,推动从“GPU为主、CPU为辅”向“异构协同、CPU深度参与”的架构迁移。

来源:NVIDIA Blog · blogs.nvidia.com