跳到正文
原文
NVIDIA Blog· Hannah Coutand·· 1 天前精选AI 评分73

NVIDIA 发布 Vera CPU 以支撑高并发 Agent 沙箱与工具执行

European Leaders Turn to NVIDIA Vera CPUs to Build Local Infrastructure

AI 导读

NVIDIA 正式发布 Vera CPU,旨在解决 AI Agent 在检索信息、运行软件工具和执行代码时的高频低延迟需求,其设计重点在于维持数千任务并发下的响应速度。该芯片并非单纯替代 GPU,而是作为数据中心的 CPU 层,与 NVIDIA GPU 协同工作,专门优化 Agent 工作流中的数据处理和软件执行环节。

关键证据显示,Vera 的架构特性包括每核高性能、LPDDR5X 内存带宽以及 NVIDIA Scalable Coherency Fabric,这些技术被用于支持 ClickHouse、Duck Labs 等公司的分析负载,以及 Atlassian、Nous Research 等公司在语义搜索索引构建和 Agent 身份验证场景中的应用。特别是对于 Baseten-Blaxel、Modal 等云沙箱提供商,Vera 的高启动速度和吞吐量被视为支撑每日数百万次沙箱实例快速启停的关键,解决了 Agent 规模化执行时的性能瓶颈。

事实层面,Nebius、Nscale 等云服务商及 Bull、Dell 等服务器厂商已确认基于 Vera 构建基础设施;推断层面,这标志着 AI 基础设施正从单一依赖 GPU 转向 CPU-GPU 深度耦合的异构架构,以应对 Agent 时代对确定性计算和即时响应的要求;猜测层面,若 Vera 能持续保持其在沙箱启动速度上的优势,可能会重塑云原生 AI 平台的成本结构,使大规模 Agent 集群的运营成本更可控。

推荐理由

正文将 Vera CPU 定位为 Agent 沙箱与工具调用的核心加速层,而非通用计算补充,直接修正对 AI 基础设施中 CPU 角色的传统认知。

来源:NVIDIA Blog · blogs.nvidia.com