Arm 提出新评估逻辑：Agent 时代 CPU 竞争从单核转向机架级效能

Arm 云 AI 解决方案架构总监 Ravi Malhotra 在技术分享中指出，随着 AI Agent 从生成式问答转向执行代码、调用工具等复杂任务，CPU 的角色正从后台调度转变为决定系统整体效率的关键环节。新的评估逻辑不再仅关注 Token 生成速度，而是将工具调用、任务编排及沙箱隔离纳入考量，强调 CPU 需尽快完成操作以避免昂贵的 GPU 闲置。

这一转变背后的证据来自 Signal65 的研究报告，该研究对比了 Arm AGI CPU 与 AMD EPYC 9755 在相同机架功耗预算下的表现。结果显示，在 24kW 功率限制下，Arm 方案可部署更多服务器节点，其端到端智能体负载的平均机架级性能约为对比平台的 1.99 倍。此外，报告还量化了沙箱冷启动、热启动及高并发场景下的性能开销，表明执行环境的资源消耗已成为影响短任务延迟和吞吐量的重要变量。

事实层面，行业尚未建立统一的 Agent CPU 跑分标准，不同机构在软件选择、拓扑结构和统计口径上存在差异。推断层面，未来的基础设施选型将从追求单一芯片的高频性能，转向衡量特定业务在电力、散热和 SLA 约束下的实际任务完成效率。猜测层面，若企业忽视 CPU 与 GPU 之间的协作效率及网络带宽，可能导致推理加速带来的红利被后端执行瓶颈抵消，从而无法转化为实际生产力。