Epoch AI 测算 2027 年前芯片产能可支持数亿至数十亿个并发 AI Agent
How many AI agents could run on the AI chips shipped through 2027?
Epoch AI 发布研究报告,基于高带宽内存(HBM)出货量估算,2025 年至 2027 年间发货的 AI 芯片硬件建成后,理论上可支持数千万到数亿个并发的前沿模型 Agent。若采用 DeepSeek V4 Pro 等高效开源模型,该硬件池甚至可能支撑高达 19 亿个并发 Agent,相当于 80 亿人的周工作时长。
报告的核心发现在于不同模型架构对算力的利用效率存在巨大差异。在相同的 GB300 等效硬件供给下,GPT-5.6 Sol 和 Claude Fable 5 等闭源模型的并发容量分别仅为 9700 万至 1.95 亿、3000 万至 6000 万;而 DeepSeek V4 Pro 在 50 TPS/user 的输出速度目标下,单 GPU 支持的会话数是前者的数十倍,使得总并发量达到 19 亿。这种差异源于开源模型在推理优化上的优势,以及其 API 定价远低于闭源模型导致的单位经济模型变化。
尽管潜在供给规模巨大,但报告指出需求端可能无法完全消化这一产能。按保守估计,仅使用 20% 的硬件容量,对应的年度 API 等价支出将达到 2.6 万亿至 5.3 万亿美元,远超模型开发商预计的 1 万亿美元年收入。这意味着如果缺乏大规模、高价值的 Agent 应用场景落地,AI 基础设施投资可能面临严重的产能过剩风险。事实:2025-2027年HBM出货量对应特定并发上限;推断:DeepSeek等开源模型能极大提升单位硬件的Agent承载量;猜测:未来价格下降或Jevons悖论效应可能吸收部分闲置算力。
报告将硬件供给拆分为 HBM 世代与并发模型,揭示 DeepSeek V4 Pro 在同等算力下可支撑的 Agent 数量是 GPT-5.6 Sol 的约 20 倍。
来源:Hacker News · AI · epoch.ai