MIT Tech Review 探讨 AI 编码成本与混合部署模式

文章核心观点是当 AI Agent 用于编码时，其价值在于最终交付的软件而非消耗的 token 数量，因此企业应停止单纯限制 token 使用量，转而采用“每次合并 Pull Request 的成本”作为核心指标来评估 AI 投入产出比。 文中引用 HPE 的案例数据指出，通过混合架构将重复性任务路由至本地运行的开源模型，可将 token 成本降低 30% 至 50%，同时保留前沿模型处理复杂推理。这种模式利用自有算力（owned capacity）摊薄边际成本，解决了按 token 付费模式下高频调用导致成本激增的问题，并解决了敏感代码外泄的安全顾虑。 事实层面，文章提到 Gartner 预测 2028 年 AI 编码 token 成本将超过开发者薪资，且 Uber 在 2026 年 4 月已耗尽年度 AI 预算。推断层面，作者认为只有当“每次合并 PR 的成本”随 AI 使用量增加而下降时，才意味着实现了真正的效率提升。猜测层面，文章建议企业需测试自身业务是否适合自建容量，若用户活跃度无法达到一定阈值，则维持 API 租赁模式可能更优。