MIT Technology Review · AI· Affan Syed·· 4 小时前AI 评分70
MIT Technology Review 文章指出企业应停止按 token 计费而转向衡量软件交付成果
Stop counting tokens, start counting what ships
AI 摘要
文章核心观点是当 AI Agent 用于编码时,其价值在于最终交付的软件而非消耗的 token 数量,因此企业应停止单纯限制 token 使用量,转而采用“每次合并 Pull Request 的成本”作为核心指标来评估 AI 投入产出比。
文中引用 HPE 的案例数据指出,通过混合架构将重复性任务路由至本地运行的开源模型,可将 token 成本降低 30% 至 50%,同时保留前沿模型处理复杂推理。这种模式利用自有算力(owned capacity)摊薄边际成本,解决了按 token 付费模式下高频调用导致成本激增的问题,并解决了敏感代码外泄的安全顾虑。
事实层面,文章提到 Gartner 预测 2028 年 AI 编码 token 成本将超过开发者薪资,且 Uber 在 2026 年 4 月已耗尽年度 AI 预算。推断层面,作者认为只有当“每次合并 PR 的成本”随 AI 使用量增加而下降时,才意味着实现了真正的效率提升。猜测层面,文章建议企业需测试自身业务是否适合自建容量,若用户活跃度无法达到一定阈值,则维持 API 租赁模式可能更优。
来源:MIT Technology Review · AI · technologyreview.com