研究:复杂编码Agent框架未提升性能反增成本
先了解这件事
2026年10月24日,The Decoder报道Liu与Han的研究指出,在Qwen3.6、Deepseek-V4-Flash等模型上测试Claude Code、OpenCode和mini-SWE-agent三种框架时,更复杂的框架并未提高SWE-bench通过率。数据显示,不同框架间的性能差异与随机重跑波动相当(约13%),表明领先优势多为测量噪声。同时,复杂框架导致单次任务成本最高增加三倍,主要源于系统提示词开销。该研究结论挑战了当前对复杂Agent架构有效性的普遍认知。
AI 根据报道生成 · 2 小时前更新
报道时间线
沿着报道,了解事件的不同侧面。
- The Decoder精选Liu & Han 研究发现复杂 Coding Agent 框架增加成本但未提升 SWE-bench 通过率
Liu & Han 的研究通过对比 Claude Code、OpenCode 和 mini-SWE-agent 三种框架在 Qwen3.6、Deepseek-V4-Flash 等模型上的表现,发现更复杂的框架并未带来更高的任务解决率,反而导致单次任务成本最高增加三倍。测试显示,不同框架间的性能差异与同一设置下的随机重跑波动相当(约 13%),表明所谓的“领先优势”大多属于测量噪声。 成本差异主要源于系统提示词(system prompt)和工具描述的大小:Claude Code 的初始上下文约为 16,600 tokens,而 mini-SWE-agent 不足 1,000 tokens,且前者会将推理输出保留在对话历史中,进一步推高消耗。此外,OpenCode 因缺乏输出续写机制和离线搜索限制,表现出显著的统计劣势。唯一观察到框架影响结果的情况是启用“Extended Thinking”时,关闭该功能会导致部分模型在特定框架下通过率下降约 11 个百分点。 事实层面,该研究基于 SWE-bench Verified 的 45 个最难任务和 447 个任务的池子进行离线测试,数据脚本已开源。推断层面,这意味着当前流行的“技能系统”或复杂工具链可能只是增加了账单而非智能,Nvidia 近期降低 Token 成本的举措也印证了优化 Agent 引导比堆砌工具更有效。猜测层面,对于依赖长上下文的特定模型组合,框架选择的影响可能存在未被完全解释的变量,需更多跨基准验证。
本事件热度走势
还没有足够的连续观测数据,暂不绘制趋势。