arXiv cs.AI· Jiajun Hu, Chun Yong Chong·· 3 小时前AI 评分65
SWE-Critix 提出后训练通用验证器以评估代码智能体轨迹并解释判断
SWE-Critix: Post-Training Generalist Verifiers for Assessing Coding-Agent Trajectories
AI 摘要
该论文介绍了 SWE-Critix,一种针对代码智能体执行轨迹的后训练通用验证器训练流程。面对长周期软件工程任务中缺乏明确评估标准的问题,该模型旨在可靠地判定任务完成状态并提供自然语言解释。研究团队基于 CodeForge-Preview 数据,对一系列 30B 参数模型进行了监督微调(SFT)和强化学习(RL)训练。
在保留测试集上的表现显示,基础 Qwen3-30B-A3B 推理模型的分类准确率为 57%,经过 SFT 后提升至 66%,最终经 RL 优化达到 78%。这一结果证明了针对特定领域轨迹进行专门训练比直接使用通用大语言模型作为评估器更为有效。作者同时公开了模型、数据集及训练代码。
事实层面,该工作明确了从 57% 到 78% 的性能提升幅度及所使用的具体模型架构与训练阶段。推断层面,这表明在代码智能体领域,通用的“黑盒”评估正在向专用的、具备解释能力的“白盒”验证器迁移,且 30B 量级模型配合特定数据足以实现显著效果。猜测层面,未来类似的工作可能会进一步探索多模态输入或更复杂的工具交互场景下的验证能力,但需等待后续实证。
来源:arXiv cs.AI · arxiv.org