arXiv cs.AI· Yuval Kansal, Karen Ullrich, Polina Kirichenko, Ilia Kulikov, Niraj K. Jha, Mohammad Pezeshki, Mark Ibrahim·· 5 小时前AI 评分75
Self-Direct机制让AI智能体将错误转化为持久记忆并提升任务成功率
Don't Forget What You Just Learned: Self-Directed Repair Turns Agent Mistakes Into Lasting Lessons
AI 摘要
该论文提出名为Self-Direction的机制,使AI智能体能从失败中提炼教训并永久保存,解决了当前基于上下文的反思易被遗忘且全量微调成本高昂的问题。实验显示该方法在GAIA、Claw-Eval和Terminal-Bench 2.1等基准上,将基于Qwen系列开源模型的智能体整体成功率提升了8.9至17.0个百分点,且重复错误率几乎减半。
核心实现细节在于:当智能体失败时,系统会分析其执行轨迹提取教训,并将其蒸馏为一个轻量级低秩适配器(adapter)。该过程冻结原始模型权重,仅训练相当于基座模型参数量约0.02%的新参数,从而避免覆盖既有能力。这些适配器被存入持久化库,并在遇到相关问题时自动路由调用。研究发现少量适配器即可泛化至数十个新任务,无需额外训练。
事实层面,该研究验证了通过极小参数增量实现经验固化的可行性;推断层面,这种架构可能成为未来Agent长期进化的标准组件,替代昂贵的全量微调;猜测层面,若该机制能大规模部署,将显著降低Agent维护成本,但具体在复杂长程任务中的稳定性仍需更多工业界验证。
来源:arXiv cs.AI · arxiv.org