跳到正文
原文
arXiv cs.CL· Weixiang Zhao, Yichen Zhang, Yanyan Zhao, Jinming Bai, Bin Liang, Ruifeng Xu, Bing Qin, Ting Liu·· 5 小时前AI 评分68

自进化智能体能修复失败但难以从失败中泛化

Self-Evolving Agents Can Repair Failures but Struggle to Generalize from Them

AI 摘要

该研究通过冷启动仅失败演化(CFOE)框架发现,当前自进化智能体在缺乏成功轨迹或外部评估信号时,虽能从失败经验中修复已见任务,却难以将能力泛化至未见任务。这一修复与泛化之间的差距在三类自进化范式、多种大语言模型骨干及四个交互环境中均表现一致。

深入分析显示,智能体常误解失败原因,即便验证正确的经验也难以有效迁移。放宽CFOE条件后,验证器反馈和额外交互带来的增益有限,而拥有成功轨迹则显著提升迁移效果。这表明单纯依赖失败数据进行自我迭代存在根本性局限,无法构建可持续的通用能力。

事实层面,研究证实了失败驱动学习的修复有效性但泛化失效;推断上,当前自进化机制可能过度拟合特定错误模式而非学习通用策略;猜测部分,若未来要突破此瓶颈,可能需要引入更多样化的正样本或改变反馈机制,但这需进一步实验验证。

来源:arXiv cs.CL · arxiv.org