arXiv cs.AI· Yujie Feng, Xiaobin Wang, Jinluan Yang, Xiaonan Shi, Pengjun Xie, Philip S. Yu, Xiaoming Wu, Jieping Ye·· 5 小时前AI 评分73
论文指出自进化智能体的技能策略协同进化存在漂移陷阱导致部署失效
Evolving Together, Failing Apart: The Skill-Policy Co-evolution Trap in Self-Improving Agents
AI 摘要
该论文通过理论与实证分析证明,当前自进化智能体(Self-Improving Agents)中技能库与策略模型协同进化的范式存在固有脆弱性:一旦部署后技能库发生重写、新增或移除等漂移,原本基于“合作接受”规则训练的策略将因无法适应新技能而表现急剧下降,且这种敏感性随训练进程加剧。
研究团队提出了名为CO-evolution Drift Audit (CODA) 的部署导向评估协议,模拟技能漂移场景并引入三项关键指标:最坏情况下的成功率、语义保留编辑下的一致性率以及对受损技能的抵抗力。在四种协同进化方法和五个基准测试(共六个设置)的实验中,最坏情况下的成功率比峰值低5至13分,抹去了已交付技能库相比无技能基线所获得的52%至93%的性能增益。
事实层面,现有评估仅考核最终交付的技能库上的表现,忽略了部署后的动态变化;推断层面,这意味着当前主流方法在真实环境中可能无法维持训练时的性能水平;猜测层面,未来智能体架构需从追求协同进化峰值转向构建对技能演化的通用适应能力,否则商业化落地将面临显著风险。
来源:arXiv cs.AI · arxiv.org