arXiv cs.AI· Ruhan Wang, Kishan Panaganti, Dongruo Zhou·· 5 小时前AI 评分68
LLM Agents 论文指出记忆抽象化引发错误再生与反持久性设计
More Memory, Worse Agents: Error Reproduction and Anti-Persistence in LLM Agents
AI 摘要
该论文提出 LLM Agents 在通过外部记忆复用经验时,若存储推断出的规则、摘要或技能等抽象内容,会导致错误在“抽象 - 执行 - 再抽象”的循环中再生并持久化,这种现象被称为错误再生(error reproduction)。作者对比了仅保留轨迹与结果的方案,发现后者能避免错误直接复用为存储对象。
研究提出的 Anti-Persistence 设计方案采用自适应选择器,根据过往结果按需重构任务特定指导,并在执行后立即丢弃该指导,仅保留原始轨迹作为间接反馈来源。实验显示,在不同基准测试和骨干模型下,Anti-Persistence 实现了最高的整体保留集成功率,同时拥有最低的 LLM 调用平均成本。这一结果验证了在基于记忆的自改进机制中,将经验积累与抽象持久化分离的有效性。
事实层面,论文证明了存储抽象策略会引入错误传播风险;推断层面,这意味着当前主流 Agent 框架若过度依赖预存技能库可能面临长期性能退化;猜测层面,未来架构可能需要动态生成而非静态缓存策略,但具体工程实现细节仍需观察后续开源代码。
来源:arXiv cs.AI · arxiv.org