跳到正文
原文
arXiv cs.CL· Guanghui Min, Chen Chen·· 5 小时前AI 评分70

Prune the Summary, Not the History: Source-Judged Compaction for Long-Horizon Agents 提出通过源校验压缩解决长程智能体幻觉问题

Prune the Summary, Not the History: Source-Judged Compaction for Long-Horizon Agents

AI 摘要

该论文指出长程LLM智能体在上下文压缩时生成的摘要混杂了环境事实与压缩器的推理,导致智能体无法区分两者,进而引发执行错误。分析显示,在广泛使用的结构化压缩器中,83%的运行失败可追溯至执行了缺乏环境输出支持的摘要条目。

作者提出了无训练后处理步骤“源判定压缩”(SJC),利用非生成式决策模型Jev对每个摘要条目进行源校验评分,移除无来源的条目。该方法不改变智能体或压缩器架构,仅增加一次廉价的校验请求。在AppWorld和OfficeBench基准测试中,结合两种智能体模型,SJC使跨运行可靠性较底层压缩器提升了2.1%至8.9%,且未增加智能体的令牌消耗。

事实层面,SJC通过引入Jev模型解决了摘要中的事实与推理混淆问题;推断层面,这种轻量级校验机制可能成为长程智能体工程化的标准组件;猜测层面,若Jev等专用判别模型进一步普及,可能重塑智能体记忆管理的成本结构,但具体部署效果需视不同任务场景而定。

来源:arXiv cs.CL · arxiv.org