微软研究:清除对话历史帮助 AI Agent 跳出思维定势找到更优解
Clearing chat history helps AI agents find better solutions
微软研究院的一项新研究指出,长期运行的 AI 智能体(Autoresearch agents)即使增加算力也会因积累过多的对话上下文而陷入“思维盆地”,导致性能停滞在次优水平。该研究通过对比实验发现,同一任务在不同运行中表现差异巨大,且这种差距无法单纯通过堆砌算力消除。为解决这一问题,研究人员提出了名为“Fork-and-Flush”的方法,即让智能体分叉为多个并行分支并定期清空聊天历史,从而恢复搜索多样性。
实验数据显示,在相同的算力预算下,采用 Fork-and-Flush 方法的智能体在 13 个长程任务中的平均归一化得分达到 0.78,相比单线程运行的 0.47 提升了 66%,相比传统的 Best-of-4 策略也高出 44.4%。该方法不仅显著提高了最终结果的质量,还将结果的波动性从 0.26 降低至 0.16,表现出更强的稳定性。值得注意的是,仅通过清除上下文而不进行分叉也能带来 22% 的性能提升。测试中使用的模型包括 GPT-5.6-terra 和 GPT-5.5,并通过 GitHub Copilot CLI 执行。
此外,研究还探讨了不同规模模型的表现,发现方差最大的情况出现在模型能力边缘的任务上,这符合开放研究问题的定义。作者认为,随着模型能力的提升,这一边界会向更难的问题移动,因此定期的上下文重置对于前沿研究智能体依然有效。事实层面确认了上下文窗口对推理多样性的负面影响及具体量化收益;推断层面表明该机制可能成为未来构建复杂 Agent 系统的标准工程实践;猜测层面在于该模式是否会被主流 Agent 框架默认集成。
揭示长程 Agent 因上下文累积陷入局部最优的机制,提供 Fork-and-Flush 方案以校正对模型持续推理能力的预期。
来源:The Decoder · the-decoder.com