Deep-Research Agent 提示优化暴露记忆与负迁移问题

1. 12:00
   arXiv cs.CL

   Deep-Research Agent 提示词优化在跨主题测试下暴露记忆与负迁移问题

   该研究针对基于强化学习的语言模型代理适配提出替代方案——提示词优化的局限性，指出其在事实性任务中存在标量奖励优化无法避免的失败模式：优化器可能将训练示例的答案直接写入提示词，导致分布内增益实为记忆而非可迁移行为。作者使用反射提示演化（GEPA）方法优化多智能体深度研究系统的两个系统提示词，并在主题互斥的数据集划分下进行评估，即训练、验证和测试集完全不共享任何主题。 实验结果显示，在保留的引用奖励指标上，得分从 0.702 提升至 0.781，95% 置信区间为 [0.051, 0.107]，且该增益在三个随机种子下复现（均值 0.107）。然而深入分析发现，获胜提示词近一半内容为记忆化的答案键，但控制消融实验表明，即便在完全相同的训练问题上，这些内容也无法获得奖励。真正的增益来源是分解后的维度反馈，若将其坍缩为单一标量奖励，跨主题的迁移效果反而变为负值。此外，该增益在跨家族评估器下依然保持，且大部分可由人工编写的同类配方复现。 事实层面，研究证实了特定条件下提示词优化的有效性与失效边界；推断层面，当前流行的单标量奖励优化范式在复杂 Agent 任务中可能导致虚假繁荣；猜测层面，未来提示词优化需强制引入多种子、跨主题验证及评估器消融以区分真实能力与过拟合。材料未提及具体商业应用或产品落地计划，仅聚焦于方法论层面的因果归因与评估协议改进。

当前热度 9·可比范围峰值 9（10月12日 14:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。