解决知识冲突需要上下文可信度先验而非固定规则

该论文指出检索增强语言模型在检索内容与自身知识冲突时，现有方法依赖设计时固定的决策规则（如优先信任上下文或模型记忆），这些规则在特定部署场景下必然表现不佳。理论分析表明，任何固定规则的得分随可靠上下文比例呈线性增长，而最优得分是凸函数，因此固定规则在非最优区间必被超越；同时，现有的对称分歧信号不包含判断哪个来源正确的信息。

作者基于GRACE基准测试验证了这一观点，该基准独立测量了模型知识、上下文内容和事实真相。结果显示，来自四个家族的基线方法要么在正确上下文中表现强，要么在错误上下文中表现强，无法兼顾。为此，研究者提出了新方法：让模型以笔记形式陈述知识，由校准置信度的策略为每条笔记发声，阅读器分两路回答，最后根据先验π进行选择或放弃。当先验设置为真实上下文正确比例时，该系统在GRACE的任意混合比例下均优于最佳基线，最高提升26分；在Qwen3.5-35B-A3B和Llama-3.1-8B上分别达到45.3和35.0分，而最佳基线仅为29.4和27.5分。在ClashEval基准上也分别领先CK-PLUG和TCR 12分和26分。

关键事实是增益仅在模型缺乏相关知识时消失，这与理论预测一致。推断表明，RAG系统的鲁棒性不仅取决于检索质量，更取决于对上下文错误率的先验估计；猜测认为，若无法准确获知先验，系统可能退化为次优状态。这一发现挑战了当前工程实践中“优化检索”或“调整提示词”的主流思路，指出必须显式建模上下文可信度分布。