LQET方法应对人类-AI反馈循环中的引用污染

该论文针对人机交互中单一观察被多次转述导致模型误判独立性的问题，提出了潜在商数证据训练（LQET）这一关系型目标函数。该方法结合稀疏贝叶斯监督与约束条件，旨在使模型在报告未提供新证据时保持预测稳定，而在面对跨中继历史的新证据时保持一致更新。实验基于Qwen3-4B和Phi-4-mini模型，通过三个配对种子进行验证。 在受控的二元基准测试中，LQET将新证据更新的均方根误差（RMSE）降低了41%至44%，并将经过八次中继步骤后的对数几率漂移减少了89%至91%，显著优于仅针对任务训练的基线。此外，该方法在闭环模拟中同样有效，其中模型置信度控制着后续轮次中多少中继报告重新进入上下文。这些结果表明，通过将信念更新建立在提供的证据来源上，可以有效防止信息污染导致的过度自信或偏差累积。 从技术机制看，LQET试图解决的是当前大模型在处理多源反馈时的归因缺陷，即无法区分“独立佐证”与“重复传播”。这为开发更稳健的Agent系统提供了新的训练范式，特别是在需要动态对齐人类反馈的场景中。事实层面，该方法已在特定基准和模拟环境中验证了有效性；推断层面，这种训练方式可能成为未来构建高可信度人机协作系统的标准组件；猜测层面，其实际效果是否能在开放域、非结构化的人类反馈循环中复现，仍需进一步观察。