大模型在偏好不确定性下存在识别与生成鸿沟

1. 13:00
   arXiv cs.CL

   论文发现大模型在偏好不确定性下存在识别与生成的策略校准差距

   该研究通过构建包含250个角色、5种语言及2.5万轮对话的多语言基准，评估了大语言模型在人类偏好随时间变化时的自适应个性化能力。实验结果显示，尽管模型在从候选选项中识别合适策略时表现可靠，但在开放生成任务中会出现严重的策略校准崩溃，准确率下降35%至46%。这种失败具有系统性特征：无论偏好是否存在认知不确定性，模型都倾向于优先利用现有偏好，表现出过度依赖历史记忆的“先利用”行为。 针对这一缺陷的干预测试表明，常规的提示词（prompting）手段无法解决该问题，而针对性的训练方法则能显著改善效果。通过在训练中监督模型内部策略表征以使其符合状态条件的人类偏好，模型在分布外角色和对话风格上的用户可接受度泛化差距缩小了三分之一。这证实了问题的根源在于模型内部对策略状态的表征机制，而非简单的输出层逻辑。 事实层面，该研究确认了当前模型在动态偏好适应上存在“识别-生成”鸿沟，且默认策略偏向静态记忆。推断层面，这意味着仅靠优化输出质量或增加上下文窗口无法解决个性化中的适应性难题，必须从训练阶段引入对策略选择的显式监督。猜测层面，若未来产品不修复此底层表征偏差，其宣称的“长期记忆”功能在复杂多变的真实场景中可能产生误导性的个性化体验，导致用户对系统信任度下降。

当前热度 9·可比范围峰值 9（11月2日 15:00）·近 24 小时可比范围变化 –

趋势仅比较持续完整观测到的相同主体，范围可能小于当前热度统计。移动指针或点击图表查看每小时热度；键盘可用左右方向键切换。