链式思维可控性受首词熵坍缩影响研究

该研究指出当前模型在推理追踪（CoT）中表现出的不可控性，主要源于思考标签后前几个token的熵塌（entropy collapse）。作者通过两种推理时干预手段恢复了部分可控性：预填充（prefilling）单个token即可显著提升控制力，以及禁止高频起始token并结合上下文示例，使平均合规率提升34-41个百分点。 研究发现添加和风格的可控性（增加或转换信息）与抑制的可控性（避免或删除信息）属于截然不同的能力组别。跨组相关性多为负值，且两者与可监控性（monitorability）的关系相反：前者通常呈正相关，后者常呈负相关。这表明评估体系需区分“启动特定开头的难度”与“改变推理内容的通用限制”，并分别报告不同类别的控制任务。 事实层面确认了首词熵塌是瓶颈，推断表明现有监控工具可能因抑制类任务的负面关联而失效，猜测未来对齐工作需针对这两类机制设计独立评测。