论文通过消融实验揭示潜在思维链在逻辑任务中多为占位符而非真实推理

该研究针对二十一种模型任务配置，结合三种训练配方、三种推理任务和两个骨干网络，系统检验了潜在思维链（Latent Chain-of-Thought）是否真正执行推理。研究发现，在逻辑任务上，COCONUT 方法往往在思维链开始前就已包含可读答案，其状态早期收敛，删除思维链后预测几乎不变；而在算术任务上，所有测试配方均表现出对思维链内容的依赖。这表明仅凭高准确率或可解码的中间状态不足以证明模型使用了潜在思维链进行推理。

作者进一步指出，即使经过逐步监督产生有序布局的思维链，也可能仅作为占位符存在：删除会损害性能，但内容替换却不会改变最终答案。基于这些证据，论文提出一个统一分类法，将思维链“代表什么”与“模型如何使用它”区分开来。此前关于占位符令牌、坍缩超位置及步骤依赖因果角色的报告，实际上分别对应不同任务、训练配方或测量方式下的不同思维链类型，彼此并不矛盾。

事实层面，本研究证实了潜在思维链在不同任务中的行为差异显著；推断层面，这意味着现有评估标准可能高估了模型的推理能力，需引入更严格的消融测试；猜测层面，未来若要在复杂任务中实现真正的潜在推理，可能需要重新设计训练目标以强制模型依赖中间状态而非直接映射。产业链影响在于，模型开发者应警惕仅凭可解码性宣称推理能力的做法，转而采用更细粒度的因果分析工具。