顿悟时刻可以是伪装的吗？识别思维链中的真实推理与装饰性步骤

大语言模型可以生成很长的思维链（CoT），但其中用语言表达的步骤是否反映了模型内部实际的思考过程，仍不清楚。本文提出真实思考分数（TTS），用于量化 CoT 中每一步对模型最终预测的因果贡献。实验显示，LLM 常在真实思考步骤（确实用于计算最终输出）和装饰性思考步骤（看起来像推理，但因果影响很小）之间交替。只有少部分推理步骤会因果性地影响模型预测。例如，在 AIME 测试中，Qwen-2.5 的 CoT 推理步骤平均只有 2.3% 的 TTS >= 0.7（分数范围为 0 至 1）。此外，我们发现，可以利用识别出的“真实思考”方向，引导 LLM 在内部遵循或忽略 CoT 中的特定步骤。我们指出，CoT 中的自我验证步骤（即“顿悟时刻”）可能只是装饰；沿真实思考方向进行引导，则可以迫使模型在内部对这些步骤进行推理。总体而言，研究表明，LLM 常会用语言描述推理步骤，却并未在内部真正执行，这对 LLM 推理效率和 CoT 的可信度提出了质疑。