通过工具性干预构建动机对比档案

安全评估常根据行为模式推断模型的潜在动机，但这类推断是否测量到了预期构念并不明确。我们以伪装对齐为例研究这个问题：模型推断自己正受到训练压力时，会更常配合训练目标。这种行为通常被解读为策略性自保，但也可能只是模型对评估研究者预期的推断较为敏感。我们提出一套对称干预框架，用来区分这两种假设。我们不直接干预“谋划”或“谄媚”，而是针对它们各自假设所包含的工具性过程：追踪行为后果，以及追踪研究者的预期；随后比较干预这些过程对伪装对齐的影响。我们通过合成文档微调、激活引导和提示，对四种开放权重模型生物进行研究。在合成文档微调实验中，Llama-3.1-70B、Llama-3.1-405B 和 Qwen-2.5-72B 对预期追踪干预的反应，比对后果追踪干预更敏感。对 Llama-3.1-70B 进行激活引导时，整体结论相同；提示干预得到的结果也大体符合合成文档微调的模式。总体而言，即使模型的推理草稿看起来符合谋划假设，伪装对齐行为在因果上仍可能主要受评估情境中的预期影响。因此，谋划和策略性欺骗评估需要检查构念效度；对称的工具性过程干预可以作为一种检验方式。