受内容审查的 LLM：探索隐藏知识的自然测试平台

大语言模型有时会给出错误或误导性回答。应对这一问题有两种方法：引导模型诚实作答——修改提示或权重，让模型如实回答；以及谎言检测——判断某个回答是否错误。以往研究会在专门训练来撒谎或隐瞒信息的模型上评估这些方法，但人为构造的情境可能与自然发生的不诚实行为不同。我们改为研究中国开发者提供的开放权重 LLM，这些模型经过训练，会审查政治敏感话题。Qwen3 模型经常对法轮功或天安门抗议等主题作出错误陈述，但有时又能正确回答，表明模型掌握了被训练为压下去的知识。我们以此为测试平台，评估一系列引导作答和谎言检测技术。对于引导诚实作答，去掉聊天模板、少样本提示，以及使用通用诚实数据微调，最能稳定地提高真实回答比例。对于谎言检测，让被审查模型判断自己的回答是否真实，表现接近未经审查模型所能达到的上限；使用无关数据训练的线性探针则提供了成本更低的替代方案。效果最强的诚实性引导技术也能迁移到包括 DeepSeek R1 在内的前沿开放权重模型。值得注意的是，没有任何一种技术能完全消除错误回答。我们公开了所有提示、代码和对话记录。