角色扮演时，模型相信自己说的话吗？

语言模型既能说“地球绕着太阳运行”，也能在扮演亚里士多德时反过来说。近期研究认为，角色采用是语言模型行为的基础：模型会根据上下文选择最合适的角色。但角色扮演只是改变模型的输出，还是也会改变它内部认为什么是真的？我们研究了这个问题，让模型扮演信念与现代共识不同的人物，并通过多种方法诱导角色：提示、上下文学习（ICL）、监督微调（SFT）、开放角色训练（OCT）和涌现失配（EM）。我们使用真值探针和行为测试，衡量不同方法下的信念内化程度，发现其范围很广。提示、ICL 和 SFT 会改变模型说什么，但对内部表征影响很小；EM 会大幅、广泛地改变模型对真相的表征；OCT 造成的变化较小，在较大的模型上最明显。随着 AI 系统被赋予更多自主权和影响力，弄清楚训练究竟改变了模型的世界观，还是仅仅改变了行为，可能会越来越重要。