链接
研究重点
AI Control and Monitoring, Misalignment Science, Interpretability
Sam 负责 Anthropic 对齐科学团队中的认知监督小组。该小组希望监督 AI 系统时，不仅看其输入和输出是否良好，也要检查支撑这些行为的认知过程是否存在可疑之处。例如，他们研究如何发现语言模型是否在说谎，包括仅凭输入和输出难以判断的情况。团队同时关注白盒方法（例如基于可解释性的技术）和黑盒方法（例如设计有效提问，了解模型的思维过程和动机）。如需了解更多研究方向，可阅读他的这篇文章。