链接
研究重点
AI Control and Monitoring, Misalignment Science, Interpretability
你好,我是 Jack!我希望理解现代语言模型的认知机制,让它们更可靠,也更符合人类价值观。目前,我负责 Anthropic 的“Model Psych”团队。我们研究内省、情境意识、角色人格和情绪表征等高级认知现象的内部机制,并将这些方法用于审查 Anthropic 的生产模型。例如,我们会监测模型神经活动中的信号,以发现欺骗、操纵或意识到自己正在接受评估等迹象。此前,我在哥伦比亚大学的理论神经科学中心攻读博士。我的论文列表见 Google Scholar。