链接
研究重点
AI Control and Monitoring, Misalignment Science, Alignment Training Methods
我目前是 OpenAI 的技术团队成员，负责监控 LLM 智能体是否出现不对齐行为。此前，我曾在英国 AI 安全研究所研究 AI 控制和安全案例，也曾在 Anthropic 从事诚实性后训练研究。再之前，我在 Chris Buckley 和 Anil Seth 指导下于 University of Sussex 攻读博士，研究基于人类反馈的强化学习（RLHF）；期间还曾访问 NYU，与 Ethan Perez、Sam Bowman 和 Kyunghyun Cho 合作研究。