项目示例:
SF Bay Area
我目前是 OpenAI 的技术团队成员,负责监控 LLM 智能体是否出现不对齐行为。此前,我曾在英国 AI 安全研究所研究 AI 控制和安全案例,也曾在 Anthropic 从事诚实性后训练研究。再之前,我在 Chris Buckley 和 Anil Seth 指导下于 University of Sussex 攻读博士,研究基于人类反馈的强化学习(RLHF);期间还曾访问 NYU,与 Ethan Perez、Sam Bowman 和 Kyunghyun Cho 合作研究。
Micah 是 OpenAI 安全团队的研究员,关注 AI 欺骗、可扩展监督和可监控性。他目前暂时离开加州大学伯克利分校的博士项目;该项目研究如何让 AI 与可影响其行为的人类对齐、强化学习训练可能导致的 AI 操纵,以及推荐系统的影响。
理想的学员具备扎实的 AI 研究和/或软件工程背景。学员可以是博士生,也可以开展能够纳入博士论文的研究项目。
我会与学员讨论项目想法。