Roger Grosse

Roger Grosse 的研究方向是改进影响函数和其他训练数据归因方法,并利用这些工具研究与对齐相关的现象,例如脱离情境的推理和涌现错位。理想的学员熟悉 LLM 内部机制,具备扎实的统计学或应用数学基础(尤其是数值线性代数),并能独立推动研究,从文献梳理、实验设计到结果分析都能胜任。Roger 会提供可直接启动的项目,同时也鼓励表现突出的学员提出并推进自己的研究想法;学员也可以与他人合作。

研究小组概览

改进影响函数及其他训练数据归因方法,或利用训练数据归因来理解与对齐相关的现象,例如脱离情境的推理和涌现错位。

导师指导方式:

Standard (1-2 hours of weekly 1:1s)

伦敦办公偏好:

Indifferent

伯克利办公偏好:

Weak preference

导师

Roger Grosse
Anthropic, University of Toronto
,
副教授
Interpretability
Misalignment Science
对齐训练方法
对抗鲁棒性与安全防护

Roger Grosse 是 University of Toronto 的计算机科学副教授,也是 Anthropic 对齐科学团队成员,研究训练数据归因。他在 MIT 获得计算机科学博士学位。

阅读更多

我们希望招收的学员

  • 有 LLM 模型内部机制方面的经验
  • 统计学和/或应用数学基础扎实,尤其是数值线性代数
  • 能够在数周内独立完成研究,包括阅读文献、提出并开展实验、解读结果
  • 愿意深入细节,找出各种现象背后的根本原因

项目遴选

我会根据学员的准备程度给予相应的研究自主权。我会准备好聚焦且可直接启动的项目;如果学员能力突出、已有明确且感兴趣的研究方向,也可以灵活地推进自己的想法。