Roger Grosse

Roger Grosse 的研究方向是改进影响函数和其他训练数据归因方法,并利用这些工具研究与对齐相关的现象,例如脱离情境的推理和涌现错位。理想的学员熟悉 LLM 内部机制,具备扎实的统计学或应用数学基础(尤其是数值线性代数),并能独立推动研究,从梳理文献、开展实验到分析结果都能胜任。Roger 会提供可直接启动的项目,同时也允许表现突出的学员自主推进感兴趣的想法,并欢迎学员彼此合作。

研究小组概览

改进影响函数和其他训练数据归因方法,或利用训练数据归因来理解与对齐相关的现象,例如脱离情境的推理和涌现错位。

项目期间的工作地点:

Toronto

导师

Roger Grosse
Anthropic, University of Toronto
,
副教授
Interpretability
Misalignment Science
对齐训练方法
对抗鲁棒性与安全防护

Roger Grosse 是 University of Toronto 的计算机科学副教授,也是 Anthropic 对齐科学团队成员,研究训练数据归因。他在 MIT 获得计算机科学博士学位。

阅读更多

我们希望招收的学员

  • 有 LLM 模型内部机制方面的经验
  • 统计学和/或应用数学基础扎实,尤其是数值线性代数
  • 能够在数周内独立完成研究,包括阅读文献、提出并开展实验、解读结果
  • 愿意深入细节,找出各种现象背后的根本原因

项目遴选

我会根据学员的准备程度给予相应的研究自主权。我会准备好聚焦且可直接启动的项目;如果学员能力突出、已有明确且感兴趣的研究方向,也可以灵活地推进自己的想法。