Alignment Research Center (ARC)

Alignment Research Center(ARC)是一家位于加州伯克利的小型非营利研究机构,致力于系统性地从理论出发解释神经网络的行为。我们希望招募数学基础扎实、具备较强数学思维能力的学员。如果你对这篇博客 介绍的研究方向感兴趣,欢迎申请!

研究小组概览

ARC 将指导符合其技术研究议程的项目,研究方向概述见我们的博客,例如这篇文章。

​

大多数项目以理论研究为主,可能包括开发机制性估计算法(例如估算 MLP 的期望输出),或为现有算法方案寻找反例。我们也关注一些高层次理论问题,例如各类广泛方法的能力边界。

​

少数项目也可能包含实证工作,例如实现已有算法并检验其表现;也可能探讨更偏哲学的问题,例如如何将我们的方法应用于构建对齐的 AI 系统。

项目期间的工作地点:

SF Bay Area

导师

Jacob Hilton
Alignment Research Center (ARC)
,
研究副总裁
Interpretability
Theoretical Alignment and Formal Methods

Jacob Hilton 是 Alignment Research Center(ARC)的研究员。该非营利组织致力于机制可解释性的理论基础研究。他此前在 OpenAI 从事基于人类反馈的强化学习、缩放定律和可解释性研究。他拥有纯数学背景,并在英国 University of Leeds 获得集合论博士学位。

阅读更多
Wilson Wu
ARC
,
研究员
Interpretability
Theoretical Alignment and Formal Methods

Wilson Wu 是对齐研究中心(Alignment Research Center,ARC)的研究员。该中心致力于以系统化、具有理论基础的方法开展机械可解释性研究。他此前还研究过其他可解释性方法,包括紧凑证明以及奇异学习理论的应用。

阅读更多
Interpretability
Theoretical Alignment and Formal Methods

Victor Lecomte 是 Alignment Research Center(ARC)的研究员。ARC 正以系统且有理论依据的方法推进机械可解释性研究。他在斯坦福大学获得博士学位,曾研究计算复杂性及理论计算机科学的其他方向,之后转向 AI 安全研究。

阅读更多
Interpretability
Theoretical Alignment and Formal Methods

Michael Winer 是 Alignment Research Center(ARC)的研究员,研究在简单实验环境中,机制性估计如何优于黑盒方法。他拥有统计物理学背景,研究大量遵循简单规则的对象如何呈现复杂行为,例如磁性、玻璃态,或在 GPQA 上考出 87% 的成绩。

阅读更多
Paul Christiano
Alignment Research Center
,
技术顾问
Interpretability
AI Control and Monitoring
Theoretical Alignment and Formal Methods
Capability and Propensity Evaluations
AI 技术治理

我是 Alignment Research Center 的执行主任,也担任 NIST 下属 Center for AI Standards and Innovation 的技术顾问。此前,我负责 OpenAI 的语言模型对齐团队。再之前,我在加州大学伯克利分校获得统计学习理论博士学位。

你可能会对我关于对齐的文章、博客、学术论文,或趣味项目感兴趣。

阅读更多

我们希望招收的学员

必备条件:

  • 具备扎实的数学思维能力,拥有数学、物理或计算机科学背景,达到顶尖大学优秀本科生的水平
  • 善于沟通技术问题
  • 有兴趣参与 ARC 更高层次的研究议程
  • 可能有兴趣在 2027 年 9 月前加入 ARC 全职工作

​

优先考虑:

  • 能够在问题尚未正式定义时开展有效研究
  • 愿意在 ARC 位于伯克利的办公室工作

​

额外加分项:

  • 具备机器学习理论和/或理论计算机科学背景
  • 有基本的机器学习工程经验,例如在小型神经网络上运行实验

项目遴选

我们会根据每位学员的技能和兴趣,为其匹配最合适的导师。导师将与学员讨论可能的项目,并结合 ARC 的研究目标和学员的偏好,共同确定最合适的方向。

​

大多数学员会在 ARC 期间参与多个项目,有些学员也会与多位导师合作。