Alignment Research Center(ARC)是一家位于加州伯克利的小型非营利研究机构,致力于系统性地从理论出发解释神经网络的行为。我们希望招募数学基础扎实、具备较强数学思维能力的学员。如果你对这篇博客 介绍的研究方向感兴趣,欢迎申请!
ARC 将指导符合其技术研究议程的项目,研究方向概述见我们的博客,例如这篇文章。
大多数项目以理论研究为主,可能包括开发机制性估计算法(例如估算 MLP 的期望输出),或为现有算法方案寻找反例。我们也关注一些高层次理论问题,例如各类广泛方法的能力边界。
少数项目也可能包含实证工作,例如实现已有算法并检验其表现;也可能探讨更偏哲学的问题,例如如何将我们的方法应用于构建对齐的 AI 系统。
SF Bay Area
Jacob Hilton 是 Alignment Research Center(ARC)的研究员。该非营利组织致力于机制可解释性的理论基础研究。他此前在 OpenAI 从事基于人类反馈的强化学习、缩放定律和可解释性研究。他拥有纯数学背景,并在英国 University of Leeds 获得集合论博士学位。
Wilson Wu 是对齐研究中心(Alignment Research Center,ARC)的研究员。该中心致力于以系统化、具有理论基础的方法开展机械可解释性研究。他此前还研究过其他可解释性方法,包括紧凑证明以及奇异学习理论的应用。
Victor Lecomte 是 Alignment Research Center(ARC)的研究员。ARC 正以系统且有理论依据的方法推进机械可解释性研究。他在斯坦福大学获得博士学位,曾研究计算复杂性及理论计算机科学的其他方向,之后转向 AI 安全研究。
Michael Winer 是 Alignment Research Center(ARC)的研究员,研究在简单实验环境中,机制性估计如何优于黑盒方法。他拥有统计物理学背景,研究大量遵循简单规则的对象如何呈现复杂行为,例如磁性、玻璃态,或在 GPQA 上考出 87% 的成绩。
必备条件:
优先考虑:
额外加分项:
我们会根据每位学员的技能和兴趣,为其匹配最合适的导师。导师将与学员讨论可能的项目,并结合 ARC 的研究目标和学员的偏好,共同确定最合适的方向。
大多数学员会在 ARC 期间参与多个项目,有些学员也会与多位导师合作。