Alignment Research Center(ARC)是一家位于加州伯克利的小型非营利研究机构,致力于系统性地从理论出发解释神经网络的行为。我们希望招募数学基础扎实、具备较强数学思维能力的学员。如果你对这篇博客 介绍的研究方向感兴趣,欢迎申请!
ARC 将指导符合我们技术研究议程的项目,研究议程详见此处。项目方向可能包括:
SF Bay Area
Eric Neyman 是 Alignment Research Center(ARC)的研究员。ARC 正以系统且有理论依据的方法推进机械可解释性研究。加入 ARC 之前,他在哥伦比亚大学攻读博士,研究算法贝叶斯认识论。
Wilson Wu 是对齐研究中心(Alignment Research Center,ARC)的研究员。该中心致力于以系统化、具有理论基础的方法开展机械可解释性研究。他此前还研究过其他可解释性方法,包括紧凑证明以及奇异学习理论的应用。
Victor Lecomte 是 Alignment Research Center(ARC)的研究员。ARC 正以系统且有理论依据的方法推进机械可解释性研究。他在斯坦福大学获得博士学位,曾研究计算复杂性及理论计算机科学的其他方向,之后转向 AI 安全研究。
George Robinson 是一名独立研究员,曾在 Alignment Research Center(ARC)工作,致力于以系统且有理论依据的方法开展机械可解释性研究。他目前希望在伦敦带领一支团队推进这一方向。此前,他在牛津大学攻读博士,专攻代数数论。他现居伦敦,也是 London Initiative for Safe AI(LISA)的成员。
Jacob Hilton 是 Alignment Research Center(ARC)的研究员。该非营利组织致力于机制可解释性的理论基础研究。他此前在 OpenAI 从事基于人类反馈的强化学习、缩放定律和可解释性研究。他拥有纯数学背景,并在英国 University of Leeds 获得集合论博士学位。
Michael Winer 是 Alignment Research Center(ARC)的研究员,研究在简单实验环境中,机制性估计如何优于黑盒方法。他拥有统计物理学背景,研究大量遵循简单规则的对象如何呈现复杂行为,例如磁性、玻璃态,或在 GPQA 上考出 87% 的成绩。
必备条件:
优先考虑:
我们会根据每位学员的技能和兴趣,为其匹配最合适的导师。导师将与学员讨论可能的项目,并结合 ARC 的研究目标和学员的偏好,共同确定最合适的方向。
大多数学员会在 ARC 期间参与多个项目,有些学员也会与多位导师合作。