MATS 导师正在拓展 AI 对齐、透明度和安全研究的前沿

Josh 是 Google DeepMind AGI 安全与对齐团队的研究科学家,目前从事后训练科学和对齐压力测试。此前,他在 Max Tegmark 的团队攻读博士,研究机制可解释性。

研究方向:
实证研究
AI Control and Monitoring, Interpretability

Anjay 在 RAND 从事 AI 政策研究,目前主要研究国际 AI 协议的核查,此前也关注过 AI 安全与应急响应。他曾在 Constellation 和 Redwood Research 工作,并在范德堡大学完成计算机科学学士学位。

研究方向:
系统安全
政策与治理、技术性 AI 治理、AI 系统安全

David Duvenaud is an Associate Professor in Computer Science and Statistics at the University of Toronto, who now works mainly on problems related to _civilizational alignment_, i.e. understanding what it will take to keep states and institutions aligned to human interests post-AGI. He holds a Sloan Research Fellowship, a Canada Research Chair in Generative Models, and a CIFAR AI chair. His postdoc was done at Harvard University and his Ph.D. at the University of Cambridge. He is a Founding Member of the Vector Institute for Artificial Intelligence. In 2023-2024 he did a sabbatical at Anthropic, leading their Alignment Evaluations team, as well as research projects on jailbreaks and sabotage. He's also a co-chair of the Schwartz Reisman Institute for Technology and Society, a director of the AI Safety Foundation, and an advisor to AVERI. He has also received a Google Faculty Award, and best paper awards at both the Neural Information Processing Systems (NeurIPS) conference and the International Conference on Machine Learning (ICML).

研究方向:
战略与预测
Capability and Propensity Evaluations, Forecasting and Strategy, Structural Risk and Societal Dynamics

Joe Torres 是 Active Site 的执行主任。Active Site 是一家非营利研究机构,通过现实环境中的实验研究前沿技术带来的生物风险。他目前关注 AI 与生物安全风险,包括通过随机对照试验测量 AI 对生物实验室工作表现的影响,以及研究生物风险中的脆弱点。在转向 AI 与生物安全风险之前,他在 Active Site 的工作包括广谱抗病毒药物和镜像生物学对策。Joe 获得了 UMass Amherst 分子与细胞生物学博士学位。

研究方向:
Biosecurity
Capability and Propensity Evaluations, Biosecurity

Miles Brundage 是 AVERI 的执行主任,负责制定组织的战略方向、领导团队并拓展合作关系,推动 AVERI 实现其使命:让 AI 系统的第三方审计切实有效并普及开来。此前,他在 OpenAI 领导政策研究和 AGI 准备团队;更早之前,他曾在 University of Oxford 的人类未来研究所担任研究员。除了领导 AVERI,Miles 还是 Institute for Progress 的非驻场高级研究员、Center for a New American Security 的 AI Governance Forum 成员、Epoch AI 和 RAND Corporation 的顾问,并定期在 Substack 撰文。Miles 于 2019 年获得 Arizona State University 科学与技术的人文及社会维度博士学位;攻读研究生之前,他曾在美国能源部高级研究计划局能源部(ARPA-E)工作。

研究方向:
政策与治理
Policy and Governance, Technical AI Governance, Forecasting and Strategy, Structural Risk and Societal Dynamics

Dave 是 Institute for AI Policy and Strategy(IAPS)的研究员,致力于降低权力过度集中的风险。近期,他在思考如何为 AGI 时代完善制衡机制、如何自动监督政府部署的 AI,以及如何塑造政府所用 AI 系统的特性。他此前的工作包括分析前沿 AI 模型可能存在的隐秘忠诚倾向,并制定相应的安全标准。他曾任 ERA 研究经理,也做过安全工程师。Dave 拥有 Columbia University 计算机科学学士学位,专攻密码学、逆向工程和机器学习。

研究方向:
政策与治理
Policy and Governance, Technical AI Governance, Structural Risk and Societal Dynamics, AI Systems Security

Owain 长期关注 AI 对齐和降低 AGI 风险。目前,他正在研究危险能力、大型语言模型(LLM)中不对齐行为的出现、自我意识和潜在推理。他此前研究过 AI 欺骗(《如何识破 AI 谎言》)、真实性(TruthfulQA)和“反转诅咒”。Owain 在伯克利 Constellation 创办并运营一家独立的 AI 安全非营利组织。他曾在 University of Oxford 和 Ought 工作,并通过 MATS 等项目指导过 30 多位初级 AI 安全研究者。

研究方向:
实证研究
Capability and Propensity Evaluations, Misalignment Science

Patricia Paskov 是 AVERI 标准事务主任、RAND 特邀研究员,也是 Oxford Martin AI Governance Initiative 的研究附属成员。她关于前沿 AI 评估和治理的研究发表于 ICML、Science、FAccT 等机器学习顶级学术刊物,以及 Carnegie、RAND、世界银行等政策平台,并受到 Al Jazeera、Financial Times、Fortune、MIT Technology Review China 和 TIME 等媒体报道。她负责撰写《2026 年国际 AI 安全报告》的韧性章节,共同创立 NYC AI Governance & Safety,并担任 International Programme on AI Evaluation 的教员。截至 2026 年秋季,她是 University of Oxford 工程科学专业的 DPhil 博士候选人。此前,她曾在 Condé Nast 构建机器学习模型,并与世界银行和 Innovations for Poverty Action 合作设计大规模随机对照试验。她先后在 University of Wisconsin–Madison、Barcelona School of Economics 和 European University Institute 修读经济学。

研究方向:
政策与治理
Capability and Propensity Evaluations, Policy and Governance, Technical AI Governance, Biosecurity
Chris Ganje
Fourth Eon Biosecurity
,
联合创始人兼执行主任
—

Chris Ganje 是 Fourth Eon Biosecurity 的联合创始人兼执行主任,负责战略、技术开发和部署。他在前沿技术、公共政策和全球安全的交叉领域工作了二十年。创立 Fourth Eon 之前,他从事了三年私募股权投资;此前,他共同创立并发展了 AMPLYFI——一家与国防机构合作的风险投资支持型 AI 公司。他还曾在 BP 负责颠覆性技术评估和欧洲能源技术政策。Chris 担任 DARPA SWITCH 工作组顾问、Innovate UK 委员会成员、Renaissance Philanthropy 的 Big if True Science 项目研究员,以及 University of Cambridge Centre for Science and Policy 的研究员。他拥有 SUNY New Paltz 历史学学士学位和 University of Edinburgh 政治学硕士学位。

研究方向:
Biosecurity
Capability and Propensity Evaluations, Policy and Governance, Biosecurity

Sambhav 是 IAPS 前沿安全团队的研究助理,研究重点包括国防和国家安全领域的 AI 部署、内部部署模型的标准,以及威胁建模。

  

加入 IAPS 之前,Sambhav 曾任 Cambridge AI Safety Hub 联合主任,并负责运营 MARS(面向对齐研究学生的导师计划)。

研究方向:
政策与治理
Capability and Propensity Evaluations, Policy and Governance, Technical AI Governance

常见问题解答

什么是 MATS 项目?
MATS 导师是谁?
MATS 项目的关键日期有哪些?
谁有资格申请?
申请和导师选择流程是怎样的?