Josh 是 Google DeepMind AGI 安全与对齐团队的研究科学家,目前从事后训练科学和对齐压力测试。此前,他在 Max Tegmark 的团队攻读博士,研究机制可解释性。
Anjay 在 RAND 从事 AI 政策研究,目前主要研究国际 AI 协议的核查,此前也关注过 AI 安全与应急响应。他曾在 Constellation 和 Redwood Research 工作,并在范德堡大学完成计算机科学学士学位。
David Duvenaud is an Associate Professor in Computer Science and Statistics at the University of Toronto, who now works mainly on problems related to _civilizational alignment_, i.e. understanding what it will take to keep states and institutions aligned to human interests post-AGI. He holds a Sloan Research Fellowship, a Canada Research Chair in Generative Models, and a CIFAR AI chair. His postdoc was done at Harvard University and his Ph.D. at the University of Cambridge. He is a Founding Member of the Vector Institute for Artificial Intelligence. In 2023-2024 he did a sabbatical at Anthropic, leading their Alignment Evaluations team, as well as research projects on jailbreaks and sabotage. He's also a co-chair of the Schwartz Reisman Institute for Technology and Society, a director of the AI Safety Foundation, and an advisor to AVERI. He has also received a Google Faculty Award, and best paper awards at both the Neural Information Processing Systems (NeurIPS) conference and the International Conference on Machine Learning (ICML).
Joe Torres 是 Active Site 的执行主任。Active Site 是一家非营利研究机构,通过现实环境中的实验研究前沿技术带来的生物风险。他目前关注 AI 与生物安全风险,包括通过随机对照试验测量 AI 对生物实验室工作表现的影响,以及研究生物风险中的脆弱点。在转向 AI 与生物安全风险之前,他在 Active Site 的工作包括广谱抗病毒药物和镜像生物学对策。Joe 获得了 UMass Amherst 分子与细胞生物学博士学位。
Miles Brundage 是 AVERI 的执行主任,负责制定组织的战略方向、领导团队并拓展合作关系,推动 AVERI 实现其使命:让 AI 系统的第三方审计切实有效并普及开来。此前,他在 OpenAI 领导政策研究和 AGI 准备团队;更早之前,他曾在 University of Oxford 的人类未来研究所担任研究员。除了领导 AVERI,Miles 还是 Institute for Progress 的非驻场高级研究员、Center for a New American Security 的 AI Governance Forum 成员、Epoch AI 和 RAND Corporation 的顾问,并定期在 Substack 撰文。Miles 于 2019 年获得 Arizona State University 科学与技术的人文及社会维度博士学位;攻读研究生之前,他曾在美国能源部高级研究计划局能源部(ARPA-E)工作。
Dave 是 Institute for AI Policy and Strategy(IAPS)的研究员,致力于降低权力过度集中的风险。近期,他在思考如何为 AGI 时代完善制衡机制、如何自动监督政府部署的 AI,以及如何塑造政府所用 AI 系统的特性。他此前的工作包括分析前沿 AI 模型可能存在的隐秘忠诚倾向,并制定相应的安全标准。他曾任 ERA 研究经理,也做过安全工程师。Dave 拥有 Columbia University 计算机科学学士学位,专攻密码学、逆向工程和机器学习。
Owain 长期关注 AI 对齐和降低 AGI 风险。目前,他正在研究危险能力、大型语言模型(LLM)中不对齐行为的出现、自我意识和潜在推理。他此前研究过 AI 欺骗(《如何识破 AI 谎言》)、真实性(TruthfulQA)和“反转诅咒”。Owain 在伯克利 Constellation 创办并运营一家独立的 AI 安全非营利组织。他曾在 University of Oxford 和 Ought 工作,并通过 MATS 等项目指导过 30 多位初级 AI 安全研究者。
Patricia Paskov 是 AVERI 标准事务主任、RAND 特邀研究员,也是 Oxford Martin AI Governance Initiative 的研究附属成员。她关于前沿 AI 评估和治理的研究发表于 ICML、Science、FAccT 等机器学习顶级学术刊物,以及 Carnegie、RAND、世界银行等政策平台,并受到 Al Jazeera、Financial Times、Fortune、MIT Technology Review China 和 TIME 等媒体报道。她负责撰写《2026 年国际 AI 安全报告》的韧性章节,共同创立 NYC AI Governance & Safety,并担任 International Programme on AI Evaluation 的教员。截至 2026 年秋季,她是 University of Oxford 工程科学专业的 DPhil 博士候选人。此前,她曾在 Condé Nast 构建机器学习模型,并与世界银行和 Innovations for Poverty Action 合作设计大规模随机对照试验。她先后在 University of Wisconsin–Madison、Barcelona School of Economics 和 European University Institute 修读经济学。
Chris Ganje 是 Fourth Eon Biosecurity 的联合创始人兼执行主任,负责战略、技术开发和部署。他在前沿技术、公共政策和全球安全的交叉领域工作了二十年。创立 Fourth Eon 之前,他从事了三年私募股权投资;此前,他共同创立并发展了 AMPLYFI——一家与国防机构合作的风险投资支持型 AI 公司。他还曾在 BP 负责颠覆性技术评估和欧洲能源技术政策。Chris 担任 DARPA SWITCH 工作组顾问、Innovate UK 委员会成员、Renaissance Philanthropy 的 Big if True Science 项目研究员,以及 University of Cambridge Centre for Science and Policy 的研究员。他拥有 SUNY New Paltz 历史学学士学位和 University of Edinburgh 政治学硕士学位。
Sambhav 是 IAPS 前沿安全团队的研究助理,研究重点包括国防和国家安全领域的 AI 部署、内部部署模型的标准,以及威胁建模。
加入 IAPS 之前,Sambhav 曾任 Cambridge AI Safety Hub 联合主任,并负责运营 MARS(面向对齐研究学生的导师计划)。
MATS 项目是一项为期 10 周的研究奖学金计划,旨在培养和支持从事 AI 对齐、透明度和安全研究的新兴研究者。学员将与世界一流的导师合作,获得专门的研究管理支持,并加入位于伯克利、致力于推动安全、可靠 AI 发展的活跃社群。项目提供必要的架构、资源和指导,帮助学员产出有影响力的研究成果,并开启长期的 AI 安全职业生涯。
MATS 导师来自 AI 安全、对齐、治理、领域建设和系统安全等多个方向,都是各自领域的资深研究者。导师包括学界人士、业界研究人员及独立专家。他们会指导学员开展研究、提供反馈,并支持学员成长为研究者。导师的专业领域涵盖:
查看 往届及现任导师
关键日期
申请:
主项目将于 9 月 28 日至 12 月 4 日进行,获选学员的延展阶段将于 12 月开始。
MATS 欢迎来自不同学术和专业背景的申请者:从机器学习、数学和计算机科学,到政策、经济学、物理学、认知科学、生物学和公共卫生;也欢迎没有传统研究背景的创业者、运营人员和领域建设者。主要要求是对 AI 安全有强烈的贡献意愿,并展现出技术能力、研究潜力或相关运营经验。有 AI 安全相关经验会有所帮助,但并非必要条件。