Zainab 是 Asymmetric Security 的联合创始人。此前,她曾在 Stroz Friedberg 担任网络安全分析师,调查了过去十年中一些影响重大的网络安全事件,例如 Cambridge Analytica 事件。她还曾在 NeurIPS 发表关于 AI 网络安全评估的研究。Zainab 拥有牛津大学物理学硕士学位。
Damiano 是 LawZero 的研究科学家,负责研究 Scientist AI 背后的数学原理,以及用于评估情境意识和内省能力的可解释性与评估技术。
OIi(ver) 是一名计算机科学家,在 LawZero 任职,并在 Yoshua Bengio 指导下从事博士后研究。他的科学和数学知识面尤其广。
他很喜欢精彩的演示和宏大的统一理论——有时也因此忽略了实际可行性。过去几年(也就是在 Cornell 攻读博士期间),Oli 提出了一套优美的理论:许多经典和现代 AI,都可以理解为在消解一种自然的信息论度量,即认知上的不一致。虽然仍有许多问题尚待回答,但更清晰的理论框架有望帮助我们构建强大的通用 AI 系统,并通过从根本上避免形成有实质意义的目标或欲望来提升安全性。
Kristian Rönn 是 Lucid Computing 的首席执行官兼联合创始人,也是 Normative 的联合创始人和董事会成员。他的专业背景涵盖数学、哲学、计算机科学和 AI。创立 Normative 之前,他曾在 University of Oxford 的 Future of Humanity Institute 研究全球灾难性风险相关议题。
Sydney 在 METR 从事对抗性压力测试。她在斯坦福大学学习计算生物学,并共同创立了 Atlas Fellowship。
Mary 是 DeepMind 前沿安全团队失控防范小组的研究科学家,负责 AGI 控制(安全保障和监控)。她的工作包括确保内部部署的潜在不对齐模型即使有意图,也无法造成严重伤害或蓄意破坏。此前,她研究过与密谋相关的危险能力前兆(隐蔽性和情境意识),以及可能被灾难性滥用的能力,并为这些方向开发评估方法。
Miles Wang 是 OpenAI 的研究员,研究兴趣涵盖对齐、评估、推理和科学。2024 年 3 月加入 OpenAI 之前,他曾在哈佛大学学习计算机科学。
I like to make computers do interesting things, deeply understand concepts and build interesting, useful tools. I’m currently thinking about AI alignment, control, and evaluations, and work with frontier models at METR.
Recent work I've done involves [MALT](https://metr.org/blog/2025-10-14-malt-dataset-of-natural-and-prompted-behaviors/), [training models to fool monitors in QA settings](https://metr.org/notes/2025-10-06-early-results-on-monitorability-in-qa-settings/) and [RE-Bench](https://metr.org/blog/2024-11-22-evaluating-r-d-capabilities-of-llms/).
I've previously worked at Stripe and CSM, and did a concurrent BSc/MSc in Computer Science at Brown.
Fynn Heide 是 Safe AI Forum 的执行主任。此前,他在 Centre for the Governance of AI 担任研究学者,研究中国的 AI 政策。
MATS 项目是一项为期 10 周的研究奖学金计划,旨在培养和支持从事 AI 对齐、透明度和安全研究的新兴研究者。学员将与世界一流的导师合作,获得专门的研究管理支持,并加入位于伯克利、致力于推动安全、可靠 AI 发展的活跃社群。项目提供必要的架构、资源和指导,帮助学员产出有影响力的研究成果,并开启长期的 AI 安全职业生涯。
MATS 导师来自 AI 安全、对齐、治理、领域建设和系统安全等多个方向,都是各自领域的资深研究者。导师包括学界人士、业界研究人员及独立专家。他们会指导学员开展研究、提供反馈,并支持学员成长为研究者。导师的专业领域涵盖:
查看 往届及现任导师
关键日期
申请:
主项目将于 9 月 28 日至 12 月 4 日进行,获选学员的延展阶段将于 12 月开始。
MATS 欢迎来自不同学术和专业背景的申请者:从机器学习、数学和计算机科学,到政策、经济学、物理学、认知科学、生物学和公共卫生;也欢迎没有传统研究背景的创业者、运营人员和领域建设者。主要要求是对 AI 安全有强烈的贡献意愿,并展现出技术能力、研究潜力或相关运营经验。有 AI 安全相关经验会有所帮助,但并非必要条件。