MATS 导师正在拓展 AI 对齐、透明度和安全研究的前沿

Zainab 是 Asymmetric Security 的联合创始人。此前,她曾在 Stroz Friedberg 担任网络安全分析师,调查了过去十年中一些影响重大的网络安全事件,例如 Cambridge Analytica 事件。她还曾在 NeurIPS 发表关于 AI 网络安全评估的研究。Zainab 拥有牛津大学物理学硕士学位。

研究方向:
系统安全
Capability and Propensity Evaluations, AI Systems Security
Damiano Fornasiere
LawZero
,
高级 AI 安全研究科学家
—

Damiano 是 LawZero 的研究科学家,负责研究 Scientist AI 背后的数学原理,以及用于评估情境意识和内省能力的可解释性与评估技术。

研究方向:
实证研究
Capability and Propensity Evaluations, Misalignment Science, Agent Foundations, Theoretical Alignment and Formal Methods
Oliver Richardson (Oli)
LawZero, Université de Montréal
,
高级机器学习研究科学家(LawZero)/博士后研究员(蒙特利尔大学)
—

OIi(ver) 是一名计算机科学家,在 LawZero 任职,并在 Yoshua Bengio 指导下从事博士后研究。他的科学和数学知识面尤其广。

​

他很喜欢精彩的演示和宏大的统一理论——有时也因此忽略了实际可行性。过去几年(也就是在 Cornell 攻读博士期间),Oli 提出了一套优美的理论:许多经典和现代 AI,都可以理解为在消解一种自然的信息论度量,即认知上的不一致。虽然仍有许多问题尚待回答,但更清晰的理论框架有望帮助我们构建强大的通用 AI 系统,并通过从根本上避免形成有实质意义的目标或欲望来提升安全性。

研究方向:
实证研究
AI Control and Monitoring, Agent Foundations, Theoretical Alignment and Formal Methods

Kristian Rönn 是 Lucid Computing 的首席执行官兼联合创始人,也是 Normative 的联合创始人和董事会成员。他的专业背景涵盖数学、哲学、计算机科学和 AI。创立 Normative 之前,他曾在 University of Oxford 的 Future of Humanity Institute 研究全球灾难性风险相关议题。

研究方向:
系统安全
Technical AI Governance, Structural Risk and Societal Dynamics, AI Systems Security
Sydney Von Arx
Nightingale
,
创始人兼首席执行官
—

Sydney 在 METR 从事对抗性压力测试。她在斯坦福大学学习计算生物学,并共同创立了 Atlas Fellowship。

研究方向:
实证研究
AI 控制与监测、能力与倾向评估、失准研究

Mary 是 DeepMind 前沿安全团队失控防范小组的研究科学家,负责 AGI 控制(安全保障和监控)。她的工作包括确保内部部署的潜在不对齐模型即使有意图,也无法造成严重伤害或蓄意破坏。此前,她研究过与密谋相关的危险能力前兆(隐蔽性和情境意识),以及可能被灾难性滥用的能力,并为这些方向开发评估方法。

研究方向:
实证研究
AI Control and Monitoring, Capability and Propensity Evaluations, Misalignment Science
Miles Wang
OpenAI
,
技术团队成员
—

Miles Wang 是 OpenAI 的研究员,研究兴趣涵盖对齐、评估、推理和科学。2024 年 3 月加入 OpenAI 之前,他曾在哈佛大学学习计算机科学。

研究方向:
实证研究
AI Control and Monitoring, Capability and Propensity Evaluations, Adversarial Robustness and Safeguards, Misalignment Science, Biosecurity

Arthur Conmy 是 Anthropic 的技术团队成员。他关注自动化可解释性研究、发现电路,以及如何将模型内部分析技术用于 AI 安全,尤其是结合稀疏自编码器的研究。此前,他曾在 Google DeepMind 和 Redwood Research 工作,也参加过 MATS 项目。

研究方向:
实证研究
AI Control and Monitoring, Alignment Training Methods, Interpretability
Neev Parikh
METR
,
技术团队成员
—

I like to make computers do interesting things, deeply understand concepts and build interesting, useful tools. I’m currently thinking about AI alignment, control, and evaluations, and work with frontier models at METR.

​

Recent work I've done involves [MALT](https://metr.org/blog/2025-10-14-malt-dataset-of-natural-and-prompted-behaviors/), [training models to fool monitors in QA settings](https://metr.org/notes/2025-10-06-early-results-on-monitorability-in-qa-settings/) and [RE-Bench](https://metr.org/blog/2024-11-22-evaluating-r-d-capabilities-of-llms/).

​

I've previously worked at Stripe and CSM, and did a concurrent BSc/MSc in Computer Science at Brown.

研究方向:
实证研究
AI Control and Monitoring, Capability and Propensity Evaluations, Misalignment Science

Fynn Heide 是 Safe AI Forum 的执行主任。此前,他在 Centre for the Governance of AI 担任研究学者,研究中国的 AI 政策。

研究方向:
政策与治理
Policy and Governance, Technical AI Governance

常见问题解答

什么是 MATS 项目?
MATS 导师是谁?
MATS 项目的关键日期有哪些?
谁有资格申请?
申请和导师选择流程是怎样的?