MATS 导师正在拓展 AI 对齐、透明度和安全研究的前沿

Cody 是 Redwood Research 的技术团队成员,研究 AI 安全。

研究方向:
实证研究
AI Control and Monitoring, Forecasting and Strategy, Interpretability
Micah Carroll
OpenAI
,
安全系统技术团队成员
—

Micah 是 OpenAI 安全团队的研究员,关注 AI 欺骗、可扩展监督和可监控性。他目前暂时离开加州大学伯克利分校的博士项目;该项目研究如何让 AI 与可影响其行为的人类对齐、强化学习训练可能导致的 AI 操纵,以及推荐系统的影响。

研究方向:
实证研究
AI Control and Monitoring, Capability and Propensity Evaluations, Misalignment Science, Alignment Training Methods, Structural Risk and Societal Dynamics
Robert Kirk
UK AISI
,
研究科学家
—

Robert 是研究科学家,也是英国 AI 安全研究所(UK AISI)对齐红队测试小组的代理负责人。该团队通过压力测试模型对齐,发现并理解可能导致失控风险的模型倾向。此前,他主要从事滥用研究,评估防护措施和降低滥用风险的方法,尤其关注开放权重系统。2025 年 1 月,他在 University College London 完成博士学位,研究 LLM 微调和强化学习智能体的泛化能力。

研究方向:
实证研究
Capability and Propensity Evaluations, Adversarial Robustness and Safeguards, Misalignment Science

Alex Souly 是英国 AI 安全研究所红队的研究员,负责前沿 LLM 的安全与防护。她参与了部署前评估,以及针对滥用防护措施和对齐的红队测试(可参阅 Anthropic 和 OpenAI 的博客文章),也参与开发了 StrongReject 和 AgentHarm 等开源评估工具。此前,她在 Cambridge 学习数学,在 UCL Dark Lab 学习机器学习,曾在 CHAI 实习;更早之前,她还曾在 Microsoft 担任软件工程师。

研究方向:
实证研究
AI Control and Monitoring, Capability and Propensity Evaluations, Adversarial Robustness and Safeguards, Misalignment Science, AI Systems Security
Eric Winsor
UK AISI
,
研究工程师
—

Eric Winsor 是英国 AI 安全研究所(UK AI Security Institute)的研究科学家,参与对前沿 AI 模型安全防护措施进行对抗性测试。他在密歇根大学获得计算机工程理学学士学位。

研究方向:
实证研究
AI 控制与监测、能力与倾向评估、对抗鲁棒性与安全防护

Romeo 正与 AI 未来项目合作,预测详细的 AI 发展情景并制定政策建议。他主要关注算力与安全领域的预测。此前,他曾是 IAPS 政策研究员,并在哈佛大学同时攻读计算机科学硕士学位,研究方向为系统与硬件。

研究方向:
战略与预测
Policy and Governance, Technical AI Governance, Forecasting and Strategy, Structural Risk and Societal Dynamics, AI Systems Security
Patrick Butlin
Eleos
,
高级研究负责人
—

我是一名心灵哲学家,也是 Eleos AI 的研究员,主要研究 AI 意识、能动性与福祉。加入 Eleos 之前,我曾在牛津的 Future of Humanity Institute 和 Global Priorities Institute 工作。我关注的课题包括:探讨道德地位依据的纯哲学研究;借助认知科学,从机制层面理解感知能力与能动性的研究;以及能够揭示 AI 中与福祉相关特征的实证研究。

研究方向:
Theory
AI Welfare
Matthew Gentzel
Longview Philanthropy
,
核武器政策项目官员
—

Matthew Gentzel is a Nuclear Weapons Policy Program Officer at Longview Philanthropy where he works on grantmaking and priorities research related to reducing the risk of large-scale nuclear war. Roughly half of his grantmaking budget concentrates on AI and emerging tech-related nuclear risk issues, where he investigates risks and opportunities related to AI-enabled targeting, information manipulation, and how perceptions of future AI capability impact escalation control in the near-term.

​

His prior work spanned emerging technology threat and policy assessment, with a particular focus on how advancements in AI may shape the future of influence operations, nuclear strategy, and cyber attacks. He has worked as a policy researcher with OpenAI, as an analyst in the US Department of Defense’s Innovation Steering Group, and as a director of research and analysis at the US National Security Commission on Artificial Intelligence.

​

Mr. Gentzel holds an MA in strategic studies and international economics from Johns Hopkins School of Advanced International Studies, and a BS in fire protection engineering from the University of Maryland College Park.

研究方向:
政策与治理
Policy and Governance, Forecasting and Strategy, Structural Risk and Societal Dynamics

Wilson Wu 是对齐研究中心(Alignment Research Center,ARC)的研究员。该中心致力于以系统化、具有理论基础的方法开展机械可解释性研究。他此前还研究过其他可解释性方法,包括紧凑证明以及奇异学习理论的应用。

研究方向:
Theory
Interpretability, Theoretical Alignment and Formal Methods

Giorgi Giglemiani 在英国 AI 安全研究所工作,并与他人合著了《Boundary Point Jailbreaking》。此前,他在 LASR Labs 研究由稀疏自编码器潜变量构成的合成激活。

研究方向:
实证研究
Capability and Propensity Evaluations, Adversarial Robustness and Safeguards, Interpretability

常见问题解答

什么是 MATS 项目?
MATS 导师是谁?
MATS 项目的关键日期有哪些?
谁有资格申请?
申请和导师选择流程是怎样的?