在 AI 安全研究中找到适合你的方向

MATS 学员在七个方向开展研究,涵盖技术研究、治理、生物安全、战略、理论、系统安全和领域建设。浏览各方向,了解学员的研究内容、适合人群和申请方式。

2027 年冬季班研究方向

查看 MATS 2027 年冬季班的研究方向及其研究组。

创业与领域建设

AI 安全需要快速扩大规模,而瓶颈正日益转向组织建设。本方向面向希望创办 AI 安全机构或项目的创业者、领域建设者和积极主动的通才,并由相关领域的创业者、现任 CEO 与项目负责人提供指导。

查看方向
Juniper Ventures
Dewi Erwan (BlueDot Impact)
Rosie Campbell (Eleos)
Ross Matican & Mike McCormick (Halcyon Futures)
Alex Holness-Tofts (Resolution)

实证研究

通过机器学习实验开展实践研究,以理解并提升模型安全性,涵盖 AI 控制、可解释性、可扩展监督、评估、红队测试和鲁棒性。

查看方向
David Africa
Michael Chen
David Lindner
Patrick Butlin
Oliver Crook
Maksym Andriushchenko
Transluce
SecureBio AI
Team Shard
Redwood Research
Apollo Research - Monitors
Tomek Korbak
Sunishchal Dev
Fourth Eon Biosecurity
LILA (David Peinador Veiga)
Anthropic
Alfie Lamerton & Joe Kwon
Truthful AI
Roger Grosse
Caspar Oesterheld (Redwood, conceptual reasoning capabilities)
Neel Nanda
Joshua Engels
Victoria Krakovna
Apollo Research - Science of Scheming
Daniel Kang

政策与治理

研究先进 AI 应该如何治理,涵盖治理机制、监管与制度分析,以及让治理措施得以执行的技术系统。

查看方向
Dave Banerjee
Safe AI Forum
Matthew Gentzel
Mauricio Baker, Anjay Friedman
McKenna Fitzgerald
Michael Chen
Patricia Paskov & Miles Brundage (AVERI)
TAIGR
Luke Drago, Rudolf Laine
FAI AI Team
Sambhav Maheshwari, Jan Wehner
Peter Wildeford

Biosecurity

在先进 AI 重塑世界的背景下,研究灾难性生物风险。领域包括病原体检测、医疗对策、合成筛查、实体生物防御、威胁建模,以及通过红队测试识别生物 AI 的危险能力。

查看方向
Oliver Crook
Active Site
SecureBio AI
Damon Binder
Sebastian Oehm, Askar Kleefeldt
Aman Patel, Adin Richards
Sunishchal Dev
Fourth Eon Biosecurity
LILA (David Peinador Veiga)
Sentinel Bio - Toby Webster - AIxBio

战略与预测

研究 AI 发展可能如何演变,以及这对长期安全意味着什么。涵盖发展时间线、能力跃迁动态、风险建模和 AI 发展轨迹的战略分析。

查看方向
Dave Banerjee
Civilizational Alignment
AI Futures Project
Damon Binder
Luke Drago, Rudolf Laine

Theory

研究先进 AI 系统中能动性、对齐与安全推理所依赖的数学和哲学基础。

查看方向
Abram Demski
Caspar Oesterheld (Redwood, conceptual reasoning capabilities)
Alignment Research Center (ARC)
Patrick Butlin
Richard Ngo

系统安全

研究先进 AI 所依赖基础设施的软件与硬件安全,包括侧信道分析、集群安全、模型权重保护和物理层验证。

查看方向
Gabriel Kulp
Lisa Thiergart, Luis Cosio, Guy (SL5 Task Force)
Mauricio Baker, Anjay Friedman
Daniel Kang