MATS 2026 年夏季项目
2026 年夏季项目将于 6 月至 8 月举行，这将是 MATS 迄今规模最大的一届，共有 120 位学员和 100 位导师。学员将与导师或机构研究团队合作，围绕研究项目开展整个夏季的工作，合作方包括 Anthropic 对齐科学团队、UK AISI、Redwood Research、ARC 和 LawZero。部分学员将获邀参加为期 6 个月以上的延长期，继续这项合作。
目前已截止申请。
项目阶段
申请与招生流程中的关键阶段
申请通常会在项目开始前几个月开放。申请者需完成多阶段招生流程，首先提交通用申请。根据所选研究方向、研究小组和导师，申请者可能还需参加面试、工作测试、编程评估或提交写作样本，之后才会作出最终录取决定。
每个 MATS 研究小组都由学员和导师组成，围绕共同的研究议程开展工作。各小组的方法和重点各不相同，涵盖可解释性、控制、评估、治理、网络安全和智能体基础等主题。
Neel 以务实的方式开展可解释性研究：先找出当前状态与 AGI 到来前希望达到的目标之间的差距，再聚焦于其中能够用当今模型切实研究的问题。研究可以深入分析模型内部机制，也可以采用更简单的黑盒方法，例如阅读并谨慎干预思维链，具体取决于问题本身。项目可能包括检测欺骗、理解模型为何采取看似令人担忧的行动，或利用可解释性解决其他安全领域的薄弱环节，例如防止模型意识到自己正在接受测试。你可以在这期播客中进一步了解 Neel 的研究思路。
他已经指导了大约 60 位 MATS 学员，投入了不少时间，也很期待继续指导更多学员！
本研究方向聚焦 AI 控制的实证研究，包括防范 AI 驱动的数据投毒、评估和攻击思维链的可监测性，以及其他监测和红队测试项目。适合已经关注 AI 安全、熟练使用 Python 的申请者；如果还有研究经验，或熟悉控制领域的文献与工具（如 Inspect／ControlArena），则更理想。
构建贴近现实的防御性网络安全基准。Asymmetric Security 会应对真实网络事件，因此掌握着公开领域中无法获取的数据。我们希望与 MATS 学员合作，利用这些真实事件构建实用基准。
Alignment Research Center（ARC）是一家位于加州伯克利的小型非营利研究机构，致力于系统性地从理论出发解释神经网络的行为。我们希望招募数学基础扎实、具备较强数学思维能力的学员。如果你对这篇博客 介绍的研究方向感兴趣，欢迎申请！
多位导师共同组成这个“联合研究方向”。研究涵盖 LLM AI 安全的多个实证领域，包括 AI 控制、可扩展监督、模型生物、模型内部机制、模型福利与安全等。导师会介绍各自希望开展的安全研究项目，学员也可以提出自己的想法；随后，MATS 会根据你的研究兴趣、偏好以及参与项目的目标，为你匹配项目和导师。该方向的学员经常在 MATS 结束后获得经费和持续指导，以完成研究项目，通常会产出一篇共同第一作者或第一作者论文。项目结束后，许多人会继续在 Anthropic、Redwood Research、OpenAI 等机构从事安全研究。
联合研究方向的导师共同使用一套申请流程，通常会合作并共同指导项目，也会共享基础设施，让学员的参与过程更加顺畅。申请这个方向，即会进入所有联合导师的考虑范围；申请时还可以注明希望合作的具体导师。
Arthur Conmy 的 MATS 研究方向将评估可解释性方法能否解决当前及未来的 AI 安全问题。
研究可能包括开发新的安全方法、构建基准，以及将其效果与基线方法进行比较。
