Krishnamurthy(Dj)Dvijotham 是 Google DeepMind 的资深研究科学家,负责推动安全、可信 AI 智能体的开发。他此前在 ServiceNow Research 创立了 AI 安全研究团队,并在 DeepMind 共同创立了稳健且可验证 AI 团队。他的研究曾获多场顶级 AI 学术会议的最佳论文奖,最近包括 ICML 和 CVPR 2024。他的研究成果推动了 ServiceNow AI 安全测试框架的建立,也已应用于 Google Play Store、YouTube 和 Gemini 等多项 Google 产品。
我是 Anthropic 的可解释性研究员,最关注能够切实提升模型安全性的简单实用方法。更早之前,我曾是一名神经科学家。
I work at the [UK AI Security Institute](https://www.aisi.gov.uk/). In the past, I’ve done research in high-performance computing, language model pretraining, interpretability, and [hardware enabled governance](https://flexheg.com/).
Seth 是 SecureBio 的研究与政策高级顾问,研究 AI 与生物安全。他此前在 Harvard 获得博士学位,并在 University of Chicago 从事博士后研究。
Shi Feng 领导一个研究监督与控制的团队。他是 George Washington University 的助理教授。此前,他曾在 Sam Bowman 指导下,于 NYU Alignment Research Group 从事博士后研究。目前,他主要研究欺骗与串谋,重点关注相关倾向以及评估是否贴近现实。
Adam Shai 在实验与计算神经科学领域拥有丰富的研究经验。他在加州理工学院获得博士学位,十余年来一直研究智能行为的神经基础,最近曾在斯坦福大学担任研究员。出于对 AI 安全迫切需求的关注,他将专业经验转向神经网络,致力于开发有原则的方法,控制并对齐日益先进的 AI 系统。
Adam 共同创立了 Simplex,并负责该机构的研究工作。Simplex 致力于建立一门研究 AI 系统中表征的科学。
直到不久前,我还是墨尔本大学的一名职业数学家,研究领域包括代数几何、数理逻辑、数理物理的若干方向,以及最近的统计学习理论。2025 年初,我离开学术界,加入 Timaeus 负责 AI 安全研究。
Saad Siddiqui 是 Safe AI Forum 的高级研究员,研究主要 AI 大国之间达成协议的可能性。此前,他曾在新加坡的 Bain & Company 担任管理顾问。
Oly 在 Future of Life Foundation 负责寻找并推动有潜力的构想,以现实的 AI 和其他技术发展情景为基础,建设更美好的未来。重点方向包括提升人类集体智能、推动平稳且可控的多智能体转型,以及发展防御性技术。
Oly 此前在英国 AI 安全与安保研究所从事失控风险建模与评估,目前仍与 OECD、英国外交联邦及发展事务部(FCDO)、科学创新与技术部(DSIT)以及议员就 AI 治理保持交流。
他曾在牛津研究(语言模型)智能体监督和多智能体安全,并于 2021–22 年成为首批 MATS 学员之一。在从事 AI 安全工作前,他是高级数据科学家和软件工程师。
Jesse 是 Timaeus 的联合创始人兼执行主任。Timaeus 是一家 AI 安全非营利组织,研究奇异学习理论(SLT)在 AI 安全中的应用,尤其关注可解释性和对齐。Jesse 拥有物理学背景,除参与外联和运营外,还领导 Timaeus 的多个研究项目。
MATS 项目是一项为期 10 周的研究奖学金计划,旨在培养和支持从事 AI 对齐、透明度和安全研究的新兴研究者。学员将与世界一流的导师合作,获得专门的研究管理支持,并加入位于伯克利、致力于推动安全、可靠 AI 发展的活跃社群。项目提供必要的架构、资源和指导,帮助学员产出有影响力的研究成果,并开启长期的 AI 安全职业生涯。
MATS 导师来自 AI 安全、对齐、治理、领域建设和系统安全等多个方向,都是各自领域的资深研究者。导师包括学界人士、业界研究人员及独立专家。他们会指导学员开展研究、提供反馈,并支持学员成长为研究者。导师的专业领域涵盖:
查看 往届及现任导师
关键日期
申请:
主项目将于 9 月 28 日至 12 月 4 日进行,获选学员的延展阶段将于 12 月开始。
MATS 欢迎来自不同学术和专业背景的申请者:从机器学习、数学和计算机科学,到政策、经济学、物理学、认知科学、生物学和公共卫生;也欢迎没有传统研究背景的创业者、运营人员和领域建设者。主要要求是对 AI 安全有强烈的贡献意愿,并展现出技术能力、研究潜力或相关运营经验。有 AI 安全相关经验会有所帮助,但并非必要条件。