MATS 学员在七个方向开展研究,涵盖技术研究、治理、生物安全、战略、理论、系统安全和领域建设。浏览各方向,了解学员的研究内容、适合人群和申请方式。
查看 MATS 2027 年冬季班的研究方向及其研究组。
AI 安全需要快速扩大规模,而瓶颈正日益转向组织建设。本方向面向希望创办 AI 安全机构或项目的创业者、领域建设者和积极主动的通才,并由相关领域的创业者、现任 CEO 与项目负责人提供指导。
通过机器学习实验开展实践研究,以理解并提升模型安全性,涵盖 AI 控制、可解释性、可扩展监督、评估、红队测试和鲁棒性。
研究先进 AI 应该如何治理,涵盖治理机制、监管与制度分析,以及让治理措施得以执行的技术系统。
在先进 AI 重塑世界的背景下,研究灾难性生物风险。领域包括病原体检测、医疗对策、合成筛查、实体生物防御、威胁建模,以及通过红队测试识别生物 AI 的危险能力。
研究 AI 发展可能如何演变,以及这对长期安全意味着什么。涵盖发展时间线、能力跃迁动态、风险建模和 AI 发展轨迹的战略分析。
研究先进 AI 系统中能动性、对齐与安全推理所依赖的数学和哲学基础。
研究先进 AI 所依赖基础设施的软件与硬件安全,包括侧信道分析、集群安全、模型权重保护和物理层验证。