Thomas Larsen

AI 未来项目

Thomas 参加了 John Wentworth 指导的 2022 年夏季班和 Nate Soares 指导的 2023 年冬季班。在此期间,他撰写了一份关于 AI 安全研究方法的详细综述。随后,他在 MIRI 继续开展 SERI MATS 的研究工作,之后离职创办了 AI 安全倡导组织——人工智能政策中心(Center for AI Policy)。目前,他是 AI 未来项目(AI Futures Project)的研究员,同时担任 LTFF 的客座基金经理。

The Summer 2022 cohort was MATS's first full-scale program, with 31 fellows and 7 mentors from leading AI safety organizations including OpenAI, ARC, MIRI, EleutherAI, and Aligned AI. The program ran 5 weeks online followed by 8 weeks in-person in Berkeley, where fellows conducted independent research under expert mentorship, participated in educational seminars, and built community with peers in the Berkeley AI safety ecosystem.

MATS 帮助我提升对齐领域技能的速度,比我原本通过自学基础贝叶斯主义(infra-bayesianism)快了三倍多。当时我只是因为喜欢数学而自学,对对齐领域中哪些部分至关重要并没有深刻的见解。MATS 让我对对齐问题有了更深层次的认识,此后我能够专注于解决问题的核心,并理清了自己认知中最主要的困惑。

Thomas Larsen