我们认为,AI 安全领域需要快速扩大规模,才能确保 AI 的开发与部署顺利进行。MATS 已培养了 10 届优秀学员,但高影响力组织日益受管理与扩张能力所限。值得推进的想法多于愿意支持它们的综合管理者,可用资金的增长速度也超过了实际部署能力。我们因此推出 MATS 创业与领域建设方向,帮助解决这些瓶颈,推动 AI 安全扩大规模。
我们希望招收善于解决问题、坚持原则,并愿意投入重要工作的学员。本方向主要有三类发展路径:
如果你觉得这些角色适合自己,欢迎申请!
项目灵感来源包括:Coefficient Giving 2025 技术 AI 安全项目征集、Bio Action Plan、Lizka Vaintrob 与 Owen Cotton-Barratt、Eric Ho、Marius Hobbhahn、Julian Hazell、Abbey Chaver,以及 Asya Bergal。
该研究流致力于拓展 AI 安全领域并放大研究影响力,涵盖人才招募项目、生态激励机制(如高额影响力奖金),以及支持对齐研究团队扩张的运营工作。
Strong motivation to reduce loss-of-control risks from misaligned superintelligence.
**One** of the following:
1. Impressive experience outside AI safety, for example: successfully scaling a startup as an early hire, 5 years at a top consultancy with above-average progression, or an unusually strong background from a leading tech company.
2. A strong AI safety operational track record, like leading a research fellowship, or talent program.
[Reasoning transparency.](https://coefficientgiving.org/research/reasoning-transparency/)
发起有抱负的 AI 安全项目,推动相关领域发展。
最低指导安排为每周两次、每次 30 分钟会议;如有需要,也可以增加指导时间。
我常驻旧金山。如果学员希望有一段时间在 BlueDot 办公室工作,我可以每天与他们协作。
学员随时可以与我快速通话;我也会及时回复 Slack 消息。
我欢迎背景各异的申请者。不过,学员需要愿意投入大量精力、善于沟通,并真心希望 AI 能朝着有益的方向发展。
我最擅长与行动力强、表达和推理清晰且以使命为导向的人合作。
我们会一起设计项目。学员有很大自由度,可以探索最合适的项目形式;我会定期提供充分反馈,并介绍相关人士,帮助完善提案。
前一到两周主要用于确定项目方向,奖学金后续时间则集中于执行。
本研究流聚焦 AI 保障基础设施领域的创业实践,涵盖能源、实体网络、身份验证和可解释性等方向。
我们的指导方式与创业实践相似:先明确核心判断,再确定希望实现的成果,并定期同步进展。我们是曾成功退出创业公司的创始人,能够帮助解决实际瓶颈;必要时也会邀请其他人参与指导。
合适的候选人既可能是希望将研究成果应用于现实场景的优秀实证 ML 研究者,也可能是拥有创业工程或安全背景的人才。
学员可以自行提出项目,也可以从我们根据 AI 保障领域现状整理的开放问题清单中选择方向,并与我们共同完善项目。我们会尽早明确研究范围,帮助大家在项目期间取得尽可能多的进展。
Eleos AI Research 是一家非营利组织,致力于在推动变革性 AI 发展的同时,确保 AI 系统的利益得到适当考虑。我们希望招募能力全面的通才,通过举办高影响力活动拓展 AI 福祉领域,或进一步增强我们的研究、传播和运营能力。
通常我每周至少会与每位学员交流 60 分钟,也可以分成两次 30 分钟会议。对于需要大量投入的项目(例如活动组织),我们可以视需要增加时间。我也可以临时安排会议,并通过 Slack 或电子邮件异步沟通。在 Eleos,我们每天都会在 Slack 发布进度;我也希望学员这样做。
理想的候选人:
项目开始时,我们会讨论上述方向的想法,也会听取学员提出的项目构想。随后,我们会结合 Eleos 的优先事项以及学员的目标和技能,共同确定合适的项目。
支持 AI 安全与对齐、生物安全和关键网络安全领域的产品开发与组织建设项目。我们希望招募主动自驱、行动力强且乐于创造的学员。
共同指导团队包括 Halcyon 的 Ross Matican(投资人与资助人)、Mike McCormick(创始人兼 CEO)和 Charlie Petty(风险投资合伙人),由 Ross 牵头。
通常每两周举行一次 45 分钟的会议,必要时也可临时增加会议。我们会建立一个包含 Ross、Mike、Charlie 及 Halcyon 支持团队的 Slack 频道,欢迎随时联系。
产品开发与组织建设项目:
通才型项目:
对于 AI 安全与对齐、生物安全和关键网络安全领域的产品开发与组织建设项目,学员可以自由选择方向。我们希望学员带着初步想法和方向判断入组,以此开始探索市场;不要求项目构想成熟,也不需要正式提案,但我们期待真正动手建设。
对于领域建设和通才型学员,我们优先考虑人才匹配项目:梳理 CRM 中数千人的资料,寻找他们与投资组合公司及网络中其他重点机会的匹配方式。
MATS 项目是一项为期 10 周的研究奖学金计划,旨在培养和支持从事 AI 对齐、透明度和安全研究的新兴研究者。学员将与世界一流的导师合作,获得专门的研究管理支持,并加入位于伯克利、致力于推动安全、可靠 AI 发展的活跃社群。项目提供必要的架构、资源和指导,帮助学员产出有影响力的研究成果,并开启长期的 AI 安全职业生涯。
MATS 导师来自 AI 安全、对齐、治理、领域建设和系统安全等多个方向,都是各自领域的资深研究者。导师包括学界人士、业界研究人员及独立专家。他们会指导学员开展研究、提供反馈,并支持学员成长为研究者。导师的专业领域涵盖:
查看 往届及现任导师
关键日期
申请:
主项目将于 9 月 28 日至 12 月 4 日进行,获选学员的延展阶段将于 12 月开始。
MATS 欢迎来自不同学术和专业背景的申请者:从机器学习、数学和计算机科学,到政策、经济学、物理学、认知科学、生物学和公共卫生;也欢迎没有传统研究背景的创业者、运营人员和领域建设者。主要要求是对 AI 安全有强烈的贡献意愿,并展现出技术能力、研究潜力或相关运营经验。有 AI 安全相关经验会有所帮助,但并非必要条件。