AI Futures Project

我们希望指导 AI 预测和治理方面的项目。研究可以基于《AI 2027》报告,进一步开展情景预测,或根据报告分析如何积极影响关键决策节点。

研究小组概览

我们希望指导 AI 预测和治理方面的项目。潜在方向包括但不限于:

  1. 情景预测:从主要的《AI 2027》情景出发,撰写分支情景,探索关键变量变化后可能出现的情况。可以开展详细、具体的威胁建模,也可以制定详尽的成功路径理论。
  2. 改进并开展桌面推演(TTX):我们开发了一套许多人认为很有价值的桌面推演,希望让更多不同群体参与,并扩大覆盖人数。
  3. 政策策略研究,例如智能爆发后的政策选项:为 AGI 开发完成后的近期阶段梳理政策选项。
  4. 针对性政策研究:根据政策制定者当前重视且需要的议题开展研究。

项目期间的工作地点:

SF Bay Area

导师

Romeo Dean
AI Futures Project
,
研究员
Policy and Governance
Forecasting and Strategy
AI 系统安全
AI 技术治理
结构性风险与社会动态

Romeo 正与 AI 未来项目合作,预测详细的 AI 发展情景并制定政策建议。他主要关注算力与安全领域的预测。此前,他曾是 IAPS 政策研究员,并在哈佛大学同时攻读计算机科学硕士学位,研究方向为系统与硬件。

阅读更多
Thomas Larsen
AI Futures Project
,
研究员
Policy and Governance
Forecasting and Strategy
结构性风险与社会动态

Thomas 是 AI 未来项目的研究员,也是广受关注的 AI 2027 情景预测报告的共同作者。他此前创立了 AI 安全倡导组织 Center for AI Policy,并曾在机器智能研究所开展 AI 安全研究。

阅读更多
Daniel Kokotajlo
AI Futures Project
,
执行主任
Policy and Governance
Forecasting and Strategy
AI 技术治理
结构性风险与社会动态

Daniel 正与 Eli Lifland、Thomas Larsen、Jonas Vollmer 和 Romeo Dean 一起,预测并细化 AI 未来情景。

阅读更多
Eli Lifland
AI Futures Project
,
研究员
Policy and Governance
Forecasting and Strategy
结构性风险与社会动态

Eli 在 AI Futures Project 从事 AI 情景预测,并与他人合著了 AI 2027。他还为 Sage 提供建议。Sage 是他共同创立的组织,负责开发 AI Digest(交互式 AI 解读)和预测工具。此前,他曾参与 AI 研究助理 Elicit 的工作。

阅读更多

我们希望招收的学员

最重要的特点包括:

  1. 推理和写作能力强
  2. 对 AI 预测或治理研究有热情
  3. 能够自主开展研究
  4. 学习速度快

​

以下特点也很有帮助,但不是必需条件:

  1. 在至少一个与 AI 预测和治理相关的领域具备扎实背景知识,例如政府工作经验或技术背景
  2. 深入了解 AGI 和生存风险

项目遴选

我们会与学员一起讨论研究想法。