AI Futures Project
我们欢迎围绕 AI 预测、治理与战略开展指导项目。我们希望通过提出具体情景、探索不同的发展路径与可能世界、预测未来走向，并讨论如何应对风险，改善人们思考 AI 风险时所依据的信息与讨论环境。我们相信，提供更好的未来分析资源，有助于推动更好的结果。
研究小组概览
我们欢迎 AI 预测、治理及更广泛的 AI 战略项目，包括但不限于：
- 撰写情景分析： 以 AI 2027 或 AI 2040 为基础拓展情景，或探讨其他值得推演的重要局势与发展动态。
- 政策研究： 完善 AI 2040：Plan A 中的政策构想，并为其他方案提出新建议。例如，研究 Plan B 和 Plan C 中可行的国内监管方式，或在政治支持较弱时如何调整 Plan A。我们也欢迎提出近期可行的政策建议或政府行动方案，既可以独立发挥作用，也可以为未来推进 Plan A 或放缓/暂停相关发展创造条件。
- 建模与预测： 协助建立或改进我们的建模工作，例如情景中的经济模型、发展时间线与起飞模型、算力模型；也可以研究智能爆发期间可能显著影响世界的变量，并对其发展进行建模和预测。
- 其他战略研究： 我们也欢迎探索其他 AI 战略议题，例如太空治理、权力过度集中相对于 AI 接管风险的危害、模型规范研究等。
导师指导方式：
High-touch (+2 hours of weekly 1:1s)
项目期间的工作地点：
SF Bay Area
伦敦办公偏好：
Indifferent
伯克利办公偏好：
Strong preference
导师
Policy and Governance
Forecasting and Strategy
AI 系统安全
AI 技术治理
结构性风险与社会动态
Romeo 正与 AI 未来项目合作，预测详细的 AI 发展情景并制定政策建议。他主要关注算力与安全领域的预测。此前，他曾是 IAPS 政策研究员，并在哈佛大学同时攻读计算机科学硕士学位，研究方向为系统与硬件。
Policy and Governance
Forecasting and Strategy
结构性风险与社会动态
Thomas 是 AI 未来项目的研究员，也是广受关注的 AI 2027 情景预测报告的共同作者。他此前创立了 AI 安全倡导组织 Center for AI Policy，并曾在机器智能研究所开展 AI 安全研究。
Policy and Governance
Forecasting and Strategy
AI 技术治理
结构性风险与社会动态
Daniel 正与 Eli Lifland、Thomas Larsen、Jonas Vollmer 和 Romeo Dean 一起，预测并细化 AI 未来情景。
Policy and Governance
Forecasting and Strategy
结构性风险与社会动态
Eli 在 AI Futures Project 从事 AI 情景预测，并与他人合著了 AI 2027。他还为 Sage 提供建议。Sage 是他共同创立的组织，负责开发 AI Digest（交互式 AI 解读）和预测工具。此前，他曾参与 AI 研究助理 Elicit 的工作。
我们希望招收的学员
最重要的特质包括：
- 推理能力强，写作清晰
- 对 AI 预测或治理研究有热情
- 能够自主开展研究
- 学习速度快
以下特质也很有帮助，但并非必需：
- 在 AI 预测与治理相关领域至少具备一方面的扎实背景知识，例如政府工作经验或技术背景。
- 对通用人工智能（AGI）和生存风险有较深入的了解。
项目遴选
我们会与学员一起讨论项目构想。