战略与预测
战略与预测方向关注先进 AI 带来的长期问题，包括 AI 发展时间线、地缘政治竞争，以及后 AGI 时代的制度走向。随着能力快速提升，人们往往在信息有限、缺乏充分实证或广泛共识的情况下作出关键决定。应对这些挑战需要结构化预测、情景分析、地缘政治建模和宏观战略思维。
- 第一阶段：完成通用申请，提交 1 至 2 份写作样本并回答本方向的简答题
- 第二阶段：回答研究流方向选择问题，并可能需要提供推荐人信息
- 第三阶段：参加面试和工作测试
本方向聚焦宏观战略：理解向先进 AI 过渡的过程、机构与社会如何适应高能力 AI 系统，以及今天采取哪些行动最有助于改善长期结果。有些研究流侧重结构化预测，尤其是对 AI 能力、发展时间线、算力和经济影响开展定量研究；另一些则侧重情景分析与建模，研究前沿实验室动态、地缘政治竞争、国家行为、转型情景和桌面推演。
这些预测与模型可用于分析有哪些政策选项能够影响 AGI 或后 AGI 时代的发展轨迹、这些选项的成本与收益，以及今天的选择如何扩大或缩小未来决策者可用的选项范围。本方向可能研究先进 AI 将如何、为何、何时及在何地推动工业生产、军事战术和科学研究迅速变化，以及这些变化对地缘政治、民主和资本主义产生的次级影响。
本方向的学员需要能够在不确定条件下进行推断、提出概率性判断，并清晰撰写证据有限的问题。跨学科研究经验或兴趣很有帮助，因为许多问题都涉及社会某个领域的变化如何影响其他领域。以往的优秀申请者来自预测研究、经济学、历史、哲学、政治学、国际关系、计算机科学、安全研究和定量社会科学等领域。
我们会根据契合度为学员匹配导师，并规划项目，使其在项目结束前产出具体成果，例如预测报告、情景分析、政策备忘录、战略分析和同行评审研究。本方向的成果面向实验室战略与政策团队、AISI 工作人员、国家安全分析人员、长期决策相关的资助方和政策制定者，以及更广泛的预测、治理和 AI 安全社区。
我们欢迎围绕 AI 预测、治理与战略开展指导项目。我们希望通过提出具体情景、探索不同的发展路径与可能世界、预测未来走向，并讨论如何应对风险，改善人们思考 AI 风险时所依据的信息与讨论环境。我们相信，提供更好的未来分析资源，有助于推动更好的结果。
本研究流关注先进 AI 可能促成的新型高风险生物技术，并研究随着相关能力出现，何时能有效应对风险、何时风险会变得紧迫。
随着政府采用越来越强大的 AI，我的研究方向关注如何保留制衡机制。学员将探讨国会如何监督因 AI 而加速运作的行政部门（例如借助保护隐私的 AI 审计工具），以及如何为政府采用 AI 勾勒积极可行的愿景。项目通常会形成公开报告，有时也会直接与政策制定者及其他相关人士交流。
本研究方向致力于寻找可行的政策和技术干预措施，缓解人类逐步失去自主权的风险，重点关注经济层面的自主权丧失和“智能诅咒”。潜在项目包括：
- 将智能诅咒的发展过程形式化为可追踪、可监测的模型。
- 探索比全民基本收入（UBI）更持久的大规模失业应对政策。
- 寻找技术干预措施，延长人机协作阶段。