Luke Drago, Rudolf Laine

本研究方向致力于寻找可行的政策和技术干预措施,缓解人类逐步失去自主权的风险,重点关注经济层面的自主权丧失和“智能诅咒”。潜在项目包括:

  1. 将智能诅咒的发展过程形式化为可追踪、可监测的模型。
  2. 探索比全民基本收入(UBI)更持久的大规模失业应对政策。
  3. 寻找技术干预措施,延长人机协作阶段。

研究小组概览

这个研究方向致力于寻找切实可行的政策与技术干预措施,以减缓人类逐步失去主动权的趋势,重点关注经济层面的失权和“智能诅咒”。可能的项目包括:

​

  1. 将“智能诅咒”的动态过程形式化,建立可持续追踪和监测的经济学和/或政治学模型。我们尤其希望找到与失权相关、具有预测力的稳健趋势,例如类似“预测失业的 METR 曲线”。哪些经济指标能表明社会正从劳动力转移走向更持久的劳动力替代?我们能否清晰预测 AI 能力发展及其相关失业情况?同样,哪些政治指标能显示自动化正在削弱民主权力或更广泛的议价能力?又有哪些证据可以表明自动化并未造成这些影响?
  2. 探索比全民基本收入(UBI)更持久的应对大规模失业的政策方案。许多人提出通过财富再分配缓解先进 AI 可能造成的大规模岗位替代。我们对单纯现金转移作为长期干预措施持保留态度,因为这类方案由政府有条件地发放,未必有持续实施的激励。我们希望指导学员研究比 UBI 更持久、能经受政治动荡并减少权力集中的再分配方式。我们尤其关注能维持人类议价能力、让人继续参与经济体系的制度安排,例如将再分配与实体资产所在地挂钩(如数据中心分红)、普惠基础算力,或更具突破性且更加持久的方案。我们希望严格评估哪些治理制度能够抵御资本集中(例如挪威为何如此有韧性),以及在人类劳动不再支撑社会契约时,任何再分配方案是否还能长期维持。
  3. 通过技术干预延长人机协作共存期。我们希望找出人类最有可能长期抵御纯 AI 竞争的领域,并设计最有效的干预措施来增强这些领域的人类能力。人机团队在哪些方面最可能胜过纯 AI 方案?这类团队可以由多少人组成?哪些干预措施能延长这些领域的竞争力?我们如何借鉴历史案例,判断哪些技术可能导致权力集中或分散?此外,人机协作共存期的长短,以及迈向全面自动化的速度,是否会影响转型结束时人们拥有多少主动权?

项目期间的工作地点:

SF Bay Area

导师

Luke Drago
Thinking Machines
,
技术团队成员
Policy and Governance
Forecasting and Strategy
结构性风险与社会动态

Luke 是 Thinking Machines 的技术团队成员。他还是《The Intelligence Curse》系列文章的合著者;该系列探讨大规模自动化可能如何逐步削弱人们的经济主体性。

​

此前,他共同创立了 Workshop Labs,这是一家开发以用户为中心模型、旨在应对主体性受损问题的 AI 研究公司,最近已加入 Thinking Machines。在创立 Workshop Labs 之前,他曾任 BlueDot Impact 的 AI 治理和 AI 经济学负责人。在转向 AI 安全之前,他曾在北卡罗来纳州负责地方选举竞选活动并取得胜利。他在 Oxford 学习历史与政治。

阅读更多
Rudolf Laine
Thinking Machines
,
技术团队成员
Forecasting and Strategy
结构性风险与社会动态

我目前在 Thinking Machines 工作,此前曾共同创立 Workshop Labs。我写过《A History of the Future》等情景分析文章,也与他人合著了《The Intelligence Curse》。在此之前,我从事 AI 安全研究,包括在 MATS 的研究。

阅读更多

我们希望招收的学员

我们欢迎拥有不同背景的申请者。以下内容仅供参考,并非完整清单。

​

必要条件:

  • 善于跨学科思考。学员需要综合考虑机器学习、经济学、政治理论和历史案例。
  • 有提出新想法的能力。我们希望你能提出不受现有意识形态或思想框架限制的新观点。
  • 至少在以下一个领域具备扎实背景:
    • 经济建模与实证经济研究
    • 政治理论或政治学
    • 历史
    • AI 领域的新型预测、建模或分析工作

​

优先条件:

  • 能够评估有技术依据的 AI 趋势及影响判断
  • 善于通过有说服力的文字表达观点
  • 涉猎多个领域,并有较丰富的阅读积累

​

加分项:

  • 擅长建模,但不会拘泥于模型。这里最重要的问题往往难以形式化建模,不过其中一些子问题(尤其是经济学问题)可以建模。学员应能判断何时适合建模,以及如何建模。
  • 曾在政府机构从事政策工作,或具备选举政治相关经验(包括实习)
  • 具备 AI 技术经验

项目遴选

我们会提供三个感兴趣的备选项目,但并不局限于这些想法。申请过程中,我们会请潜在学员:(a) 结合个人兴趣,将这些提案细化为更具体的问题;或 (b) 提出自己的项目。

​

我们希望学员带着内在动力,选择符合上述主题的切入点;我们认为,本研究方向中最好的成果会来自自主开展研究、并具备良好研究判断力的学员。不过,项目仍需获得导师认可;如果研究范围偏离目标领域,我们也可能要求学员调整方向。