Damon Binder

本研究流关注先进 AI 可能促成的新型高风险生物技术,并研究随着相关能力出现,何时能有效应对风险、何时风险会变得紧迫。

研究小组概览

我希望指导以下方向的研究项目:

  1. 评估具体的 AI 与生物安全政策工具。例如:对前沿模型的数据集施加有限制约,能降低多少风险?这种做法是否注定难以奏效?开放权重模型在生物相关能力方面会落后前沿模型多少?这一差距又将如何变化?
  2. 预测生物领域及相关领域的能力发展。AI 何时会让某些进攻或防御能力变得轻而易举?在生物领域,这包括设计新型病原体、检测经过工程改造的生物体、研发医学对策;在网络安全、核领域、说服等与灾难性风险相关的领域,又有哪些类似变化?关键技术瓶颈是什么?这些瓶颈正在以多快速度消失?

导师

Damon Binder
Coefficient Giving
,
高级研究员
Policy and Governance
Biosecurity
Forecasting and Strategy
Capability and Propensity Evaluations
结构性风险与社会动态

我在 Coefficient Giving 生物安全与大流行防范团队从事研究,关注生物领域的风险,也思考 AI 是否可能助长其他危险技术。此前,我曾在 Future of Humanity Institute 工作,并在 Princeton 获得物理学博士学位。

阅读更多

我们希望招收的学员

  • 乐于尝试以新颖方式使用 AI 工具。
  • 具备独立开展研究的能力。
  • 知识面广、好奇心强,乐于跨多个科学领域开展工作并不断学习。

​

优先考虑:

  • 定量分析基础扎实。
  • 具有自然科学或工程学背景。
  • 曾推动研究项目从开始走向完成。
  • 具备一定编程经验,最好熟悉 Python。
  • 能在不确定的情况下快速进行粗略估算和建模。

项目遴选

我会先了解学员感兴趣的方向,再从我想提出的几个主题中,和学员共同选定一个大方向。随后我们会一起把项目范围界定清楚,确保问题聚焦且定义明确;我会结合对可行性和价值的判断提供建议。之后由学员主导推进,我们再根据进展调整。