Byron Cohen

我指导学员将 AI 的进展用于应对核心生物安全挑战,包括更早发现并溯源生物威胁、评估 AI 提升生物武器能力的程度、加速医疗对策研发,以及从设计之初就将生物安全融入前沿生物 AI 工具。学员有很大空间围绕这些主题(或相邻方向)自主确定项目,也欢迎提出我尚未想到的新想法,并需要独立推进技术工作。我的优势在于结合生物安全、大流行病防范、流行病学和美国研发政策提供战略方向性指导,而非亲自指导机器学习或软件工程。

研究小组概览

这个研究方向希望支持以下项目:

  • 利用 AI 进展,更早发现生物威胁。项目可能包括(但不限于):
    • 通过软件工程更好地整合不同的生物监测数据流
    • 通过生物信息学开发新方法,利用宏基因组学发现新型生物威胁
    • 通过软件工程减少生物监测中临床宏基因组学所需的人力
  • 利用 AI 进展,对生物威胁进行溯源。项目可能包括(但不限于):
    • 通过软件工程更好地整合彼此独立的生物监测数据流,便于开展溯源分析
    • 利用彼此独立的情报数据流,为新出现的生物学现象开发溯源方法,例如检测基因工程、分析 DNA/RNA 功能并判断其来源
  • 评估 AI 提升生物学能力和生物武器能力的程度。项目可能包括(但不限于):
    • 开发严谨、可复现的开放环境评估,检验 AI 系统能否完成周期长、后果重大的任务;这类任务的成功标准无法预先穷尽定义,评估过程也无法完全自动化
    • 借鉴执法部门拦截儿童性虐待材料等有害数字内容的经验,梳理监测和发现他人恶意滥用 LLM 及生物设计工具的方法
    • 研究开源 AI 作为策略顾问时,如何影响潜在恶意行为者的意图,以及他们为实现目标选择的策略
  • 利用 AI 加快医疗对策的设计和交付。项目可能包括(但不限于):
    • 开发利用 AI 加速临床试验和/或降低成本的新平台
    • 利用 AI 快速设计医疗对策(MCM),并开展计算机模拟测试
  • 帮助开发从设计之初就遵循生物安全原则的前沿 AI 生物学研究工具。项目可能包括(但不限于):
    • 为开源生物 AI 模型开发恶意意图分类器;这类分类器不仅应拒绝危险请求,也应将恶意意图的证据分享给执法部门

项目期间的工作地点:

Washington, D.C.

导师

Byron Cohen
RAND
,
生物安全学员
Policy and Governance
Biosecurity
Capability and Propensity Evaluations
对抗鲁棒性与安全防护

Byron Cohen 是 RAND 的 AI 与生物安全研究驻留人员,负责 AI 生物安全风险评估和政策研究。此前,他曾担任 DARPA 生物技术办公室的生物安全顾问,为生物监测、溯源、流行病学建模以及 AI 提升生物能力的风险等议题提供建议。再之前,他在白宫大流行防范与响应政策办公室(OPPR)担任跨部门研发监督顾问。Byron 接受过流行病学训练,拥有 Harvard University 人口健康科学博士学位,并发表过有关生物安全和全球卫生安全的同行评审流行病学建模研究。

阅读更多

我们希望招收的学员

必要能力:

  • 能够独立开展研究,并具备相应研究技能
  • 具备良好的写作能力
  • 认同项目使命

优先条件:

  • 具备 AI/ML 工程技能
  • 有相关经验
  • 具备软件工程经验
  • 对生物风险领域有基本了解

以下情况可能不太适合:

  • 需要高度结构化的指导,或希望我投入大量时间指导的人
  • 需要我提供 AI/ML 或软件工程技术指导的人

项目遴选

我希望学员能从上面列出的方向中选择项目,但学员有充分空间决定具体研究内容,前提是与我达成共识;我希望确保所选方向既有实际价值,也能够落地。我也非常欢迎学员提出我尚未想到的新想法,特别是能回应上述挑战的方案。如有需要,学员可以在第一周尝试多个项目,再选定一个重点推进。