Fourth Eon Biosecurity
Fourth Eon Biosecurity 正在构建覆盖生物工程全链条的自适应 AI 原生防护措施，重点关注基于功能的 DNA 合成筛查。本项目的学员将开展 AI 安全与生物安全交叉领域的技术研究，进一步完善筛查方法，并将检测能力从已知威胁特征推广至更广范围。研究方向包括生物基础模型的机制可解释性、生物安全相关能力评估，以及智能体驱动的序列分析流程。
研究小组概览
Fourth Eon 正在建设自适应生物安全基础设施，防范 AI 赋能生物工程可能引发的意外和滥用。我们重点研究并开发基于功能的筛查方法，以检测 DNA 合成订单中的各类潜在危险。加入项目的学员将与我合作，结合自身优势、兴趣和职业目标制定课题，同时推动 Fourth Eon 的使命。以下是优先研究方向及项目示例：
- 运用机制可解释性方法研究生物基础模型，探查模型学到的、具有生物物理和生物化学意义的性质，例如蛋白质结构、表面电荷、催化活性和溶剂化。举例来说，学员可以用稀疏自编码器（SAE）或探针，分析蛋白质模型如何在特定特征、电路和流形中编码语义信息，并找出不同蛋白质类型中可泛化的特征，用于预测其功能。
- 评估生物领域 AI 模型是否具备与生物安全相关的能力，例如设计具有新功能的蛋白质，或预测与天然基因和蛋白质差异很大的生物分子性质。研究结果将帮助我们通过实证分析双重用途能力，改进筛查方法。例如，学员可以构建一个基准测试，评估模型预测不同类型蛋白质功能的能力，并考察蛋白质与天然蛋白质的差异程度如何影响预测。
- 开发并测试用于自适应生物安全筛查的智能体序列分析流程。研究内容包括搭建脚手架、微调和测试 AI 智能体，使其协调调用计算生物学工具、综合分析结果并形成生物安全风险评估。例如，学员可以构建迭代分析流程，让一个带有脚手架的智能体或多智能体团队分析未知 DNA 序列，并根据预测出的分子性质判断其最可能的功能。
Standard (1-2 hours of weekly 1:1s)
Weak preference
Strong preference
导师
Gary Abel 是 Fourth Eon Biosecurity 的联合创始人兼首席科学家，负责领导适应性防护措施和基于功能的筛查研究。他的专长涵盖化学、分子生物物理学、生物安全和测序技术。近二十年来，他一直研究 DNA、RNA 和蛋白质的行为及其相互作用。Gary 还是 Johns Hopkins Center for Health Security 的特约学者，支持该中心理解并降低先进 AI 带来的全球灾难性生物风险。他此前曾在 SPAR、MATS、Cambridge ERA 和 Coefficient Giving CDTF 项目中指导研究学员。Gary 拥有 San Jose State University 物理学学士学位和 University of California, Merced 化学博士学位。
Chris Ganje 是 Fourth Eon Biosecurity 的联合创始人兼执行主任，负责战略、技术开发和部署。他在前沿技术、公共政策和全球安全的交叉领域工作了二十年。创立 Fourth Eon 之前，他从事了三年私募股权投资；此前，他共同创立并发展了 AMPLYFI——一家与国防机构合作的风险投资支持型 AI 公司。他还曾在 BP 负责颠覆性技术评估和欧洲能源技术政策。Chris 担任 DARPA SWITCH 工作组顾问、Innovate UK 委员会成员、Renaissance Philanthropy 的 Big if True Science 项目研究员，以及 University of Cambridge Centre for Science and Policy 的研究员。他拥有 SUNY New Paltz 历史学学士学位和 University of Edinburgh 政治学硕士学位。
我们希望招收的学员
- 有技术研究经验
- 具备较强的批判性思维和创造性解决问题的能力
- 有好奇心，愿意深入理解事物
- 为敏感研究负责地开展工作，具备相应的诚信与判断力
- 在以下一个或多个领域具备专长：生物信息学、计算生物学、结构生物学、生物化学、分子生物物理学、蛋白质工程、生物安全、AI/机器学习、计算机科学或相关领域
- 了解生物分子序列、结构与功能的基础知识
- 能熟练使用 Python，包括借助 AI 辅助编程
- 有测试生物领域 AI 模型的实践经验
- 有构建模型评估或基准测试的经验
- 有机制可解释性方法的经验
- 熟悉生物安全防护措施和生物威胁
项目遴选
对我们的研究方向感兴趣的学员，可以先思考如何结合自身优势与兴趣开展项目。我会与每位学员一起确定具体课题，使其契合学员的背景、兴趣和我们的整体研究方向，并共同明确项目范围与目标。