我们研究如何以技术证据为基础开展国际合作,降低前沿 AI 风险,重点关注中国与西方国家的关系。学员可以参与的项目包括:
Standard (1-2 hours of weekly 1:1s)
SF Bay Area
Strong preference
Strong preference
Isabella 是 Safe AI Forum 的高级研究员,致力于推动中美在前沿 AI 安全领域的协调。她的研究重点是技术治理,尤其是促进共识、围绕失控和极端滥用风险开展对话。近期工作涉及技术层面的滥用防护措施、AI 控制行动手册,以及不对齐事件。她拥有 University of Chicago 计算社会科学硕士学位和 University College London 哲学、政治与经济学学士学位。
Yawen Duan 是 Safe AI Forum(SAIF)的高级研究员,研究如何通过国际协调和技术治理来管理先进 AI 带来的极端风险。他关注自主性不断增强的 AI 系统所带来的风险,包括如何设定并落实风险阈值和红线,以及如何在部署后评估和监控智能体。此前,他在 Concordia AI 担任 AI 安全研究经理,负责制定《前沿 AI 风险管理框架》(与 Shanghai AI Lab 共同发布)。
第一周,我们会提供一份希望学员考虑的项目清单。学员将在当周进一步明确项目范围,并在第二周确定主要研究方向。