链接
研究重点
Technical AI Governance, Structural Risk and Societal Dynamics, Agent Foundations, Theoretical Alignment and Formal Methods, Founding and Field-Building
我从事 AI 可信保障和文明韧性研究，致力于构建技术基础，让人们能够独立验证关于 AI 系统行为及其运行基础设施的主张，涵盖安全芯片、软件和多方协作。目前，我是英国 Advanced Research and Invention Agency（ARIA）的项目总监，负责Safeguarded AI 项目。这项研发计划规模约为 6,000 万英镑，旨在构建一套数学保障工具包，让大量 AI 智能体以前所未有的速度和规模产出经过形式化验证的成果，涵盖经过验证的软件、微电子，以及各种信息物理控制系统。加入 ARIA 之前，我共同创立并领导了 Principles of Intelligence（前身为 PIBBSS），该研究机构致力于将跨学科科学知识转化并应用于 AI 安全。我还曾是 Alignment of Complex Systems 研究组的研究附属成员，并在 University of Oxford 的 Future of Humanity Institute 担任研究经理。