链接
研究重点
AI Control and Monitoring, Interpretability
Neel 负责 Google DeepMind 的机械可解释性团队，尝试通过研究模型内部机制来加深对模型的理解，并以此提升安全性，例如检测欺骗、分析令人担忧的行为，以及监控已部署系统是否产生有害行为。
自 2024 年年中以来，Neel 对大规模推进机械可解释性基础研究的前景更加谨慎，同时更看好务实方法所能带来的实际价值。他减少了基础科学方面的工作，转而更多研究模型生物学，并将可解释性用于监控等现实安全问题。
他花了很多时间指导 MATS 学员，目前已有约 50 位项目校友，也期待继续指导更多学员！