链接
研究重点
AI Control and Monitoring, Capability and Propensity Evaluations, Misalignment Science, Alignment Training Methods
David Lindner 是 Google DeepMind 通用人工智能（AGI）安全与对齐团队的研究科学家，负责研究针对欺骗性对齐和密谋行为的评估与缓解方法。他近期的工作包括 MONA（一种减少强化学习过程中多轮奖励钻空子行为的方法）、设计针对隐蔽行为和情境意识的评估，以及参与制定 Google DeepMind 对欺骗性对齐的应对方案。目前，他关注密谋行为的缓解方法，包括思维链监控和 AI 控制。更多信息见个人网站。