Owain Evans

Truthful AI

—

研究负责人

链接

研究重点

Capability and Propensity Evaluations, Misalignment Science

Owain 长期关注 AI 对齐和降低 AGI 风险。目前,他正在研究危险能力、大型语言模型(LLM)中不对齐行为的出现、自我意识和潜在推理。他此前研究过 AI 欺骗(《如何识破 AI 谎言》)、真实性(TruthfulQA)和“反转诅咒”。Owain 在伯克利 Constellation 创办并运营一家独立的 AI 安全非营利组织。他曾在 University of Oxford 和 Ought 工作,并通过 MATS 等项目指导过 30 多位初级 AI 安全研究者。