SF Bay Area
Owain 长期关注 AI 对齐和降低 AGI 风险。目前,他正在研究危险能力、大型语言模型(LLM)中不对齐行为的出现、自我意识和潜在推理。他此前研究过 AI 欺骗(《如何识破 AI 谎言》)、真实性(TruthfulQA)和“反转诅咒”。Owain 在伯克利 Constellation 创办并运营一家独立的 AI 安全非营利组织。他曾在 University of Oxford 和 Ought 工作,并通过 MATS 等项目指导过 30 多位初级 AI 安全研究者。
Jan 曾从事软件开发十余年,随后于 2023 年转向 AI 安全。他曾参加 ARENA 和 Astra Fellowship 项目,尤其关注大型语言模型(LLM)的脱离上下文推理,也对相关领域的其他问题保持广泛兴趣。