Dillon Plunkett

这是 Eleos AI Research 的实证研究方向,致力于理解并改善 AI 系统可能具有的福祉和道德地位。我们欢迎学员研究各种相关主题,包括 LLM 内省、LLM 偏好、人格向量等,并可采用白盒或黑盒可解释性方法。

研究小组概览

我们欢迎学员研究各种可能与 AI 福祉相关的主题,包括:

​

  • LLM 内省(例如 Plunkett 等,2025)
  • LLM 偏好与价值观(例如,基于我们对 Claude Mythos Preview 的评估继续研究)
  • 人格向量(例如 Beckmann 与 Butlin,2026)
  • LLM 中效价的表征

​

研究问题示例:

​

  • 模型何时、为何会表现出自述偏好与实际表现出来的偏好不一致?
  • 模型的即时回答与经过长时间上下文推理后的回答有何不同?在长对话中人格逐渐变化时,模型的自述又会如何变化?
  • 我们能否在人格向量的情绪概念中发现有意义的差异维度?

​

奖学金项目开始时,我们会提出具体选题;也欢迎学员提出符合研究重点的想法。

项目期间的工作地点:

Boston

导师

Dillon Plunkett
Eleos
,
首席科学家
AI Welfare
Interpretability

Dillon 是 Eleos AI Research 的首席科学家,负责领导组织在 AI 系统感知能力、道德地位和潜在福祉方面的实证研究。加入 Eleos 之前,他曾是 Anthropic 项目研究员,并在 Subjectivity Lab 从事博士后研究。他在 Harvard 的 Josh Greene 实验室获得认知神经科学博士学位,也在 Harvard 获得哲学学士学位。

阅读更多

我们希望招收的学员

必备条件:

  • 有实证研究经验
  • 能够快速、灵活地开展实验并持续迭代
  • 强烈希望理解 AI 系统可能具有的福祉

​

以下条件会带来明显优势,但并非必需:

​

  • 深入了解白盒和黑盒机器学习可解释性及对齐方法
  • 在哲学或认知科学领域有扎实背景
  • 熟悉 AI 福祉相关研究

项目遴选

项目开始时,我们会讨论符合 Eleos 研究重点的项目想法,也会考虑学员希望提出的选题。之后我们会共同选择最符合每位学员目标与技能的项目。