Patrick Butlin

本研究流关注 AI 福利及其道德地位,尤其探讨一个对象需要具备哪些条件,才能成为道德关怀对象,以及如何判断 AI 系统是否满足这些条件。我们希望招收对相关议题有想法、并愿意深入探索的申请者。

研究小组概览

学员将在本研究流中与我及 Eleos 的其他团队成员合作。我会考虑哲学和实证研究项目,也欢迎有意申请的学员提出研究方案。提出有说服力且有原创性的方案,有助于让你的申请脱颖而出。

我感兴趣的研究问题包括:

哲学方向:像 LLM 助手这样的人格化角色需要具备什么条件,才能成为道德关怀对象?没有意识的智能体也可能成为道德关怀对象吗?具有正负效价的意识体验需要具备哪些功能条件?内省是什么,它与 AI 福利有什么关系?

实证方向:如何在近期关于 J-space 的研究基础上,进一步了解 LLM 是否具有所谓的通达意识?我们能否提出新的、实用的方法来评估和监测 AI 福利?

其他方向:其他学科有哪些发现与 AI 福利相关?心理学或精神病学能否提供启发,帮助我们理解如何构建健康的 AI 心智?

项目期间的工作地点:

伦敦

导师

Patrick Butlin
Eleos
,
高级研究负责人
AI Welfare

我是一名心灵哲学家,也是 Eleos AI 的研究员,主要研究 AI 意识、能动性与福祉。加入 Eleos 之前,我曾在牛津的 Future of Humanity Institute 和 Global Priorities Institute 工作。我关注的课题包括:探讨道德地位依据的纯哲学研究;借助认知科学,从机制层面理解感知能力与能动性的研究;以及能够揭示 AI 中与福祉相关特征的实证研究。

阅读更多

我们希望招收的学员

我希望学员具备以下特点:

​

  • 有意从事这一领域的研究,并对相关理念保持好奇
  • 积极主动,能够独立推进较长期的项目
  • 具备出色的综合思考和沟通能力
  • 具备适合所选研究方向的背景;例如,哲学项目需要接近专业水平的能力,实证项目则需要足以独立开展严谨 LLM 实验的知识基础

​

以下特点有助于申请者脱颖而出:

​

  • 对新的研究方向有出色的想法
  • 深入了解当前 AI 福利研究的主要议题
  • 有成功推进相关项目的记录,例如发表过哲学论文或开展过 AI 安全研究

​

项目遴选

我会与学员一起讨论项目想法。