Maksym Andriushchenko

优先研究方向:

  • 自动化 AI 研究带来的风险
  • 自动化安全与对齐研究
  • AGI 隐私
  • 衡量长周期智能体能力
  • 新的对齐方法
  • 后训练科学

研究小组概览

我对 AI 安全与对齐的各个领域都感兴趣,当前优先方向包括:

  • 自动化 AI 研究带来的风险
  • 自动化安全与对齐研究
  • AGI 隐私
  • 衡量长周期智能体能力
  • 新的对齐方法
  • 后训练科学

项目期间的工作地点:

Tübingen

导师

Maksym Andriushchenko
ELLIS Institute Tübingen
,
首席研究员(AI 安全与对齐组)
Misalignment Science
AI Control and Monitoring
Capability and Propensity Evaluations
AI 系统安全
AI 技术治理

我在 ELLIS Institute Tübingen 和 Max Planck Institute for Intelligent Systems 担任首席研究员,并领导 AI 安全与对齐组。我还担任新一版《国际 AI 安全报告》的章节负责人;该报告由 Yoshua Bengio 教授主持编写。我曾与该领域多家领先机构合作开展 AI 安全研究,包括 OpenAI、Anthropic、UK AI Security Institute、Center for AI Safety 和 Gray Swan AI。我于 2024 年在 EPFL 获得机器学习博士学位,导师是 Nicolas Flammarion 教授。我的博士论文获得 EPFL 计算机科学系最佳论文 Patrick Denantes Memorial Prize,并获 Google 和 Open Phil 的 AI 博士奖学金支持。

阅读更多

我们希望招收的学员

我希望学员具备以下能力:

  • 有 AI 安全相关主题的研究经验,至少完整完成过一个项目并担任第一作者
  • 独立、自我驱动
  • 具备扎实的计算机科学基础
  • 最好有良好的软件工程背景
  • 熟悉深度学习框架
  • 沟通表达清晰

项目遴选

我倾向于确定整体研究方向,但会认真听取学员在大方向内的个人偏好。最终确定具体主题应是双方共同参与的过程。