Maksym Andriushchenko
本研究方向关注 AI 安全与对齐领域的关键挑战，包括自动化 AI 研究所带来的风险、递归自我改进的瓶颈，以及如何自动化安全与对齐研究。优先主题还包括 AGI 隐私、衡量长周期智能体能力、开发新的对齐方法，以及推进后训练科学。
研究小组概览
我对 AI 安全与对齐的各个领域都感兴趣，当前优先方向包括：
- 自动化 AI 研究带来的风险
- 递归自我改进的瓶颈
- 自动化安全与对齐研究
- AGI 隐私
- 衡量长周期智能体能力
- 新的对齐方法
- 后训练科学
导师指导方式：
Standard (1-2 hours of weekly 1:1s)
伦敦办公偏好：
Weak preference
伯克利办公偏好：
Strong preference
导师
Misalignment Science
AI Control and Monitoring
Capability and Propensity Evaluations
AI 系统安全
AI 技术治理
我在 ELLIS Institute Tübingen 和 Max Planck Institute for Intelligent Systems 担任首席研究员，并领导 AI 安全与对齐组。我还担任新一版《国际 AI 安全报告》的章节负责人；该报告由 Yoshua Bengio 教授主持编写。我曾与该领域多家领先机构合作开展 AI 安全研究，包括 OpenAI、Anthropic、UK AI Security Institute、Center for AI Safety 和 Gray Swan AI。我于 2024 年在 EPFL 获得机器学习博士学位，导师是 Nicolas Flammarion 教授。我的博士论文获得 EPFL 计算机科学系最佳论文 Patrick Denantes Memorial Prize，并获 Google 和 Open Phil 的 AI 博士奖学金支持。
我们希望招收的学员
- 有 AI 安全相关主题的研究经验，至少完整完成过一个项目并担任第一作者
- 独立、自我驱动
- 具备扎实的计算机科学基础
- 最好有良好的软件工程背景
- 熟悉深度学习框架
- 沟通表达清晰
项目遴选
我倾向于确定整体研究方向，但会认真听取学员在大方向内的个人偏好。最终确定具体主题应是双方共同参与的过程。