Google DeepMind(GDM)研究方向聚焦于发现并降低 AI 谋划行为带来的风险。项目通常会构建评估、开发并压力测试缓解措施、研究相关威胁模型或权衡问题,或搭建支持上述工作的实验环境。
项目开始前,我们会分享具体提案。项目思路大致类似于以下示例,但不会完全相同;其中许多方向是我们过去指导过的项目:
风险评估:我们应当多担心 AI 谋划行为带来的风险?
风险缓解:AI 控制与对齐
(可选项目会很多,你不必对每个方向都感兴趣。)
London
I am a research scientist on the AGI Safety & Alignment team at Google DeepMind. I focus on deceptive alignment and AI control, particularly [scheming propensity evaluations](https://arxiv.org/abs/2605.29729). My past research includes dangerous capability evals, power-seeking incentives, specification gaming, and avoiding side effects.
我们希望招募技术能力扎实,并愿意长期投身于推动变革性 AI 向善发展的学员。你不必精通下面列出的每项技术,但应具备基本能力,并在其中一些方面表现出色或进步迅速。
使命感
技术能力
工作方式
项目开始前不久,我们会分享拟议项目清单,并为每个项目指定一位主要导师(部分项目还可能有副导师)。随后,你可以花些时间思考、查阅相关文献、向导师提问并与其他学员交流。之后我们会请你填写表格,将最感兴趣的 N 个项目排序,并注明团队成员或导师偏好。最后,我们会优化学员、团队和项目的分配,尽可能满足大家的偏好。