Jacob Merizian

本研究方向关注 AI 控制,以及危险能力、行为倾向和对齐评估。

研究小组概览

我希望指导 AI 控制和危险能力、行为倾向或对齐评估方面的研究,因为这些领域是我最有把握提供有效指导的。目前,我主要研究行为倾向评估、评估意识和刻意隐藏能力。我很乐意提出具体的项目想法、帮助学员构思和选择主题,也可以指导已有项目。

项目期间的工作地点:

London

导师

Jacob Merizian
UK AISI
,
研究科学家兼工作流负责人
Misalignment Science
AI Control and Monitoring
Capability and Propensity Evaluations

I work at the [UK AI Security Institute](https://www.aisi.gov.uk/). In the past, I’ve done research in high-performance computing, language model pretraining, interpretability, and [hardware enabled governance](https://flexheg.com/).

阅读更多

我们希望招收的学员

我欢迎技能背景多样的申请者;具备以下条件会很有帮助:

  • 具备相关技术背景,能在多 GPU 集群上开展基础的微调、推理或可解释性实验
  • 对我列出的某个研究领域已有一定兴趣
  • 目标明确后能够独立推进(如果缺少明确目标是项目瓶颈,我也很乐意负责提出目标)

项目遴选

我很乐意提出具体的项目想法,并协助学员构思和选择主题;如果学员已有感兴趣的项目,我也可以帮助指导。我更希望学员选择与我正在研究的领域有所交集的主题,这样我就能提供有效的高层次建议。