He He

我希望指导有关奖励钻空子,以及监控会生成长而复杂行动轨迹的智能体模型的项目。学员可以在这一范围内自主提出项目。预计每周通过 Zoom 进行 30 至 60 分钟的一对一交流。

研究小组概览

我希望指导有关奖励钻空子,以及监控会生成长而复杂行动轨迹的智能体模型的项目。

项目期间的工作地点:

New York City

导师

He He
New York University
,
副教授
Misalignment Science
AI Control and Monitoring
Capability and Propensity Evaluations
对抗鲁棒性与安全防护

He He 是 New York University 的副教授。她关注大型语言模型的工作原理,以及这项技术可能带来的风险。

阅读更多

我们希望招收的学员

  • 工程能力强,并有训练深度学习模型的经验
  • 熟悉现代大规模强化学习流程,例如使用 verl 等框架

项目遴选

第 1 至 2 周:导师会提供大方向或待解决的问题,学员可以提出具体项目,并与导师讨论。

第 3 周:制定详细的项目计划。