Michael Chen

研究与评估、缓解危险 AI 能力相关的技术治理或机器学习问题,重点关注对 AGI 公司有实际行动价值的议题。

研究小组概览

我感兴趣的广泛议题包括:

​

  • 前沿 AI 安全政策,以及为企业提出切实可行的改进建议
  • 现有前沿 AI 安全法规,例如欧盟通用 AI 行为准则或 SB 53
  • 危险能力的评估与缓解,尤其是失控风险
  • 通过分析欧盟或加州等相关法规,推动中国更广泛采用前沿 AI 安全实践

项目期间的工作地点:

SF Bay Area

导师

Michael Chen
California Council on Science & Technology
,
AI 科学顾问/博士研究员
Policy and Governance
Capability and Propensity Evaluations
AI 技术治理

Michael Chen 担任加州州长紧急服务办公室(Cal OES)的 AI 科学顾问,为高级管理层提供前沿 AI 安全与风险评估建议,尤其关注重大安全事件、AI 与网络防御,以及开发者内部部署 AI 所带来的风险,例如 AI 智能体实施破坏或自动化 AI 研发。作为科学顾问,他与加州各州政府部门的 AI 治理负责人协调,并推动学术界、私营部门、社区和非营利组织开展跨领域合作。

​

此前,Michael 曾在 METR 从事基于评估的 AI 治理工作。METR 是一家位于加州的独立非营利机构,评估自主 AI 智能体的能力与风险。他曾为领先 AI 开发者提供建议,协助建立评估、缓解并透明披露灾难性 AI 风险的框架;也参与第三方评估,包括审阅开发者关于 AI 智能体破坏风险的报告,并整理 AI 智能体偏离操作者意图的事件案例。他还与美国政府机构合作开展前沿 AI 评估,包括国家标准与技术研究院(NIST)下属的人工智能标准与创新中心(CAISI)。他曾在加州大学伯克利分校人类兼容 AI 中心研究如何让语言模型学习人类偏好。他关于 AI 的研究和评论曾见于《时代》、The Guardian 和《麻省理工科技评论》。Michael 目前在牛津大学兼读博士,同时也是 Oxford Martin AI Governance Initiative 的研究成员。

阅读更多

我们希望招收的学员

希望招募写作和研究能力强、能够独立自主工作的学员!我希望学员能够端到端地完成有意义的研究成果,最好还有撰写相关论文的经验。

项目遴选

我可能会直接分配项目,也可能请你从项目列表中选择,或和你一起讨论项目想法。