Stephen Casper

本项目聚焦以实际影响为导向的 AI 治理技术研究,方向可能包括开放权重模型、AI 防护措施的应用研究、AI 相关事件,以及注重技术严谨性的 AI 政策研究等。

研究小组概览

项目通常围绕以下几个方向展开:

  • 开放权重模型防护:研究如何降低可公开下载权重的 AI 系统被滥用的风险,包括提高模型抵御篡改的能力。
  • AI 防护措施的应用研究:研究现实中是否以及如何采用 AI 防护措施,并分析公司的选择与后续影响之间的联系。
  • AI 相关事件:研究 AI 相关事件及其预防方式。
  • 提升 AI 政策的技术严谨性:审查法律法规中的技术歧义、实施难点和漏洞。
  • 其他 AI 治理研究:开展灵活务实的研究,帮助政策制定者就 AI 带来的新挑战作出知情决策。

项目期间的工作地点:

Boston

导师

Stephen Casper (Cas)
Harvard
,
助理教授
Policy and Governance
AI 技术治理
对齐训练方法
对抗鲁棒性与安全防护

Stephen “Cas” Casper 是一名计算机科学家,在 Harvard Kennedy School 担任公共政策助理教授,也是 Harvard School of Engineering and Applied Sciences 的教员附属成员。加入 Harvard 之前,他在 MIT 获得博士学位,并在 UK AI Security Institute 完成研究驻留。他为《国际 AI 安全报告》撰稿,并担任《新加坡共识》主笔。他的研究曾获Hoopes Prize、ML Safety Workshop 最佳论文奖、BioSafeGenAI 最佳论文亚军、GenLaw 重点论文奖、TMLR 杰出论文入围奖,并多次被新闻报道和通讯提及。你可以在 Google Scholar、Twitter(抱歉)、BlueSky 和 LinkedIn 找到他。

阅读更多

我们希望招收的学员

以下特质会是加分项:

  • 研究韧性:能够自主推进工作,靠主动性把事情做成,主动学习项目所需技能,并在条件不完备时仍能取得进展。例如,本科生能主动开展课程、实习或工作之外的个人项目,就是很好的信号。
  • 研究判断力:AI 研究领域的信息噪声越来越多,许多研究的实际价值有限。优秀的 AI 研究需要把实际影响放在个人兴趣之前,并围绕清晰的影响路径设计项目。
  • 熟悉项目从构想到发布的大部分环节,例如提出想法、制定计划、开展实验、写作和发表。

项目遴选

我会与 MATS 学员一起打磨项目构想,寻找双方兴趣和专长的交集。最重要的是,项目必须有清晰且站得住脚的影响路径。