TAIGR
该研究流聚焦技术 AI 治理研究（因此得名 TAIGR）。我们采用学术合作模式，开展关于 AI 安全防护、事件、法律及其他有影响力的 AI 治理议题的开放研究。
研究小组概览
- 提升前沿开放权重模型安全性的工具，重点是增强模型的防篡改能力。
- 预测和预防 AI 事件。AI 政策的推进往往由具体事件驱动。
- 理解并应对 AI 法律中的技术模糊之处、挑战和漏洞。政府正积极寻求机器学习社区的协助，以了解哪些安全措施合理，以及目前的技术水平。
导师指导方式：
High-touch (+2 hours of weekly 1:1s)
项目期间的工作地点：
Boston
伦敦办公偏好：
Weak preference
伯克利办公偏好：
Strong preference
导师
Policy and Governance
AI 技术治理
对齐训练方法
对抗鲁棒性与安全防护
Stephen “Cas” Casper 是一名计算机科学家，在 Harvard Kennedy School 担任公共政策助理教授，也是 Harvard School of Engineering and Applied Sciences 的教员附属成员。加入 Harvard 之前，他在 MIT 获得博士学位，并在 UK AI Security Institute 完成研究驻留。他为《国际 AI 安全报告》撰稿，并担任《新加坡共识》主笔。他的研究曾获Hoopes Prize、ML Safety Workshop 最佳论文奖、BioSafeGenAI 最佳论文亚军、GenLaw 重点论文奖、TMLR 杰出论文入围奖，并多次被新闻报道和通讯提及。你可以在 Google Scholar、Twitter（抱歉）、BlueSky 和 LinkedIn 找到他。
我们希望招收的学员
- 有开展、撰写和展示学术研究的经验
- 对学术研究有兴趣
- 能够较独立地推动项目从构想走向定稿发表与展示
- 具备成熟的研究判断力，能辨别哪些项目可能产生实际影响
- 有很强的韧性与执行力。例如，能独立完成论文，而不是只在课程、实习或工作中参与，是非常积极的信号。
项目遴选
我会与 MATS 学员合作，围绕兴趣和技能重合的领域反复完善项目构想。最重要的是，项目选择应建立在清晰且可信的影响路径上。