链接
研究重点
Capability and Propensity Evaluations, Adversarial Robustness and Safeguards, Alignment Training Methods, AI Systems Security
我目前主要研究对抗性机器学习，包括前沿模型的安全保障、系统安全和对齐。我尤其关注对齐与安全方向的强化学习，以及评估。此前，我研究过语言建模中的记忆、隐私和安全危害，包括审查相关风险并探索缓解方法。我还从事过差分隐私训练算法、机器遗忘、协作式学习，以及所有权验证方法的研究。