链接

研究重点

AI Control and Monitoring, Alignment Training Methods, Technical AI Governance, Interpretability, AI Systems Security

Jan 是 Institute for AI Policy and Strategy(IAPS)的研究员,致力于通过技术治理降低 AI 带来的灾难性风险。他目前在分析国家安全领域使用前沿 AI 可能带来的严重风险,并设计蜜罐机制来保护内部 AI 智能体。

​

加入 IAPS 之前,他曾参加 GovAI 冬季项目和 Pivotal 项目,并在 CISPA Helmholtz Center for Information Security 攻读博士。他此前的研究涉及可解释性、机器学习安全和 AI 对齐。他拥有信息系统学士学位和计算机科学硕士学位。