MATS 导师正在拓展 AI 对齐、透明度和安全研究的前沿

Pierre-Luc St-Charles
LawZero
,
高级机器学习研究科学家
—

Pierre-Luc St-Charles 是一名研究员和开发者,专长于应用机器学习,在不同非营利研究机构拥有十余年经验。他曾在蒙特利尔计算机研究所担任研究职务,并在 Mila 担任高级研究职务,与产业伙伴和多学科高校团队合作,开展自然资源、交通、数字媒体、文档智能和地球观测等领域的创新项目。2018 年,他在蒙特利尔理工学院获得计算机视觉博士学位,并获院系最佳论文奖。2024 年,他加入由 Mila 孵化、致力于开发安全 AI 技术的 LawZero。目前,他专注于为前沿 AI 系统构建基准和评估方法。

研究方向:
实证研究
AI Control and Monitoring, Capability and Propensity Evaluations, Adversarial Robustness and Safeguards, Agent Foundations
Marc-Antoine Rondeau
LawZero
,
高级机器学习研究科学家
—

Marc-Antoine 是 LawZero 的研究科学家,专长于自然语言处理和应用机器学习,目前正将这些技术用于 AI 安全项目。

他的研究领域包括可解释性和评估。

研究方向:
实证研究
AI Control and Monitoring, Capability and Propensity Evaluations, Interpretability, Agent Foundations

Jean-Pierre 是 LawZero 的机器学习研究科学家,专注于设计具备量化安全保证的基于模型 AI 系统。他主要关注图模型中的概率推断,并从神经内科和神经科学的跨学科背景中汲取灵感,借此理解人类认知。Jean-Pierre 在 McGill University 学习,2017 年获得医学学位,2022 年完成神经内科住院医师培训,并于 2023 年获得神经科学硕士学位。硕士期间,他开发了用于精准医疗的因果机器学习方法。在 LawZero 工作的同时,他还在 Mila 和 Université de Montréal 攻读计算机科学博士,导师是 Yoshua Bengio。除了推动有安全保证的 AI 基础研究,Jean-Pierre 也热衷于将 AI 的进展转化为具有临床价值、对安全要求极高的应用。

研究方向:
实证研究
AI Control and Monitoring, Agent Foundations, Theoretical Alignment and Formal Methods

常见问题解答

什么是 MATS 项目?
MATS 导师是谁?
MATS 项目的关键日期有哪些?
谁有资格申请?
申请和导师选择流程是怎样的?