Sam 是 OpenAI 对齐团队的研究工程师。此前,他在 NYU Alignment Research Group 研究可扩展监督,也曾在 Amazon 担任软件工程师。他的研究包括通过自我博弈训练语言模型赢得辩论,以及 OpenAI 近期开展的智能体操作自动审查工作。
Janika Schmitt 是 Sentinel Bio 的项目官员。Sentinel Bio 是一家专注于生物技术治理的慈善基金。
此前,她曾担任 Institute for Progress 的非驻场研究员,在 University of Cambridge 攻读医学博士期间从事病毒学研究,并在 MIT 参与病原体早期预警工作。她还曾在 Johns Hopkins Center for Health Security、German Center for Infection Research 和 Foresight Institute 担任研究员。
Janika 是德国持证医师,曾在 Heidelberg、Oxford 和 Charité Berlin 学习医学。
我从事 AI 可信保障和文明韧性研究,致力于构建技术基础,让人们能够独立验证关于 AI 系统行为及其运行基础设施的主张,涵盖安全芯片、软件和多方协作。目前,我是英国 Advanced Research and Invention Agency(ARIA)的项目总监,负责Safeguarded AI 项目。这项研发计划规模约为 6,000 万英镑,旨在构建一套数学保障工具包,让大量 AI 智能体以前所未有的速度和规模产出经过形式化验证的成果,涵盖经过验证的软件、微电子,以及各种信息物理控制系统。加入 ARIA 之前,我共同创立并领导了 Principles of Intelligence(前身为 PIBBSS),该研究机构致力于将跨学科科学知识转化并应用于 AI 安全。我还曾是 Alignment of Complex Systems 研究组的研究附属成员,并在 University of Oxford 的 Future of Humanity Institute 担任研究经理。
Alex Chan 是 Asymmetric Security 的首席科学家,负责网络防御和事件响应领域的 AI 工作。此前,他曾任 Salesforce 软件工程总监,领导图形界面智能体的强化学习后训练工作。
Dillon 是 Eleos AI Research 的首席科学家,负责领导组织在 AI 系统感知能力、道德地位和潜在福祉方面的实证研究。加入 Eleos 之前,他曾是 Anthropic 项目研究员,并在 Subjectivity Lab 从事博士后研究。他在 Harvard 的 Josh Greene 实验室获得认知神经科学博士学位,也在 Harvard 获得哲学学士学位。
Pegah Maham 是 Google DeepMind 前沿政策制定团队的政策制定与战略经理,工作聚焦技术 AI 安全、安全保障与国际治理的交叉领域。她主要关注前沿 AI 风险,例如生物安全和 AGI 安全,并研究风险评估与缓解、威胁建模、外部测试、透明度、系统完整性和模型权重安全等议题。
Geoff 从 2011 年起担任 Y Combinator 合伙人,并于 2019 年初至 2022 年底担任该创业加速器的总裁。他曾与数百家 YC 公司合作,包括 Stripe、Ginkgo、Clever、Helion 和 Boom,并投资了 100 多家公司。职业生涯早期,Geoff 曾参与 Yahoo! Mail 的创建,并担任 Yahoo! 首席产品官直至 2006 年。2009 年被 Apple 收购的 Lala Media,也曾由 Geoff 担任首席执行官。
Charlie 是 Intercept 的联席负责人。Intercept 是一支规模达 5 亿美元的基金,由 Stripe 公益事业团队发起,旨在减轻呼吸道感染带来的负担。此前,Charlie 曾任 Global Health Investment Corporation 董事总经理,并共同创立 Adjuvant Capital。在公共卫生投资领域工作之前,他曾在 Artemis Capital Partners 和 Axia Capital 从事私募股权投资。他的职业生涯始于海地最大的微型金融银行 Sevis Finansye Fonkoze。
Charlie 曾主导或参与投资 Curevo Vaccine(被 Eli Lilly 收购)、Vaccine Company(被 Eli Lilly 收购)、Alydia Health(被 Merck 收购)、Iantech(被 Carl Zeiss Meditec 收购)、Eubiologics(Kosdaq:206650)、MDGH(PRV)、Terrestrial Bio、Foundry、Centivax、Excision Biotherapeutics、Codagnix、Endpoint Health、Cytovale 和 Monod Bio。他目前担任 Curevo Vaccine、Aceris Biosciences、Blueprint Biosecurity、ProEquip 以及 Mirror Biology Dialogues Fund 的董事。
Mirko is a research scientist with over 15 years of experience in Machine Learning and Natural Language Processing, specializing in applied research across diverse industries.
His expertise spans Python, Pytorch, TensorFlow, and NLP frameworks like Hugging Face, enabling him to drive impactful machine learning solutions for businesses.
Mirko is passionate about optimizing deep learning model performance and advancing software engineering best practices in deep learning projects.
Charlie Whittaker 是加州大学伯克利分校公共卫生学院的助理教授,并负责该校大流行与流行病威胁分析实验室(PETAL)。他的研究聚焦于具有大流行潜力的病原体的传播动态、可检测性与控制,并运用计算建模研究传染病的传播方式,以加强公共卫生突发事件和可能造成全球灾难的生物风险的准备与应对工作。目前的项目包括:建模分析广谱医疗对策在未来大流行期间可能产生的影响,研究如何优化新一代监测系统的结构与设计,以及评估室内空气消毒技术等。
MATS 项目是一项为期 10 周的研究奖学金计划,旨在培养和支持从事 AI 对齐、透明度和安全研究的新兴研究者。学员将与世界一流的导师合作,获得专门的研究管理支持,并加入位于伯克利、致力于推动安全、可靠 AI 发展的活跃社群。项目提供必要的架构、资源和指导,帮助学员产出有影响力的研究成果,并开启长期的 AI 安全职业生涯。
MATS 导师来自 AI 安全、对齐、治理、领域建设和系统安全等多个方向,都是各自领域的资深研究者。导师包括学界人士、业界研究人员及独立专家。他们会指导学员开展研究、提供反馈,并支持学员成长为研究者。导师的专业领域涵盖:
查看 往届及现任导师
关键日期
申请:
主项目将于 9 月 28 日至 12 月 4 日进行,获选学员的延展阶段将于 12 月开始。
MATS 欢迎来自不同学术和专业背景的申请者:从机器学习、数学和计算机科学,到政策、经济学、物理学、认知科学、生物学和公共卫生;也欢迎没有传统研究背景的创业者、运营人员和领域建设者。主要要求是对 AI 安全有强烈的贡献意愿,并展现出技术能力、研究潜力或相关运营经验。有 AI 安全相关经验会有所帮助,但并非必要条件。