实证研究

本方向以研究方法而非单一议题为核心。学员通过机器学习实验，理解并提升前沿模型的安全属性，课题涉及可解释性、AI 控制、可扩展监督、评估、红队测试、鲁棒性，以及错位行为模型生物等。共同特点是通过实际模型开展工作（训练、探测、微调、测量等），而不只是从第一性原理推演。这是项目中规模最大的方向，也是进入技术 AI 安全研究最常见的途径。

我们希望学员主要使用机器学习工程方法，且具备广义上的相关能力。核心要求是能够设计并运行针对语言模型或其他深度学习系统的实验，并根据结果快速迭代。通常，这意味着熟悉 Python（无论是否借助 AI 编程工具），了解中等规模模型运行所需的基础设施，并能判断哪些实验值得开展。使命契合度也很重要；学员应能说明某项实证研究如何实质性降低前沿 AI 风险，而不只是它能否产出论文。与其他方向相比，学历和资历并非主要考量。以往表现出色的学员包括本科生，也包括资深行业研究人员。

我们会根据契合度为学员匹配导师，并规划项目，使其在项目结束前产出具体成果，例如论文、评估套件、开源工具或技术报告。本方向的成果面向前沿实验室的安全与对齐团队、政府及其他评估机构，以及更广泛的机器学习研究社区。

如果你对这类研究感兴趣，欢迎申请。