简单 LLM 基线在模型差异分析中也很有竞争力

MATS 学员:

Elias Kempf, Bartosz Cywiński

作者:

Elias Kempf, Simon Schrodi, Bartosz Cywiński, Thomas Brox, Neel Nanda, Arthur Conmy

引用次数

1 Citations

摘要:

标准 LLM 评估只测试评估者预先设计的能力或倾向,因此可能漏掉意料之外的差异,例如模型不同版本之间的行为变化,或新出现的失配倾向。模型差异分析旨在自动找出系统性的行为差异,以弥补这一局限。近期方法包括使用 LLM 生成自然语言描述,以及使用稀疏自编码器(SAE)识别可解释特征。然而,目前还没有对这些方法进行系统比较,也没有公认的评估标准。我们针对这一缺口提出评估指标,衡量几项关键要求:泛化性、有趣程度和抽象层级,并据此比较现有方法。结果表明,改进后的 LLM 基线表现可与 SAE 方法相当,且通常能揭示更抽象的行为差异。

近期研究

非大国冲突与 AI 风险

作者:

Kristina Kempkey

日期:

八月 26, 2026

引用次数:

合成角色预训练:从第一个 token 开始对齐

作者:

Julian Minder

日期:

八月 13, 2026

引用次数:

常见问题

什么是 MATS 项目?
项目持续多久?