评估合作性或可成为缓解评估博弈的可扩展方法

MATS 学员:

Jasmine Li

作者:

Jasmine Li, Alex Turner

引用次数

Citations

摘要:

行为评估可能会变得毫无价值;我们认为这将是灾难性的。聪明但失配的模型可能察觉自己正在受评估(“评估意识”),随后故意表现良好,以免我们发现它已经失配(“评估博弈”)。我们认为,与降低模型的评估意识相比,提升评估合作性或许是更容易扩展的评估博弈解决方案。

近期研究

非大国冲突与 AI 风险

作者:

Kristina Kempkey

日期:

八月 26, 2026

引用次数:

合成角色预训练:从第一个 token 开始对齐

作者:

Julian Minder

日期:

八月 13, 2026

引用次数:

常见问题

什么是 MATS 项目?
项目持续多久?