MATS 学员:
Jasmine Li
作者:
Jasmine Li, Alex Turner
引用次数
摘要:
行为评估可能会变得毫无价值;我们认为这将是灾难性的。聪明但失配的模型可能察觉自己正在受评估(“评估意识”),随后故意表现良好,以免我们发现它已经失配(“评估博弈”)。我们认为,与降低模型的评估意识相比,提升评估合作性或许是更容易扩展的评估博弈解决方案。
MATS 是一个独立的研究与教育项目,致力于连接新兴研究人员与 AI 对齐、治理和安全领域的导师。
每期 MATS 项目在加州伯克利进行,为期 12 周。部分学员可选择之后前往伦敦参加为期 6 至 12 个月的延伸项目。