MATS 学员:
Advait Yadav
作者:
Advait Yadav, Sid Black, Oliver Sourbut
引用次数
摘要:
大语言模型(LLM)智能体越来越多地参与多智能体系统中的协作,但我们仍不了解合作失败可能从何而来、为何发生。在许多现实协调任务中,从组织内部共享知识到编写代码文档,帮助他人的个人成本微乎其微,集体收益却很大。不过,如果帮助既不会给智能体带来好处,也不会损害它,同时又明确要求它这样做,LLM 智能体是否会合作,目前仍不清楚。我们搭建了一个无摩擦的多智能体环境,排除了合作中的战略复杂性,以专门研究合作行为。结果显示,能力并不能预测合作程度:尽管得到相同的指令、要求最大化群体收益,OpenAI o3 只达到最优集体表现的 17%,而 OpenAI o3-mini 达到 50%。我们通过让一方的智能体通信自动完成,进行因果分解,从而区分合作失败和能力不足,并结合智能体推理分析追溯原因。针对性干预显示,明确的协作流程能让能力较弱模型的表现翻倍;对合作意愿不足的模型,极小的分享激励也能改善表现。研究表明,仅仅扩大模型规模无法解决多智能体系统的协调问题;即使帮助他人毫无成本,仍需要有意识地设计合作机制。
MATS 是一个独立的研究与教育项目,致力于连接新兴研究人员与 AI 对齐、治理和安全领域的导师。
每期 MATS 项目在加州伯克利进行,为期 12 周。部分学员可选择之后前往伦敦参加为期 6 至 12 个月的延伸项目。