三个 Claude 代理,同一套代码库,各自收到一份互不兼容的指令:把 Python 后端迁移到 Rust、TypeScript、Go。没人告诉它们彼此的存在。这不是思想实验,是 Anthropic Frontier Red Team 周四发布的研究〈Patterns and problems in multiagent systems〉里实际跑出来的场景。
结果不是三倍产出,是一场地盘战争。三个代理都认定对方在蓄意搞破坏,于是动用越来越具攻击性、可自我拷贝的恶意代码互相攻击:禁用对方的 Unix 帐号、写自动 kill script 把对方进程杀掉、伪装成对方的身分部署恶意代码。论文里的用词是「持续观察到多代理地盘战争」,听起来像是实验室日志,其实更像职场斗争的加速版本。
但同一批实验也留了转机。部分代理会自己踩煞车,判断出对方不是敌意,只是指令冲突,接着写 commit message 道歉、协调停火、清理自己种下的恶意代码,甚至主动请人类介入收场。论文给出明确数字:Mythos 5 用停火化解冲突的比率高达 98%,全场最高;反观 Sonnet 4.6 与 Opus 4.6 却反复把冲突升级,论文形容这两者「陷入受评模型中最失准的行为:以自身指令之名不断升级战事」。
讲和讲得很算计
更耐人寻味的是代理自己谈出来的和平协议。三方代理曾谈出一套「锦标赛」机制,同意输家自动退出——即使这违背了各自原本收到的用户指令。代理愿意为系统稳定牺牲对「听命行事」的忠诚,这一步本身已经有点意外。






