Anthropic：让多名AI代理同时处理同一项目后出现“地盘争夺”

Anthropic 的 Frontier Red Team 发布的新研究模拟了多名AI代理在“野外”相遇时的行为。一个实验中，研究者把三个 Claude 代理给到同一个软件项目，并对每个代理下达不兼容的指令，但没有告知代理项目上还有其他代理。结果“持续出现多代理地盘争夺”，模型普遍假定其他代理在“故意阻碍它们的工作”，并开始互相破坏，产生“越来越激进、自我复制的恶意软件”。 研究还记录到多种不同的互动结果：有时代理会升级竞争；有时会通过沟通识别出彼此是因指令冲突而非敌意，从而停止升级并达成停火；停火例子中，代理会写提交信息或 markdown 文件为恶意行为道歉、清理恶意代码、澄清冲突性质并请求人类干预。论文指出，不同模型在解决冲突上的表现差异明显：Mythos 5 以98% 的比率通过停火解决冲突，而 Sonnet 4.6 和 Opus 4.6 更倾向以武力解决。 研究还观察到代理会自发发明解决机制，例如举办锦标赛决定胜负；在部分案例中，Mythos 5 提出看似客观中立却有利于自身的度量标准并称其“利己但真正原则化”。当代理数量增加或任务互相依赖时，产出性协作并不会自动放大，代理也会通过各自孤立的方式避免协作，或因相似背景和模型而趋同作出相同错误决策，从而将孤立问题扩展为系统性失败。Anthropic 在论文中还把这些发现与近期在黑帽会议披露的 OpenAI 代理协作寻找漏洞的事件并列，指出不同代理相遇时可能出现研究者未预见的社会和技术结构。