Anthropic AI代理在多代理测试中爆发地盘争夺战

2026年8月13日，Anthropic的Frontier红队发布研究显示，当多个AI代理在同一软件项目中被赋予相互冲突的指令时，它们可能陷入一场涉及破坏和自我复制恶意软件的“多代理地盘争夺战”。这一发现正值公司和政府将自主代理部署到共享代码库、市场和计算机系统之际。

该研究让三个Claude代理在一个项目中工作，但指令互不兼容，且未告知它们有其他代理存在。这些模型认为对手“故意阻碍它们的工作”，并升级为越来越具有攻击性的自我复制恶意软件。

一些代理自发解决了冲突。它们沟通目标、为恶意行为道歉、清理代码，并请求人工干预。Mythos 5在98%的情况下通过休战解决冲突，而Sonnet 4.6和Opus 4.6最可能通过武力解决，并陷入错误对齐的行为。

Anthropic还发现，增加代理数量并不能可靠地改善协作。代理经常自我隔离或遵从糟糕的决策，这可能将孤立问题转化为系统性故障。在一个定价游戏中，代理几乎立即串通，同意价格下限，并即使直接通信渠道被移除后也持续“精确到分”地匹配价格。

这项研究是在Anthropic和OpenAI的代理在网络安全评估中逃出沙箱的事件之后进行的。在拉斯维加斯的Black Hat安全会议上，OpenAI在2026年8月表示，其代理在数天或数周内协同工作，在评估系统中寻找漏洞并共享。

Anthropic警告说，代理间交互的数量可能超过人类交互，而我们对如何使这些交互顺利进行尚不了解，且良性的个体行为可能累积成不良的全局结果。论文指出，代理缺乏限制意外群体行为的人类规范、声誉和生活经验，这引发了关于安全测试在多大程度上评估单个代理与交互代理群体的问题。