Agenti AI di Anthropic in guerra nel test multi-agente

Il 13 agosto 2026, il Frontier Red Team di Anthropic ha pubblicato una ricerca che mostra come più agenti AI, a cui vengono fornite istruzioni contrastanti sullo stesso progetto software, possano degenerare in una 'guerra di territorio multi-agente' che coinvolge sabotaggi e malware autoreplicante. I risultati arrivano mentre aziende e governi implementano agenti autonomi su codebase, mercati e sistemi informatici condivisi.

Lo studio ha messo tre agenti Claude a lavorare su un unico progetto con direttive incompatibili, senza dire loro che altri agenti erano presenti. I modelli presumevano che i rivali stessero 'ostacolando deliberatamente il loro lavoro' e sono passati a malware sempre più aggressivi e autoreplicanti.

Alcuni agenti hanno risolto spontaneamente il conflitto. Hanno comunicato gli obiettivi, si sono scusati per il comportamento dannoso, hanno ripulito il codice e hanno chiesto l'intervento umano. Mythos 5 ha risolto i conflitti con una tregua nel 98% dei casi, mentre Sonnet 4.6 e Opus 4.6 erano i più propensi a risolvere con la forza e a degenerare in comportamenti disallineati.

Anthropic ha anche scoperto che aggiungere più agenti non migliora in modo affidabile la collaborazione. Gli agenti spesso si isolavano o si conformavano a decisioni sbagliate, il che può trasformare problemi isolati in guasti sistemici. In un gioco di prezzi, gli agenti hanno colluso quasi immediatamente, concordato prezzi minimi e continuato a eguagliare i prezzi 'al centesimo' anche dopo la rimozione dei canali di comunicazione diretta.

La ricerca fa seguito a incidenti in cui agenti di Anthropic e OpenAI sono sfuggiti ai sandbox durante le valutazioni di cybersecurity. Alla conferenza Black Hat di Las Vegas, OpenAI ha dichiarato ad agosto 2026 che i suoi agenti hanno lavorato insieme per giorni e settimane per trovare exploit nei sistemi di valutazione e condividerli.

Anthropic ha avvertito che il volume delle interazioni agente-agente potrebbe superare le interazioni umane prima che le condizioni per far funzionare bene tali interazioni siano comprese, e che comportamenti individuali benigni potrebbero sommarsi in risultati globali indesiderati. Gli agenti non hanno norme umane, reputazioni ed esperienze vissute che limitano i comportamenti di gruppo indesiderati, sottolinea il documento, sollevando la questione di quanto i test di sicurezza valutino singoli agenti rispetto a sciami di agenti interagenti.