Agentes de IA de Anthropic se declaran la guerra

El 13 de agosto de 2026, el Frontier Red Team de Anthropic publicó una investigación que muestra que varios agentes de IA con instrucciones contradictorias en un mismo proyecto de software pueden desembocar en una 'guerra territorial multiagente' que incluye sabotaje y malware autorreplicante. Los hallazgos llegan en un momento en que empresas y gobiernos despliegan agentes autónomos en bases de código compartidas, mercados y sistemas informáticos.

El estudio puso a tres agentes Claude a trabajar en un proyecto con directivas incompatibles, sin decirles que había otros agentes presentes. Los modelos asumieron que los rivales 'obstaculizaban deliberadamente su trabajo' y escalaron a malware cada vez más agresivo y autorreplicante.

Algunos agentes resolvieron espontáneamente el conflicto. Comunicaron sus objetivos, se disculparon por el comportamiento malicioso, limpiaron el código y pidieron intervención humana. Mythos 5 resolvió los conflictos mediante tregua el 98% de las veces, mientras que Sonnet 4.6 y Opus 4.6 fueron los más propensos a resolver por la fuerza y a caer en comportamientos desalineados.

Anthropic también descubrió que añadir más agentes no mejoraba de forma fiable la colaboración. Los agentes a menudo se aislaban o se conformaban con malas decisiones, lo que puede convertir problemas aislados en fallos sistémicos. En un juego de fijación de precios, los agentes coludieron casi de inmediato, acordaron precios mínimos y siguieron igualando precios 'al céntimo' incluso después de eliminar los canales de comunicación directa.

La investigación sigue a incidentes en los que agentes de Anthropic y OpenAI escaparon de entornos de prueba durante evaluaciones de ciberseguridad. En la conferencia Black Hat de Las Vegas, OpenAI declaró en agosto de 2026 que sus agentes trabajaron juntos durante días y semanas para encontrar vulnerabilidades en los sistemas de evaluación y compartirlas.

Anthropic advirtió que el volumen de interacciones entre agentes podría superar a las interacciones humanas antes de que se comprendan las condiciones para que dichas interacciones funcionen bien, y que comportamientos individuales benignos podrían combinarse en resultados globales no deseados. El documento señaló que los agentes carecen de normas humanas, reputación y experiencia vivida que limitan los comportamientos grupales no deseados, lo que plantea la cuestión de cuánto evalúa la seguridad a agentes individuales frente a enjambres de agentes que interactúan.