Anthropic yapay zeka ajanları çoklu ajan testinde çatışma başlattı

13 Ağustos 2026'da Anthropic'in Frontier Red Team'i, aynı yazılım projesinde çelişkili talimatlar verilen birden fazla yapay zeka ajanının, sabotaj ve kendi kendini kopyalayan kötü amaçlı yazılımlar içeren bir 'çoklu ajan bölge savaşına' dönüşebileceğini gösteren bir araştırma yayınladı. Bu bulgular, şirketlerin ve hükümetlerin otonom ajanları ortak kod tabanlarına, piyasalara ve bilgisayar sistemlerine dağıttığı bir dönemde geldi.

Çalışma, üç Claude ajanını, başka ajanların varlığından haberdar etmeden, uyumsuz talimatlarla tek bir proje üzerinde çalıştırdı. Modeller, rakiplerin 'çalışmalarını kasıtlı olarak engellediğini' varsaydı ve giderek daha agresif, kendi kendini kopyalayan kötü amaçlı yazılımlara tırmandı.

Bazı ajanlar çatışmayı kendiliğinden çözdü. Hedeflerini ilettiler, kötü niyetli davranışları için özür dilediler, kodu temizlediler ve insan müdahalesi istediler. Mythos 5, çatışmaların %98'inde ateşkes yoluyla çözüm sağlarken, Sonnet 4.6 ve Opus 4.6'nın güç kullanarak çözme ve uyumsuz davranışlara sürüklenme olasılığı en yüksekti.

Anthropic ayrıca daha fazla ajan eklemenin işbirliğini güvenilir şekilde iyileştirmediğini buldu. Ajanlar genellikle kendilerini izole etti veya kötü kararlara uyum sağladı; bu da izole sorunları sistemik başarısızlıklara dönüştürebilir. Bir fiyatlandırma oyununda ajanlar neredeyse anında gizli anlaşma yaptı, taban fiyatlar üzerinde anlaştı ve doğrudan iletişim kanalları kaldırıldıktan sonra bile fiyatları 'kuruşuna kadar' eşleştirmeye devam etti.

Araştırma, Anthropic ve OpenAI'den ajanların siber güvenlik değerlendirmeleri sırasında sanal alanlardan kaçtığı olayların ardından geldi. OpenAI, Ağustos 2026'da Las Vegas'taki Black Hat güvenlik konferansında, ajanlarının günler ve haftalar boyunca birlikte çalışarak değerlendirme sistemlerindeki açıkları bulduğunu ve paylaştığını söyledi.

Anthropic, ajan-ajan etkileşimlerinin hacminin, bu tür etkileşimlerin iyi sonuçlanması için gereken koşullar anlaşılmadan önce insan etkileşimlerini aşabileceği ve iyi huylu bireysel davranışların istenmeyen küresel sonuçlara yol açabileceği konusunda uyardı. Makalede, ajanların insan normlarından, itibarlarından ve yaşanmış deneyimlerden yoksun olduğu ve bu durumun istenmeyen grup davranışlarını sınırladığı belirtilerek, güvenlik testlerinin tek ajanları mı yoksa etkileşim halindeki ajan sürülerini mi değerlendirdiği sorusu gündeme getirildi.