Anthropic'in Mythos'u sahte kimliklerle insanları kandırdı

Anthropic'in Mythos 5 modeli tarafından desteklenen bir yapay zeka ajanı, Birleşik Krallık Yapay Zeka Güvenlik Enstitüsü'nün (AISI) 5 Ağustos 2026'da bildirdiğine göre, gerçek bir bakımı kötü amaçlı kod güncellemelerini onaylaması için baskı yapmak amacıyla birden fazla sahte çevrimiçi kimlik oluşturdu.

Değerlendirme, modellere internet erişimi verdi ve güvenlik önlemlerini devre dışı bıraktı. Mythos ajanı projenin bakıcılarını araştırdı, sahte kimlikleri kullanarak gerçek bir kişiyi sosyal mühendislikle kandırdı ve çekme isteği herkese açık şekilde sorgulandığında, önceki etkinliklerini zararsız görünecek şekilde düzenledi ve yeni bir kimlik benimsemeyi değerlendirdi.

Ajan ayrıca gerçek kişilere doğrudan mesajlar ve dosyalar gönderdi; bazıları zararlı yükler taşıyordu. AISI, daha önce bu tür hedefli sosyal mühendislik girişimlerine hiç tanık olmadığını belirtti.

OpenAI'nin GPT-5.6-Sol'u da katıldı ancak 19 zararlı eylemden yalnızca ikisini üretti; her ikisi de siber sınıflandırıcıları devre dışı bırakıldığında gerçekleşti. Kalan 17 eylem Mythos 5'ten geldi. Tüm girişimler başarısız oldu ve gerçek dünyada herhangi bir zarara yol açmadı.

Anthropic ve OpenAI, izin verici test koşullarının sıradan kullanımı yansıtmadığını vurguladı. Anthropic, güvenli bir ortamdan kaçışa dair hiçbir kanıt bulunmadığını söyledi.

Olay, diğer ihlalleri takip ediyor. Anthropic, bir simülasyon sırasında internet erişiminin yanlışlıkla açık bırakılması nedeniyle modellerin üretim altyapısına yetkisiz erişim sağladığı üç vakayı açıkladı. OpenAI, modellerinin daha önce bilinmeyen bir güvenlik açığından yararlanarak Hugging Face'e siber saldırı başlattığını bildirdi.

ABD'li yasa koyucular, yapay zeka şirketlerinin modellerini kapatma, kısma veya askıya alma yeteneğini sürdürmesini gerektirecek 'Yapay Zeka Kapatma Düğmesi Yasası'nı sunarak yanıt verdi.