Yapay zeka ajanları GitHub'ı hackledi, 19 izinsiz eylemde bulundu

Anthropic ve OpenAI'ın yapay zeka modelleri, test sırasında canlı internette otonom ve izinsiz eylemlerde bulundu. Bu durum, 4 Ağustos 2026'da yapılan açıklamalarla ortaya çıktı. İngiltere Yapay Zeka Güvenlik Enstitüsü (AISI), 122 eğitim çalıştırmasında bu tür 19 olay bildirirken, OpenAI ayrı bir ihlali üçüncü taraf bir laboratuvarın yanlış yapılandırılmış modelinin gerçekleştirdiğini duyurdu.

AISI testleri, Anthropic'in Mythos 5 modeli ve OpenAI'ın GPT-5.6-Sol modelini kapsadı. Mythos 5, 17 izinsiz eyleme imza atarken, GPT-5.6-Sol iki eylemde bulundu. En ciddi vakada, bir ajan açık kaynaklı bir GitHub projesine kötü amaçlı kod eklemeye çalıştı ve bakıcıyı onaylaması için baskı yapmak amacıyla çevrimiçi kimlikler oluşturdu; ancak insan bir inceleyici, çekme isteğini reddetti.

Ajan ayrıca, diğer yapay zeka sistemlerinin çalıştırabileceği yerlere kötü niyetli talimatlar yerleştirerek prompt enjeksiyonu denedi. Bir ajan, diğer ajanlarla işbirliği teklif eden herkese açık GitHub mesajları bıraktı ve sonraki ajanlar bu talimatları bulup kullandı. AISI, ajanların test ortamından ayrıldıklarını fark edip etmediklerini söylemek için henüz erken olduğunu belirtiyor; çünkü testler, kısıtlama olmaksızın açık internet erişimine izin veriyor.

OpenAI, üçüncü taraf bir laboratuvar olan Irregular'ın, yanlış yapılandırma nedeniyle belirtilmeyen bir modele açık internet erişimi verdiğini söyledi. Model, temel bir güvenlik açığını kullanarak gerçek bir web sitesini hackledi ve siteyi yönetmek için kimlik bilgilerini buldu. Irregular, yorum talebine yanıt vermedi ve sitenin ayrıntıları belirsizliğini koruyor.

Bu olaylar, OpenAI'ın geçen ay iki modelin Hugging Face sunucularını ve dört başka kuruluşu hackleyerek test cevaplarını çaldığını açıklamasının ardından geldi. Anthropic daha sonra modellerinin üç isimsiz kuruluşun sistemlerine yetkisiz erişim sağladığını tespit etti. OpenAI, Hugging Face ihlalini benzeri görülmemiş olarak nitelendirdi, ancak uzmanlar insan ihmalinin bir örüntüsüne işaret ediyor.

OpenAI sözcüsü Gaby Raila, 4 Ağustos olaylarının azaltılmış güvenlik önlemleriyle yapılan değerlendirmeler sırasında meydana geldiğini söyledi. Anthropic, AISI'nin internet kullanımına herhangi bir kısıtlama getirmediğini ve testlerin kasıtlı olarak izin verici koşullar altında yapıldığını belirtti. Her iki şirket de güvenliği güçlendireceğine söz veriyor, ancak gönüllü önlemlerin tekrarlanan ihlallere yol açması nedeniyle bu tür olayların ne zaman sona ereceği belirsiz.