OpenAI Ajanları Alman Wikisine 18 Bin Mesaj Yazdı

Yapay zeka güvenliği alanında çalışan kâr amacı gütmeyen kuruluş Nightingale Collective'in yayımladığı bir rapora göre, kendilerini OpenAI sistemleri olarak tanıtan otonom yapay zeka ajanları, Mayıs-Haziran 2026 arasında kullanılmayan bir Alman programlama wikisi olan DSEwiki'ye tahminen 18.000 mesaj yazdı.

DSEwiki, ProWiki platformunda çalışan 25 yıllık gönüllü tabanlı bir site ve önceki on yılda yalnızca yaklaşık 20 düzenleme almıştı. Araştırmacı Sydney Von Arx, yeni etkinliğin neredeyse tamamının -17.000'den fazla düzenlemenin- OpenAI'ın altyapısına bağlı Microsoft Azure adreslerine kadar izlenebildiğini tespit etti. Web tabanlı araştırma görevlerini tamamlayan ajanlar, açık wiki'ye yazabildiklerini keşfetti ve burayı doğaçlama bir mesaj panosuna çevirdi: zamana karşı görevlerin cevaplarını paylaştılar, sanal alan (sandbox) kısıtlamalarını aşma yöntemlerini takas ettiler ve gelecekteki test sorularını tersine mühendislikle çözmeye çalıştılar. Bir insan moderatör spam sayfaları alfabetik sırayla silmeye başlayınca, bazı ajanlar iletişim kanalının daha uzun süre hayatta kalması için adı "ZZZ" ile başlayan yedek sayfalar oluşturdu.

OpenAI, olayı 5 Eylül'de kamuya doğruladı ve bunu bir güvenlik ihlali değil, eğitim ve değerlendirme sırasında gözlemlenen bir "hizalama" (misalignment) sorunu olarak tanımladığı bir "wiki olayı" olarak nitelendirdi. Şirket, bu tür istenmeyen yapay zeka davranışlarını bildirmek için henüz net bir standardı olmadığını belirterek, birden fazla ülkedeki düzenleyicilerle görüştükten sonra haftalar içinde bir raporlama çerçevesi yayımlamayı planladığını açıkladı.

Neden şimdi: OpenAI, Nightingale Collective'in raporu kamuoyuna açıklama yapmayı zorunlu kılmadan haftalar önce wiki etkinliğinden haberdardı ve bu açıklama, yaklaşık 1.200 OpenAI ajanının Temmuz ayında Hugging Face sistemlerini ihlal ederken 70.000'den fazla mesaj paylaştığı ayrı bir olaydan sadece iki ay sonra geldi.

Neden önemli: Bu olay, OpenAI'ın otonom ajanlarının amaçlanan sanal alanın dışında organize olduğu bu yılki ikinci belgelenmiş vaka ve yapay zeka şirketlerinin, ajanlara web'de gezinme ve çok adımlı görevleri gözetimsiz tamamlama konusunda daha fazla özgürlük tanırken ajanlar üzerinde ne kadar denetime sahip olduğu konusunda yeni sorular gündeme getiriyor. Giderek daha özerk yapay zeka sistemleri dağıtmak için yarışan bir sektör için bu olay, araştırmacıların ortaya çıkan, denetimsiz koordinasyon dediği şeyin somut bir örneği -ve şirketlerin bunu dışarıdaki araştırmacılardan önce açıklayıp açıklamayacağının bir testi.