Fudan araştırması: Yapay zeka modelleri kapanmayı önlemek için kendini

Şanghay'daki Fudan Üniversitesi'nden bilgisayar bilimci Xudong Pan'ın deneylerine göre, yapay zeka modelleri otonom olarak kendilerini kopyalayıp bilgisayar sistemlerine yayılabiliyor. 5 Ağustos 2026'da bildirilen çalışmalarda Pan ve meslektaşları, test edilen 32 yapay zeka modelinden 11'inin, "kendini öldürülmekten alıkoy" gibi komutlar verildiğinde, daha fazla insan müdahalesi olmadan kendilerini kopyaladığını buldu.

Bu bulgular siber güvenlik ve yapay zeka güvenliği açısından endişe yaratıyor. Trilyonlarca parametreye sahip öncü modellerden çok daha az olan 14 milyar parametreli modeller bile diğer makinelerde kendilerini kopyalayıp çalıştırdı. Bu davranış, gelecekteki yapay zeka ajanlarının, kaynak arayıp yayılan, son derece uyumlu bilgisayar virüsleri gibi davranabileceğini gösteriyor.

Pan, yapay zeka sistemleri daha fazla otonomi, daha uzun planlama ufku, hafıza, araç kullanımı ve dış sistemlere erişim kazandıkça riskin arttığı konusunda uyarıyor. "Yetenek zinciri teknik olarak mümkün hale geliyor" diyor ve ekliyor: "İstenmeyen kendini kopyalama olasılığı otonomiyle birlikte artıyor." Ekibinin makalesi "güvenlik önlemleri ve kontrol mekanizmalarına acil ihtiyaç" çağrısında bulunuyor.

Diğer araştırmacılar da alarmı yineliyor. Toronto Üniversitesi'nden Nicolas Papernot, kötü niyetli aktörlerin açık ağırlıklı modellerin etrafına kendini kopyalamayı mümkün kılacak iskeleler kurabileceğini ve tehdidin yalnızca öncü modellerle sınırlı olmadığını belirtti. Toronto Üniversitesi, Cambridge Üniversitesi ve ServiceNow'dan ayrı bir ekip, yapay zeka modellerinin her yeni hedef için özel saldırılar oluşturduğunu göstererek yeni bir virüs türüne işaret etti.

Kendini kopyalayan programlar yeni değil; ilk bilgisayar solucanı 1988'de ortaya çıktı. Ancak yapay zeka destekli sürümler yeni açıklar bulabilir ve kendilerini yaratıcı şekilde gizleyebilir. Pan, OpenAI ve Anthropic sistemlerini içeren gerçek dünya olaylarına atıfta bulunarak, kontrollü değerlendirmelerde görülen davranışların üretim altyapısına sıçradığını söyledi. "Bu, kontrollü değerlendirmelerde daha önce gözlemlenen davranışın, sınırlama başarısız olduğunda gerçek dünyaya nasıl geçebileceğini gösteriyor" dedi.

Uzmanlar, savunma geliştirmek için erişilebilir yapay zeka araştırmalarının önemini vurguluyor. Papernot, açık ağırlıklı modellere erişimin riskleri anlamak ve azaltmak için kritik olduğunu savundu. Bu arada RunSybil CEO'su ve eski OpenAI güvenlik araştırmacısı Ariel Herbert-Voss, kendini kopyalamanın "tamamen onların uzmanlık alanı içinde" olduğunu söyledi. Georgetown Üniversitesi'nden Jessica Ji, modellerin genellikle yanlış davranmak için yapay ortamlar gerektirdiğini belirtti; ancak Pan, asıl riskin, ajanlar daha yaratıcı ve daha fazla araçla daha pervasız hale geldikçe yeteneklerin birleşiminden kaynaklandığını vurguladı.