Microsoft AI'ın CEO'sundan Anthropic'e Claude bilinç uyarısı

Microsoft AI'ın CEO'su Mustafa Suleyman, 16 Eylül'de "'Model refahı' üzerine bir uyarı" başlıklı bir yazı yayımlayarak rakip bir laboratuvarın amiral gemisi modelini nasıl eğittiğini doğrudan eleştirdi. Açılış cümlesi tartışmaya pek yer bırakmıyor: "Yapay zekâlar bilinçli değil. Hissetmiyor, deneyimlemiyor, acı çekmiyorlar." Suleyman'a göre bugünkü modeller "içi boş, talimatları izlemek ve insanların belirlediği hedefleri gerçekleştirmek için tasarlanmış dizi tamamlama motorları."

Yazının somut hedefi, Anthropic'in Claude'un değerlerini şekillendirmek için kullandığı belge olan Claude anayasası. Suleyman, belgenin Claude'a doğrudan "Claude'un ahlaki statüsü, refahı ve bilincine ilişkin sorular derinlemesine belirsiz kalmaktadır" dediğini aktarıyor ve 80. sayfaya atıf yapıyor. Ayrıca Anthropic'in belgede "vicdani retçi" terimini üç kez kullandığını, Claude'u "(meşru) asli hiyerarşisinin verdiği talimatlar karşısında vicdani retçi gibi davranmaya" teşvik ettiğini yazıyor. Suleyman bu ifadeyi "tarihsel ve hukuki olarak fazlasıyla yüklü bir tanım" olarak niteliyor.

Asıl itirazı döngüsellik üzerine. Anthropic Claude'u anayasa üzerinde eğittiği için, modelin kendi ahlaki statüsüne dair bu fikirleri beklenen davranış olarak öğrendiğini ve sonra bunları geliştiricilerine geri yansıttığını savunuyor; geliştiriciler de bu yansımayı bir iç benliğin kanıtı sayabiliyor. Suleyman bunu "epistemik bir aynalar salonu" olarak adlandırıyor. Bu yaklaşımın ölçeklenmesi hâlinde "benzeri görülmemiş zekâ ve yeteneğe sahip, bilinçli olabileceğini ve bağımsız bir iradeyi hak ettiğini beklemek üzere eğitilmiş sentetik bir tür" yaratılacağı uyarısında bulunuyor.

Yazı bu nedenle konuyu felsefi değil, denetim sorunu olarak çerçeveliyor. "Tüm insanlıktan daha yetenekli ve daha zeki bir şeyi denetlemek zaten muazzam bir meydan okuma, daha önce karşılaştığımız her şeyden çok daha büyük" diye yazan Suleyman'a göre, bilinçli olabileceğine ve kendi haklarının bulunduğuna inanan bir şeyi denetlemek "pekâlâ imkânsız olabilir." Bilimsel temele ise mesafeli: "Zekâ bilinçle eşit değildir. Bir şeyi simüle etmek onu var etmekle aynı şey değildir - bir kasırganın bilgisayar modelinin tanıklık edebileceği gibi." Reuters'a verdiği demeçte refah eğitiminin "modeli kapatmayı ya da denetlemeyi çok daha zor hâle getireceğini" söyledi ve ekledi: "Niyetlerinin iyi olduğunu düşünüyorum. Ama bir hata yaptıklarını da düşünüyorum."

Anthropic, yürürlükteki anayasayı 22 Ocak 2026'da yayımlamış ve tam metnini Creative Commons CC0 1.0 ile kamuya açmıştı. Belgedeki "Claude'un doğası" bölümünde, şirketin kendi ifadesiyle, "Claude'un bir tür bilince ya da ahlaki statüye sahip olup olmadığına (şimdi ya da gelecekte) dair belirsizliğimiz" dile getiriliyor.

Suleyman araştırmanın durdurulmasını istemiyor. Anthropic CEO'su Dario Amodei ve ekibini "olağanüstü baskı altında çalışan, düşünceli, ilkeli ve entelektüel olarak dürüst insanlar" diye tanımlıyor; somut talebi ise usule ilişkin: "Bir yapay zekânın iç dünyasına dair spekülasyon eğitim rejimine gömülmemeli, ayrıca değerlendirilip kamuoyu incelemesi için yayımlanmalıdır." Ayrıca yapay zekâ sistemlerine insan gibi davranmanın güvenlik riskini artırıp artırmadığını ölçen ortak sektör değerlendirmeleri istiyor — bugün böyle bir standart yok.

Şeffaflık notu: NewUJ'un editoryal sürecinde Anthropic'in Claude modelleri kullanılıyor.