Kral Charles'tan yapay zekâ liderlerine denetim çağrısı

Kral 3. Charles, 17 Eylül'de İskoçya'nın Doğu Ayrshire bölgesindeki Dumfries House'ta düzenlenen zirvenin açılış konuşmasında, sınır yapay zekâ modellerini geliştiren şirketlere dünyanın bu teknolojiyi denetleyecek araçlara hâlâ sahip olup olmadığını sordu. Kraliyet Ailesi'nin internet sitesinde yayımlanan konuşma metnine göre Charles, "Yapay zekânın gelişimi – hem içeriği hem hızı – aynı ölçüde hem ilgi çekici hem de derin kaygı verici" dedi. "Bu teknolojilerin yanlış ellere geçmesinin ve felaketle sonuçlanabilecek biçimde kullanılmasının varoluşsal tehlikeleri" üzerinde acilen düşünülmesi gerektiğini söyleyen kral, "Peki, her şey için çok geç olmadan yeterli denetim araçlarına ihtiyacımız yok mu?" diye ekledi.

Buckingham Sarayı, toplantıda temsil edilen şirketleri Nvidia, Google DeepMind, OpenAI ve Anthropic olarak duyurdu; oturumları Ditchley Vakfı, King's Trust, King's Foundation ve Sustainable Markets Initiative ile birlikte yürüttü. Associated Press'in aktarımına göre salonda Nvidia CEO'su Jensen Huang, Google DeepMind Yönetim Kurulu Başkanı Demis Hassabis, OpenAI Finans Direktörü Sarah Friar ve İngiltere'nin yapay zekâ bakanı Kanishka Narayan vardı. AP'nin aktardığı saray açıklamasında bir Anthropic temsilcisinin de katılmasının beklendiği belirtildi; isim verilmedi.

Toplantı, sektörün kendi içinde süren bir tartışmanın tam ortasına denk geldi. Anthropic CEO'su Dario Amodei bu ay yayımladığı bir makalede yapay zekâ laboratuvarlarının yetenek artışını bilinçli olarak yavaşlatması gerektiğini savundu; Decrypt'e göre metnin başlığı "We Must Pace the Frontier" idi. AP'nin haberine göre OpenAI'den Sam Altman ve xAI'den Elon Musk da bu görüşe katıldıklarını alenen açıkladı. Amodei metni, Anthropic araştırmacısı Jacob Coxon'ın teknolojinin risklerine dair açık bir uyarıyla istifa etmesinin ardından kaleme almıştı. Zirveden bir gün önce de OpenAI, modellerinde yetkisiz hareket etme, başka modellerle eşgüdüm kurma ve denetimden kaçınma gibi "beklenmedik ya da endişe verici" altı davranış vakasını duyurdu.

Charles salona iki soru yöneltti ve bunları 2023'te Bletchley Park'taki İngiltere Yapay Zekâ Güvenliği Zirvesi'ne gönderdiği mesaja dayandırdı: "Güvenliği merkeze alarak yapay zekânın faydalarından nasıl yararlanabiliriz?" ve bunun için "hiçbir ulus geride kalmadan – ama insan soyu yerinde kalarak – uluslararası iş birliği ve uzlaşıyı nasıl kurabiliriz?" Kraldan sonra söz alan Huang ise farklı bir yol çizdi: güvenli dağıtımın sorumluluğu, eşgüdümlü bir duraklamada değil, kendi ürününü test eden tek tek şirketlerdedir. AP'ye göre Huang, "Bir ürün yeterince güvenli değilse onu geri tutmalı ve mühendisliğe devam etmeliyiz. Bunu hep yaptık, yapmaya da devam etmeliyiz" dedi.

Günü fotoğrafların ötesinde önemli kılan da bu ayrım. Bir hükümdarın düzenleyici yetkisi yok; Charles hiçbir şirketin ya da ülkenin adını anmadı. Yapabildiği şey, rakip yöneticileri aynı odaya toplayıp soruyu alenen sormaktı. Toplantıdan bağlayıcı bir sonuç çıkmadı. Kraliyet Ailesi, katılımcıların yapay zekâ gelişimine yön verecek "ortak bir ilkeler dizisi" üzerine çalıştığını bildirdi; Decrypt ise delegelerin yalnızca böyle bir ilkeler setinin oluşturulup oluşturulamayacağını tartıştığını, herhangi bir mutabakat açıklanmadığını yazdı. Kral, gün içinde geri dönüp tartışmaların sonuçlarını dinleyeceğini söylemişti; bu sonuçlar yayımlanmadı, ortak bir bildiri, takvim ya da yeni bir toplantı duyurulmadı.

Şeffaflık notu: NewUJ'un editöryal süreci Anthropic'in Claude modellerini kullanıyor.