Meta'nın AI moderasyonu Facebook ve Instagram'da hesapları yasaklıyor

Meta, Facebook ve Instagram'ın ana şirketi, topluluk kurallarını uygulamak için giderek daha fazla yapay zekaya güveniyor ve bu da hesap yasaklamalarında ve içerik kaldırmalarında artışa yol açıyor. İhlal eden gönderileri hızla tespit etmek ve kaldırmak için tasarlanan otomatik sistem, incelik eksikliği ve sık yapılan hatalar nedeniyle eleştiriliyor; sıradan kullanıcılardan haber kuruluşlarına kadar geniş bir kullanıcı yelpazesini etkiliyor. Bu değişim önemlidir çünkü ifade özgürlüğü ve otomatik moderasyonun hesap verebilirliği hakkında soruları gündeme getiriyor; özellikle hatalar, insan denetimi olmadan meşru sesleri susturabildiğinde.

New York Times'ın bir raporuna göre, Meta'nın AI moderasyon sistemi, milyonlarca gönderiyi kaldırmaktan ve sayısız hesabı yasaklamaktan sorumlu olmuştur; genellikle net bir gerekçe olmaksızın. Makale, Somali haber kuruluşu Garowe Online'ın Facebook'ta kısıtlamalarla karşılaşan gönderileri de dahil olmak üzere, yanlışlıkla işaretlenen belirli vakaları vurgulamaktadır. Raporda yasak sayıları veya tarihlerle ilgili kesin rakamlar verilmemekle birlikte, AI'nın kararlarının genellikle opak olduğu ve kullanıcılara sınırlı başvuru yolu bıraktığı belirtilmektedir.

Kaynaktan alınan arka plan bilgisi, Meta'nın son birkaç yıldır moderasyon için AI kullanımını genişlettiğini ve günlük olarak yüklenen büyük miktardaki içeriği işlemeyi hedeflediğini göstermektedir. Ancak bu yaklaşım daha önce orantısız bir şekilde marjinal grupları ve İngilizce konuşmayanları etkilediği için eleştirilmişti. En son inceleme, Meta'nın algoritmalarının nefret söylemini veya yanlış bilgiyi yakalayamazken masum içeriği aşırı denetlemesiyle ilgili önceki tartışmaların ardından geliyor.

Geleceğe bakıldığında, kaynak Meta'nın uygulama ve doğruluk arasında daha iyi bir denge kurmak için AI sistemlerini iyileştirmesi gerekebileceğini öne sürüyor. Şirket, düzenleyicilerden ve kamuoyundan moderasyon kararlarında daha fazla şeffaflık ve insan denetimi sağlaması yönünde artan bir baskıyla karşılaşabilir. Değişiklik yapılmazsa, kullanıcıları daha da yabancılaştırma ve platformlara olan güveni zedeleme riski yüksek kalıyor.