Moderasi AI Meta memblokir akun di Facebook dan Instagram

Meta, perusahaan induk Facebook dan Instagram, semakin mengandalkan kecerdasan buatan untuk menegakkan pedoman komunitasnya, yang menyebabkan lonjakan pemblokiran akun dan penghapusan konten. Sistem otomatis yang dirancang untuk mengidentifikasi dan menghapus postingan yang melanggar dengan cepat ini telah menuai kritik karena kurangnya nuansa dan seringnya kesalahan, yang memengaruhi berbagai pengguna mulai dari individu biasa hingga organisasi berita. Perubahan ini penting karena menimbulkan pertanyaan tentang kebebasan berekspresi dan akuntabilitas moderasi otomatis, terutama ketika kesalahan dapat membungkam suara-suara sah tanpa pengawasan manusia.

Menurut laporan The New York Times, sistem moderasi AI Meta telah bertanggung jawab menghapus jutaan postingan dan memblokir banyak akun, seringkali tanpa justifikasi yang jelas. Artikel tersebut menyoroti kasus-kasus spesifik di mana konten salah ditandai, termasuk postingan dari Garowe Online, sebuah outlet berita Somalia, yang mengalami pembatasan di Facebook. Laporan tersebut tidak memberikan jumlah pasti pemblokiran atau tanggal, tetapi mencatat bahwa keputusan AI seringkali tidak transparan, sehingga pengguna memiliki jalur banding yang terbatas.

Latar belakang dari sumber menunjukkan bahwa Meta telah memperluas penggunaan AI untuk moderasi selama beberapa tahun terakhir, dengan tujuan menangani volume besar konten yang diunggah setiap hari. Namun, pendekatan ini sebelumnya telah menuai kritik karena secara tidak proporsional memengaruhi kelompok marginal dan penutur non-Inggris. Pengawasan terbaru ini menyusul kontroversi sebelumnya di mana algoritma Meta gagal menangkap ujaran kebencian atau misinformasi sementara terlalu ketat terhadap konten yang tidak berbahaya.

Ke depannya, sumber tersebut menyarankan bahwa Meta mungkin perlu menyempurnakan sistem AI-nya untuk menyeimbangkan penegakan aturan dan akurasi. Perusahaan dapat menghadapi tekanan yang meningkat dari regulator dan publik untuk memberikan lebih banyak transparansi dan pengawasan manusia dalam keputusan moderasi. Tanpa perubahan, risiko semakin mengasingkan pengguna dan merusak kepercayaan pada platform tetap tinggi.