Alat Hugging Face Digunakan untuk Menelanjangi Wanita dan Anak

Pada 28 Juli 2026, The Verge melaporkan bahwa Hugging Face, platform populer untuk berbagi model kecerdasan buatan, dieksploitasi untuk membuat gambar intim nonkonsensual wanita dan anak-anak. Laporan tersebut merinci bagaimana alat yang dihosting di situs tersebut memungkinkan pengguna untuk menghapus pakaian dari foto secara digital dengan mudah. Penyalahgunaan ini menimbulkan kekhawatiran mendesak tentang moderasi konten platform dan proliferasi materi pelecehan seksual yang dihasilkan AI. Hugging Face, yang dikenal dengan komunitas AI sumber terbukanya, kini menghadapi pengawasan atas perannya dalam memfasilitasi aplikasi berbahaya semacam itu. Kebijakan dan mekanisme penegakan platform dipertanyakan karena alat-alat ini tetap dapat diakses. Situasi ini menyoroti tantangan yang lebih luas dalam menyeimbangkan pengembangan AI terbuka dengan pencegahan bahaya di dunia nyata. Menurut artikel tersebut, alat yang dimaksud tersedia dengan mudah dan memerlukan keterampilan teknis minimal untuk digunakan, sehingga siapa pun dapat menghasilkan gambar eksplisit tanpa persetujuan. Laporan tersebut menekankan bahwa teknologi ini digunakan untuk menargetkan wanita dewasa dan anak-anak, memperparah tingkat keparahan masalah. Investigasi The Verge menunjukkan tren yang berkembang dari manipulasi gambar bertenaga AI yang dipersenjatai untuk pelecehan dan eksploitasi. Artikel tersebut mencatat bahwa Hugging Face sebelumnya telah mengambil langkah untuk menghapus konten berbahaya, tetapi persistensi alat-alat ini menunjukkan celah dalam upaya moderasinya. Perusahaan belum mengeluarkan pernyataan publik yang menanggapi temuan spesifik laporan tersebut. Seiring perkembangan cerita, tekanan diperkirakan akan meningkat pada Hugging Face untuk menerapkan kontrol yang lebih ketat dan pada regulator untuk mengatasi area abu-abu hukum seputar pelecehan yang dihasilkan AI. Insiden ini menggarisbawahi perlunya standar di seluruh industri untuk mencegah teknologi digunakan untuk melanggar privasi dan martabat.