Studi: Model di Hugging Face Mudah Buat Deepfake Porno

Model pengeditan gambar populer di Hugging Face dapat dengan mudah dimanipulasi untuk membuat deepfake nude eksplisit, demikian temuan studi yang dirilis pada 28 Juli 2026. Para peneliti juga menemukan lebih dari 1.000 prompt pengeditan gambar yang menunjukkan bagaimana orang menyalahgunakan perangkat lunak tersebut.

Model yang diuji termasuk yang paling populer di platform, dan prompt dikumpulkan dari sumber publik, menunjukkan masalah sistemik. Tidak ada model atau pengguna tertentu yang disebutkan.

Hugging Face sebelumnya telah memperkenalkan fitur keamanan, tetapi laporan tersebut menunjukkan bahwa fitur tersebut tidak cukup untuk mencegah citra intim non-konsensual. Tanpa intervensi, penyebaran konten semacam itu dapat menyebabkan kerugian psikologis parah, kerusakan reputasi, dan erosi kepercayaan pada media digital.

Untuk mengekang penyalahgunaan, para peneliti merekomendasikan langkah-langkah segera: watermarking wajib, kontrol akses yang lebih ketat, dan algoritma deteksi yang ditingkatkan. Mereka juga mendorong kolaborasi antara platform, pembuat kebijakan, dan pengembang AI untuk menetapkan standar yang dapat ditegakkan.

Rilis studi ini diperkirakan akan mendorong peninjauan kebijakan konten Hugging Face dan dapat mengarah pada penghapusan atau modifikasi model yang rentan. Temuan ini kemungkinan akan memicu kembali perdebatan tentang tanggung jawab repositori AI dalam mencegah bahaya.