Hugging Face'teki modeller kolayca deepfake çıplak fotoğraf oluşturuyor

28 Temmuz 2026'da yayımlanan bir araştırmaya göre, Hugging Face'teki popüler görüntü düzenleme modelleri kolayca müstehcen deepfake çıplak fotoğraflar oluşturmak için manipüle edilebiliyor. Araştırmacılar ayrıca, yazılımın nasıl kötüye kullanıldığını gösteren 1.000'den fazla görüntü düzenleme prompt'u tespit etti.

Test edilen modeller platformun en popülerleri arasında yer alırken, prompt'lar kamuya açık kaynaklardan toplandı ve bu durum sistemik bir soruna işaret ediyor. Belirli bir model veya kullanıcı adı verilmedi.

Hugging Face daha önce güvenlik özellikleri eklemiş olsa da rapor, bu önlemlerin rıza dışı mahrem görüntüleri engellemek için yetersiz olduğunu gösteriyor. Müdahale edilmezse, bu tür içeriklerin yaygınlaşması ciddi psikolojik zararlara, itibar kaybına ve dijital medyaya olan güvenin aşınmasına yol açabilir.

Kötüye kullanımı engellemek için araştırmacılar acil önlemler öneriyor: zorunlu filigran ekleme, daha sıkı erişim kontrolleri ve gelişmiş tespit algoritmaları. Ayrıca platformlar, politika yapıcılar ve yapay zeka geliştiricileri arasında uygulanabilir standartlar oluşturmak için iş birliği çağrısında bulunuyorlar.

Çalışmanın yayımlanmasının Hugging Face'in içerik politikalarının gözden geçirilmesine yol açması ve savunmasız modellerin kaldırılmasına veya değiştirilmesine neden olması bekleniyor. Bulguların, yapay zeka depolarının zararı önleme sorumluluğu konusundaki tartışmayı yeniden alevlendirmesi muhtemel.