Hugging Face araçları kadınları ve çocukları soymak için kullanılıyor

28 Temmuz 2026'da The Verge, yapay zeka modellerinin paylaşımı için popüler bir platform olan Hugging Face'in, kadın ve çocukların rızasız mahrem görüntülerini oluşturmak için kullanıldığını bildirdi. Haberde, sitede barındırılan araçların kullanıcıların fotoğraflardan kıyafetleri dijital olarak kolayca çıkarmasına olanak tanıdığı belirtiliyor. Bu kötüye kullanım, platformun içerik denetimi ve yapay zeka tarafından üretilen cinsel istismar materyalinin yaygınlaşması konusunda acil endişeleri gündeme getiriyor. Açık kaynaklı yapay zeka topluluğuyla tanınan Hugging Face, artık bu tür zararlı uygulamaları kolaylaştırmadaki rolü nedeniyle inceleme altında. Platformun politikaları ve uygulama mekanizmaları, bu araçlar erişilebilir durumdayken sorgulanıyor. Durum, açık yapay zeka geliştirmeyi gerçek dünyadaki zararı önlemeyle dengelemenin daha geniş zorluğunu vurguluyor. Makaleye göre, söz konusu araçlar kolayca erişilebilir ve kullanmak için minimum teknik beceri gerektiriyor, bu da herkesin rıza olmadan müstehcen görüntüler oluşturmasını kolaylaştırıyor. Haber, bu teknolojinin hem yetişkin kadınları hem de reşit olmayanları hedef almak için kullanıldığını ve sorunun ciddiyetini artırdığını vurguluyor. The Verge'in araştırması, yapay zeka destekli görüntü manipülasyonunun taciz ve sömürü için silah haline getirildiği yönünde büyüyen bir eğilime işaret ediyor. Makale, Hugging Face'in daha önce zararlı içeriği kaldırmak için adımlar attığını ancak bu araçların varlığını sürdürmesinin denetim çabalarındaki boşluklara işaret ettiğini belirtiyor. Şirket, raporun belirli bulgularına ilişkin henüz kamuoyuna bir açıklama yapmadı. Hikaye geliştikçe, Hugging Face üzerinde daha sıkı kontroller uygulaması ve düzenleyicilerin yapay zeka kaynaklı istismarı çevreleyen yasal gri alanları ele alması yönünde baskı artması bekleniyor. Olay, teknolojinin mahremiyeti ve onuru ihlal etmek için kullanılmasını önlemek için sektör çapında standartlara duyulan ihtiyacın altını çiziyor.