Hugging Face-tools gebruikt om vrouwen en kinderen uit te kleden

Op 28 juli 2026 meldde The Verge dat Hugging Face, een populair platform voor het delen van kunstmatige intelligentiemodellen, wordt misbruikt om niet-consensuele intieme afbeeldingen van vrouwen en kinderen te maken. Het rapport beschrijft hoe tools op de site gebruikers in staat stellen om met gemak digitaal kleding van foto's te verwijderen. Dit misbruik roept dringende vragen op over de contentmoderatie van het platform en de toename van AI-gegenereerd seksueel misbruikmateriaal. Hugging Face, bekend om zijn open-source AI-gemeenschap, staat nu onder vuur vanwege zijn rol bij het faciliteren van dergelijke schadelijke toepassingen. Het beleid en de handhavingsmechanismen van het platform worden in twijfel getrokken nu deze tools toegankelijk blijven. De situatie benadrukt de bredere uitdaging om open AI-ontwikkeling in evenwicht te brengen met het voorkomen van schade in de echte wereld. Volgens het artikel zijn de betreffende tools direct beschikbaar en vereisen ze minimale technische vaardigheden, waardoor het voor iedereen eenvoudig is om zonder toestemming expliciete afbeeldingen te genereren. Het rapport benadrukt dat deze technologie wordt gebruikt om zowel volwassen vrouwen als minderjarigen te targeten, wat de ernst van het probleem vergroot. Het onderzoek van The Verge wijst op een groeiende trend waarbij AI-gestuurde beeldmanipulatie wordt ingezet voor intimidatie en uitbuiting. Het artikel merkt op dat Hugging Face eerder stappen heeft ondernomen om schadelijke content te verwijderen, maar het voortbestaan van deze tools duidt op hiaten in de moderatie-inspanningen. Het bedrijf heeft nog geen openbare verklaring afgelegd over de specifieke bevindingen van het rapport. Naarmate het verhaal zich ontwikkelt, wordt verwacht dat de druk op Hugging Face toeneemt om strengere controles in te voeren en op toezichthouders om de juridische grijze gebieden rond AI-gegenereerd misbruik aan te pakken. Het incident onderstreept de noodzaak van breed gedragen normen in de sector om te voorkomen dat technologie wordt gebruikt om privacy en waardigheid te schenden.