Hugging Face-modellen maken eenvoudig deepfake-naaktfoto's

Populaire modellen voor beeldbewerking op Hugging Face kunnen gemakkelijk worden gemanipuleerd om expliciete deepfake-naaktfoto's te maken, zo bleek uit een studie die op 28 juli 2026 werd gepubliceerd. Onderzoekers vonden ook meer dan 1.000 prompts voor beeldbewerking die laten zien hoe mensen de software misbruiken.

De geteste modellen behoren tot de populairste van het platform, en de prompts zijn afkomstig uit openbare bronnen, wat wijst op een systemisch probleem. Er werden geen specifieke modellen of gebruikers genoemd.

Hugging Face heeft eerder veiligheidsfuncties geïntroduceerd, maar het rapport suggereert dat deze onvoldoende zijn om niet-consensuele intieme beelden te voorkomen. Zonder ingrijpen kan de verspreiding van dergelijke inhoud leiden tot ernstige psychologische schade, reputatieschade en een afname van het vertrouwen in digitale media.

Om misbruik tegen te gaan, bevelen de onderzoekers onmiddellijke maatregelen aan: verplichte watermerken, strengere toegangscontroles en verbeterde detectie-algoritmen. Ze pleiten ook voor samenwerking tussen platforms, beleidsmakers en AI-ontwikkelaars om afdwingbare normen vast te stellen.

De publicatie van de studie zal naar verwachting leiden tot een herziening van het inhoudsbeleid van Hugging Face en kan leiden tot het verwijderen of aanpassen van kwetsbare modellen. De bevindingen zullen waarschijnlijk het debat over de verantwoordelijkheid van AI-repositories bij het voorkomen van schade opnieuw aanwakkeren.