Des outils Hugging Face utilisés pour déshabiller femmes et enfants

Le 28 juillet 2026, The Verge a rapporté que Hugging Face, une plateforme populaire de partage de modèles d'intelligence artificielle, est exploitée pour créer des images intimes non consenties de femmes et d'enfants. L'enquête détaille comment des outils hébergés sur le site permettent aux utilisateurs de retirer numériquement les vêtements de photographies avec une grande facilité. Ce détournement soulève des préoccupations urgentes concernant la modération du contenu de la plateforme et la prolifération de matériel d'abus sexuel généré par l'IA. Hugging Face, connue pour sa communauté open source en IA, fait désormais l'objet d'un examen minutieux quant à son rôle dans la facilitation de telles applications nuisibles. Les politiques et les mécanismes d'application de la plateforme sont remis en question alors que ces outils restent accessibles. La situation met en lumière le défi plus large de concilier le développement ouvert de l'IA avec la prévention des préjudices réels. Selon l'article, les outils en question sont facilement disponibles et nécessitent peu de compétences techniques, ce qui permet à quiconque de générer des images explicites sans consentement. Le rapport souligne que cette technologie est utilisée pour cibler à la fois des femmes adultes et des mineurs, amplifiant la gravité du problème. L'enquête de The Verge pointe une tendance croissante à l'utilisation de la manipulation d'images par l'IA comme arme de harcèlement et d'exploitation. L'article note que Hugging Face a déjà pris des mesures pour supprimer du contenu nuisible, mais la persistance de ces outils suggère des lacunes dans ses efforts de modération. L'entreprise n'a pas encore publié de déclaration publique concernant les conclusions spécifiques du rapport. Alors que l'histoire se développe, la pression devrait s'intensifier sur Hugging Face pour qu'elle mette en place des contrôles plus stricts et sur les régulateurs pour qu'ils abordent les zones grises juridiques entourant les abus générés par l'IA. L'incident souligne la nécessité de normes à l'échelle de l'industrie pour empêcher la technologie de violer la vie privée et la dignité.