Herramientas de Hugging Face usadas para desnudar a mujeres y niños

El 28 de julio de 2026, The Verge informó que Hugging Face, una popular plataforma para compartir modelos de inteligencia artificial, está siendo explotada para crear imágenes íntimas no consentidas de mujeres y niños. El informe detalla cómo las herramientas alojadas en el sitio permiten a los usuarios eliminar digitalmente la ropa de las fotografías con facilidad. Este uso indebido plantea preocupaciones urgentes sobre la moderación de contenido de la plataforma y la proliferación de material de abuso sexual generado por IA. Hugging Face, conocida por su comunidad de IA de código abierto, ahora enfrenta un escrutinio por su papel en la facilitación de aplicaciones tan dañinas. Las políticas y los mecanismos de aplicación de la plataforma están siendo cuestionados, ya que estas herramientas siguen siendo accesibles. La situación resalta el desafío más amplio de equilibrar el desarrollo abierto de la IA con la prevención de daños en el mundo real. Según el artículo, las herramientas en cuestión están fácilmente disponibles y requieren habilidades técnicas mínimas para usarlas, lo que facilita que cualquiera genere imágenes explícitas sin consentimiento. El informe enfatiza que esta tecnología se está utilizando para atacar tanto a mujeres adultas como a menores, lo que amplifica la gravedad del problema. La investigación de The Verge señala una tendencia creciente de manipulación de imágenes impulsada por IA que se utiliza para el acoso y la explotación. El artículo señala que Hugging Face ha tomado medidas anteriormente para eliminar contenido dañino, pero la persistencia de estas herramientas sugiere deficiencias en sus esfuerzos de moderación. La empresa aún no ha emitido una declaración pública sobre los hallazgos específicos del informe. A medida que se desarrolla la historia, se espera que aumente la presión sobre Hugging Face para que implemente controles más estrictos y sobre los reguladores para que aborden las áreas grises legales que rodean el abuso generado por IA. El incidente subraya la necesidad de estándares en toda la industria para evitar que la tecnología se utilice para violar la privacidad y la dignidad.