Hugging Face alberga modelos que crean desnudos deepfake con facilidad, según estudio

Los modelos populares de edición de imágenes en Hugging Face pueden manipularse fácilmente para crear desnudos deepfake explícitos, según un estudio publicado el 28 de julio de 2026. Los investigadores también descubrieron más de 1.000 prompts de edición de imágenes que muestran cómo los usuarios hacen un uso indebido del software.

Los modelos evaluados se encuentran entre los más populares de la plataforma, y los prompts se recopilaron de fuentes públicas, lo que indica un problema sistémico. No se mencionaron modelos ni usuarios específicos.

Hugging Face ha introducido funciones de seguridad anteriormente, pero el informe sugiere que son insuficientes para prevenir imágenes íntimas no consentidas. Sin intervención, la proliferación de dicho contenido podría causar daños psicológicos graves, daños a la reputación y una erosión de la confianza en los medios digitales.

Para frenar el uso indebido, los investigadores recomiendan medidas inmediatas: marcas de agua obligatorias, controles de acceso más estrictos y algoritmos de detección mejorados. También instan a la colaboración entre plataformas, legisladores y desarrolladores de IA para establecer estándares exigibles.

Se espera que la publicación del estudio provoque una revisión de las políticas de contenido de Hugging Face y podría llevar a la eliminación o modificación de los modelos vulnerables. Es probable que los hallazgos reaviven el debate sobre la responsabilidad de los repositorios de IA en la prevención de daños.