Estudo revela que modelos do Hugging Face criam nudes deepfake com facilidade

Modelos populares de edição de imagem no Hugging Face podem ser facilmente manipulados para criar nudes deepfake explícitos, segundo um estudo divulgado em 28 de julho de 2026. Pesquisadores também encontraram mais de 1.000 prompts de edição de imagem que mostram como as pessoas usam o software de forma indevida.

Os modelos testados estão entre os mais populares da plataforma, e os prompts foram coletados de fontes públicas, indicando um problema sistêmico. Nenhum modelo ou usuário específico foi nomeado.

O Hugging Face já introduziu recursos de segurança, mas o relatório sugere que eles são insuficientes para evitar imagens íntimas não consensuais. Sem intervenção, a proliferação desse conteúdo pode causar graves danos psicológicos, danos à reputação e erosão da confiança na mídia digital.

Para conter o uso indevido, os pesquisadores recomendam medidas imediatas: marca d'água obrigatória, controles de acesso mais rígidos e algoritmos de detecção aprimorados. Eles também pedem colaboração entre plataformas, formuladores de políticas e desenvolvedores de IA para estabelecer padrões aplicáveis.

Espera-se que a divulgação do estudo leve a uma revisão das políticas de conteúdo do Hugging Face e possa resultar na remoção ou modificação de modelos vulneráveis. As descobertas provavelmente reacenderão o debate sobre a responsabilidade dos repositórios de IA na prevenção de danos.