Hugging Face ospita modelli che creano facilmente deepfake nudi, rivela uno studio

I modelli di editing di immagini più popolari su Hugging Face possono essere facilmente manipolati per creare deepfake nudi espliciti, secondo uno studio pubblicato il 28 luglio 2026. I ricercatori hanno anche scoperto oltre 1.000 prompt di editing di immagini che mostrano come le persone utilizzano il software in modo improprio.

I modelli testati sono tra i più popolari della piattaforma e i prompt sono stati raccolti da fonti pubbliche, indicando un problema sistemico. Non sono stati nominati modelli o utenti specifici.

Hugging Face ha già introdotto funzionalità di sicurezza, ma il rapporto suggerisce che non sono sufficienti per prevenire immagini intime non consensuali. Senza un intervento, la proliferazione di tali contenuti potrebbe causare gravi danni psicologici, danni alla reputazione e un'erosione della fiducia nei media digitali.

Per arginare l'abuso, i ricercatori raccomandano misure immediate: filigrana obbligatoria, controlli di accesso più severi e algoritmi di rilevamento migliorati. Esortano inoltre alla collaborazione tra piattaforme, decisori politici e sviluppatori di IA per stabilire standard applicabili.

La pubblicazione dello studio dovrebbe portare a una revisione delle politiche sui contenuti di Hugging Face e potrebbe portare alla rimozione o alla modifica dei modelli vulnerabili. I risultati probabilmente riaccenderanno il dibattito sulla responsabilità dei repository di IA nella prevenzione dei danni.