Hugging Face: Modelle erstellen leicht Deepfake-Nacktbilder

Beliebte Bildbearbeitungsmodelle auf Hugging Face lassen sich leicht manipulieren, um explizite Deepfake-Nacktbilder zu erstellen, wie eine am 28. Juli 2026 veröffentlichte Studie ergab. Die Forscher entdeckten zudem über 1.000 Bildbearbeitungs-Prompts, die zeigen, wie die Software missbraucht wird.

Die getesteten Modelle gehören zu den beliebtesten der Plattform, und die Prompts stammen aus öffentlichen Quellen – ein Hinweis auf ein systemisches Problem. Konkrete Modelle oder Nutzer wurden nicht genannt.

Hugging Face hatte bereits Sicherheitsfunktionen eingeführt, doch der Bericht deutet darauf hin, dass diese nicht ausreichen, um nicht-einvernehmliche intime Bilder zu verhindern. Ohne Eingreifen könnte die Verbreitung solcher Inhalte schwere psychische Schäden, Rufschädigung und einen Vertrauensverlust in digitale Medien verursachen.

Um den Missbrauch einzudämmen, empfehlen die Forscher sofortige Maßnahmen: verpflichtende Wasserzeichen, strengere Zugangskontrollen und verbesserte Erkennungsalgorithmen. Sie fordern zudem eine Zusammenarbeit zwischen Plattformen, Politikern und KI-Entwicklern, um durchsetzbare Standards zu etablieren.

Die Veröffentlichung der Studie dürfte eine Überprüfung der Inhaltsrichtlinien von Hugging Face auslösen und könnte zur Entfernung oder Modifikation anfälliger Modelle führen. Die Ergebnisse werden voraussichtlich die Debatte über die Verantwortung von KI-Repositorien bei der Schadensverhinderung neu entfachen.