Badanie: Modele z Hugging Face łatwo tworzą deepfake nudes

Popularne modele edycji obrazu na platformie Hugging Face mogą być łatwo manipulowane w celu tworzenia jawnych deepfake'ów nagich osób – wynika z badania opublikowanego 28 lipca 2026 roku. Naukowcy odkryli również ponad 1000 promptów do edycji obrazu, które pokazują, jak użytkownicy nadużywają oprogramowania.

Testowane modele należą do najpopularniejszych na platformie, a prompty zebrano ze źródeł publicznych, co wskazuje na systemowy problem. Nie wymieniono konkretnych modeli ani użytkowników.

Hugging Face wprowadziło wcześniej funkcje bezpieczeństwa, ale raport sugeruje, że są one niewystarczające, aby zapobiec tworzeniu intymnych obrazów bez zgody. Bez interwencji rozprzestrzenianie się takich treści może powodować poważne szkody psychologiczne, szkody dla reputacji i erozję zaufania do mediów cyfrowych.

Aby ograniczyć nadużycia, naukowcy zalecają natychmiastowe środki: obowiązkowe znakowanie wodne, ostrzejsze kontrole dostępu i ulepszone algorytmy wykrywania. Apelują również o współpracę platform, decydentów i twórców AI w celu ustanowienia egzekwowalnych standardów.

Publikacja badania prawdopodobnie skłoni do przeglądu polityki treści Hugging Face i może doprowadzić do usunięcia lub modyfikacji podatnych modeli. Wyniki prawdopodobnie rozpalą na nowo debatę na temat odpowiedzialności repozytoriów AI za zapobieganie szkodom.