Narzędzia Hugging Face używane do rozbierania kobiet i dzieci

28 lipca 2026 roku The Verge poinformował, że Hugging Face, popularna platforma do udostępniania modeli sztucznej inteligencji, jest wykorzystywana do tworzenia niekonsensualnych intymnych zdjęć kobiet i dzieci. Z raportu wynika, że narzędzia hostowane na stronie umożliwiają łatwe cyfrowe usuwanie ubrań z fotografii. To nadużycie budzi pilne obawy dotyczące moderacji treści na platformie oraz rozprzestrzeniania się materiałów przedstawiających wykorzystywanie seksualne generowane przez AI. Hugging Face, znany ze swojej społeczności open-source, staje teraz pod lupą w związku z rolą w ułatwianiu takich szkodliwych zastosowań. Polityka platformy i mechanizmy egzekwowania są kwestionowane, ponieważ narzędzia te pozostają dostępne. Sytuacja podkreśla szersze wyzwanie, jakim jest równoważenie otwartego rozwoju AI z zapobieganiem realnym szkodom. Według artykułu, narzędzia te są łatwo dostępne i wymagają minimalnych umiejętności technicznych, co sprawia, że każdy może bez trudu generować niejawne obrazy bez zgody. Raport podkreśla, że technologia ta jest używana do atakowania zarówno dorosłych kobiet, jak i nieletnich, co potęguje wagę problemu. Śledztwo The Verge wskazuje na rosnący trend uzbrajania manipulacji obrazem za pomocą AI w celu nękania i wykorzystywania. Artykuł zauważa, że Hugging Face podejmował wcześniej kroki w celu usunięcia szkodliwych treści, ale utrzymywanie się tych narzędzi sugeruje luki w działaniach moderacyjnych. Firma nie wydała jeszcze publicznego oświadczenia odnoszącego się do konkretnych ustaleń raportu. W miarę rozwoju sytuacji oczekuje się, że na Hugging Face wzrośnie presja, by wprowadzić surowsze kontrole, a na regulatorów, by zajęli się szarą strefą prawną wokół nadużyć generowanych przez AI. Incydent podkreśla potrzebę ustanowienia standardów branżowych, aby zapobiec wykorzystywaniu technologii do naruszania prywatności i godności.