허깅페이스 도구, 여성·아동 나체화에 악용

2026년 7월 28일, 더 버지(The Verge)는 인공지능 모델 공유 플랫폼인 허깅페이스(Hugging Face)가 여성과 아동의 동의 없는 나체 이미지를 생성하는 데 악용되고 있다고 보도했다. 보도에 따르면, 사이트에 호스팅된 도구를 통해 사용자는 사진에서 옷을 디지털 방식으로 쉽게 제거할 수 있다. 이러한 오용은 플랫폼의 콘텐츠 심사와 AI 생성 성적 학대 자료의 확산에 대한 긴급한 우려를 제기한다. 오픈소스 AI 커뮤니티로 알려진 허깅페이스는 이제 유해한 애플리케이션을 용이하게 한 역할에 대한 비판에 직면했다. 이러한 도구가 여전히 접근 가능한 상태에서 플랫폼의 정책과 집행 메커니즘이 의문시되고 있다. 이 상황은 개방형 AI 개발과 실제 피해 방지 사이의 균형을 맞추는 광범위한 과제를 부각시킨다. 기사에 따르면, 문제의 도구는 쉽게 이용 가능하며 사용에 최소한의 기술적 숙련도만 필요로 하므로 누구나 동의 없이 노골적인 이미지를 생성할 수 있다. 보도는 이 기술이 성인 여성과 미성년자 모두를 대상으로 사용되어 문제의 심각성을 증폭시키고 있다고 강조한다. 더 버지의 조사는 AI 기반 이미지 조작이 괴롭힘과 착취를 위해 무기화되는 증가하는 추세를 지적한다. 기사는 허깅페이스가 이전에 유해 콘텐츠를 제거하기 위한 조치를 취했지만, 이러한 도구가 지속된다는 것은 심사 노력에 허점이 있음을 시사한다고 언급한다. 회사는 아직 보도의 특정 결과에 대한 공식 성명을 발표하지 않았다. 사건이 전개됨에 따라 허깅페이스에 더 엄격한 통제를 시행하라는 압력과 AI 생성 학대를 둘러싼 법적 사각지대를 해결하라는 규제 당국에 대한 압력이 증가할 것으로 예상된다. 이 사건은 기술이 프라이버시와 존엄성을 침해하는 데 사용되는 것을 방지하기 위한 업계 전반의 표준의 필요성을 강조한다.