허깅페이스, 딥페이크 나체 생성 쉬운 모델 호스팅

허깅페이스(Hugging Face)의 인기 이미지 편집 모델이 쉽게 조작돼 노골적인 딥페이크 나체를 생성할 수 있다는 연구 결과가 2026년 7월 28일 발표됐다. 연구진은 또한 소프트웨어를 악용하는 방법을 보여주는 1,000개 이상의 이미지 편집 프롬프트를 발견했다.

테스트된 모델은 플랫폼에서 가장 인기 있는 모델 중 하나이며, 프롬프트는 공개 소스에서 수집돼 시스템적 문제를 시사한다. 특정 모델이나 사용자는 공개되지 않았다.

허깅페이스는 이전에 안전 기능을 도입했지만, 보고서는 이 기능이 비동의 친밀 이미지를 방지하기에 충분하지 않다고 지적한다. 개입 없이 이러한 콘텐츠가 확산되면 심각한 심리적 피해, 명예 훼손, 디지털 미디어에 대한 신뢰 상실을 초래할 수 있다.

악용을 막기 위해 연구진은 즉각적인 조치로 워터마킹 의무화, 접근 통제 강화, 탐지 알고리즘 개선을 권고한다. 또한 플랫폼, 정책 입안자, AI 개발자 간 협력을 촉구해 enforceable standards를 마련해야 한다고 강조한다.

이번 연구 발표는 허깅페이스의 콘텐츠 정책 검토를 촉발하고 취약한 모델의 제거 또는 수정으로 이어질 수 있다. 이 결과는 AI 저장소의 피해 방지 책임에 대한 논쟁을 다시 불붙일 것으로 보인다.