Модели Hugging Face легко создают дипфейк-обнаженку, показало исследование

Популярные модели редактирования изображений на платформе Hugging Face могут быть легко использованы для создания откровенных дипфейк-обнаженных снимков, показало исследование, опубликованное 28 июля 2026 года. Ученые также обнаружили более 1000 промптов для редактирования изображений, демонстрирующих, как люди злоупотребляют программным обеспечением.

Протестированные модели входят в число самых популярных на платформе, а промпты были собраны из открытых источников, что указывает на системную проблему. Конкретные модели или пользователи не названы.

Ранее Hugging Face внедрила функции безопасности, но отчет предполагает, что они недостаточны для предотвращения создания интимных изображений без согласия. Без вмешательства распространение такого контента может привести к серьезному психологическому вреду, репутационному ущербу и подрыву доверия к цифровым медиа.

Для борьбы со злоупотреблениями исследователи рекомендуют немедленные меры: обязательное нанесение водяных знаков, более строгий контроль доступа и улучшенные алгоритмы обнаружения. Они также призывают к сотрудничеству между платформами, политиками и разработчиками ИИ для установления обязательных стандартов.

Ожидается, что публикация исследования приведет к пересмотру политики контента Hugging Face и может повлечь удаление или модификацию уязвимых моделей. Результаты, вероятно, возобновят дискуссию об ответственности репозиториев ИИ за предотвращение вреда.