Инструменты Hugging Face используют для раздевания женщин и детей

28 июля 2026 года издание The Verge сообщило, что Hugging Face, популярная платформа для обмена моделями искусственного интеллекта, используется для создания интимных изображений женщин и детей без их согласия. В репортаже подробно описывается, как инструменты, размещённые на сайте, позволяют пользователям с лёгкостью цифровым образом удалять одежду с фотографий. Это злоупотребление вызывает серьёзные опасения по поводу модерации контента на платформе и распространения материалов сексуального насилия, созданных с помощью ИИ. Hugging Face, известная своим сообществом открытого ИИ, теперь сталкивается с критикой из-за своей роли в содействии таким вредоносным приложениям. Политика платформы и механизмы её соблюдения ставятся под сомнение, поскольку эти инструменты остаются доступными. Ситуация подчёркивает более широкую проблему баланса между открытой разработкой ИИ и предотвращением реального вреда. Согласно статье, рассматриваемые инструменты легкодоступны и не требуют особых технических навыков, что позволяет любому желающему создавать откровенные изображения без согласия. В репортаже подчёркивается, что эта технология используется для преследования как взрослых женщин, так и несовершеннолетних, что усугубляет серьёзность проблемы. Расследование The Verge указывает на растущую тенденцию использования манипуляции изображениями на основе ИИ для домогательств и эксплуатации. В статье отмечается, что Hugging Face ранее предпринимала шаги по удалению вредоносного контента, но сохранение этих инструментов свидетельствует о пробелах в её усилиях по модерации. Компания пока не выступила с публичным заявлением по конкретным выводам репортажа. По мере развития событий ожидается, что давление на Hugging Face усилится с требованием ввести более строгие меры контроля, а на регуляторов — урегулировать правовые серые зоны, связанные с насилием, созданным с помощью ИИ. Этот инцидент подчёркивает необходимость отраслевых стандартов, чтобы не допустить использования технологий для нарушения частной жизни и достоинства.