Hugging Faceのツールが女性や子どもの画像を脱衣させる問題

2026年7月28日、The Vergeは、人工知能モデルを共有する人気プラットフォームHugging Faceが、女性や子どもの非同意の性的画像を作成するために悪用されていると報じた。報道によると、同サイトでホストされているツールにより、ユーザーは写真から簡単に衣服をデジタル除去できる。この悪用は、プラットフォームのコンテンツモデレーションと、AI生成の性的虐待コンテンツの拡散について緊急の懸念を引き起こしている。オープンソースのAIコミュニティで知られるHugging Faceは、こうした有害なアプリケーションを促進する役割について批判に直面している。これらのツールがアクセス可能なままであることから、同プラットフォームのポリシーと執行メカニズムが疑問視されている。この状況は、オープンなAI開発と現実世界での害の防止のバランスを取るという広範な課題を浮き彫りにしている。記事によると、問題のツールは容易に入手可能で、使用に高度な技術的スキルは不要であり、誰でも簡単に同意なしの露骨な画像を生成できる。この技術は成人女性と未成年者の両方を標的にしており、問題の深刻さを増幅させている。The Vergeの調査は、AIを利用した画像操作が嫌がらせや搾取のために武器化される増加傾向を指摘している。記事は、Hugging Faceが以前にも有害コンテンツを削除する措置を取ったが、これらのツールが存続していることはモデレーションの取り組みにギャップがあることを示唆していると述べている。同社はまだこの報告の具体的な調査結果に関する公式声明を発表していない。この話が発展するにつれ、Hugging Faceに対してより厳格な管理を実施するよう圧力が高まり、規制当局にはAI生成の虐待を取り巻く法的グレーゾーンに対処することが求められると予想される。この事件は、テクノロジーがプライバシーと尊厳を侵害するために使用されるのを防ぐための業界全体の基準の必要性を強調している。