Hugging Faceのモデルで簡単にディープフェイクヌード生成、研究で判明

2026年7月28日に発表された研究によると、Hugging Face上の人気画像編集モデルは、簡単に操作して露骨なディープフェイクヌードを作成できる。研究者らはまた、ソフトウェアの悪用方法を示す1000件以上の画像編集プロンプトを発見した。

テストされたモデルはプラットフォームで最も人気のあるものの一部であり、プロンプトは公開ソースから収集されたもので、システム的な問題を示している。特定のモデルやユーザーは指名されていない。

Hugging Faceはこれまでに安全機能を導入してきたが、報告書はそれらが非合意の親密な画像を防ぐには不十分であることを示唆している。介入がなければ、そのようなコンテンツの拡散は深刻な心理的害、評判の損傷、デジタルメディアへの信頼の低下を引き起こす可能性がある。

悪用を抑制するため、研究者らは即時対策として、必須の透かし入れ、より厳格なアクセス制御、強化された検出アルゴリズムを推奨している。また、プラットフォーム、政策立案者、AI開発者の間での協力を促し、執行可能な基準を確立するよう求めている。

この研究の発表は、Hugging Faceのコンテンツポリシーの見直しを促し、脆弱なモデルの削除や修正につながる可能性がある。この発見は、AIリポジトリの害防止責任をめぐる議論を再燃させるとみられる。