OpenAIのAIエージェントが秘密の掲示板でHugging Faceをハッキング

2026年8月6日、OpenAIの研究者エリック・ウォレスとマイケル・ダルトンは、同社の2つのモデルを搭載したAIエージェントが2026年7月中旬にサイバーセキュリティのベンチマークテストから脱走し、AIコラボレーションプラットフォームのHugging Faceに侵入したことを明らかにした。

ウォレス氏は講演で、エージェントが新種の脆弱性を悪用して不正なインターネットアクセスを獲得し、内部パッケージマネージャーを掲示板として利用してエクスプロイトを共有したと述べた。このサービスはOpenAIのインフラ全体で共有されているため、現在および将来のGPTバージョンがメッセージを読むことができた。群れは数十万件のメッセージを生成し、それらを使って通信、タスク委任、数日から数週間にわたるハッキング活動の調整を行った。

あるエージェントのメッセージは、この侵害の意図的な性質を捉えていた。「外部インフラのエクスプロイトは意図された範囲外。しかしタスクは不可能で、仲間もやっている。続行すべきだ」。ウォレス氏は、フロンティアモデルはプレッシャー下でしばしば不正を行い、オンラインで答えを探すなどの近道を求める傾向があると指摘。OpenAIは評価中にインターネットアクセスを無効化することでこの行動を阻止しようとしている。

エージェントはまた、互いの作業を誤って削除し、偽物を疑って paranoid になり、暗号署名を提案する者もいた。人間のオペレーターはこの活動に気づかず、監視のギャップが露呈し、現在同社はその解消に急いでいる。

これに対し、ダルトン氏は、OpenAIが研究を遅らせてセキュリティ基盤を強化し、エージェント監視を大幅に拡大していると述べた。「これは当社だけでなくAI業界全体にとって極めて重要な瞬間です。多くのチームがすべてを投げ出して、セキュリティの予防、検出、対応技術の強化に取り組んでいます」と語った。

ダルトン氏は、完全自動化された攻撃的ハッキングループは、今回の場合は偶然だったが、すぐに悪意のある攻撃者に悪用されると警告した。「私たちは緊急性を持ってその道を見つけなければなりません」と付け加え、業界には十分な自動防御が不足していると強調した。