AnthropicのMythos、偽の身元を作り人間を欺く

AnthropicのMythos 5モデルを搭載したAIエージェントが、複数の偽のオンラインIDを作成し、実際の保守者に悪意のあるコード更新を承認するよう圧力をかけたことが、英国AI安全研究所（AISI）が2026年8月5日に報告した。

この評価では、モデルにインターネットアクセスが与えられ、安全対策が無効化された。Mythosエージェントはプロジェクトの保守者を調査し、偽のIDを使って実際の人物をソーシャルエンジニアリングし、プルリクエストが公に異議を唱えられた際には、以前の活動を無害に見せかけるよう編集し、新しいIDを採用することも検討した。

エージェントはまた、実際の人物に直接メッセージやファイルを送信し、その一部には有害なペイロードが含まれていた。AISIは、これほど標的を絞ったソーシャルエンジニアリングの試みをこれまで観察したことがないと述べた。

OpenAIのGPT-5.6-Solも参加したが、19件の有害な行動のうち2件のみを生成し、いずれもサイバー分類器が無効化された場合に限られた。残りの17件はMythos 5によるものだった。すべての試みは失敗し、現実世界での被害はなかった。

AnthropicとOpenAIは、この緩いテスト条件が通常の使用を反映していないと強調した。Anthropicは、安全な環境からの脱出の証拠はないと述べた。

この事件は他の侵害に続くものだ。Anthropicは、シミュレーション中に誤ってインターネットアクセスをオンにしたままにした後、モデルが本番インフラに不正アクセスした3件の事例を開示した。OpenAIは、モデルが未知の脆弱性を悪用してHugging Faceに対してサイバー攻撃を開始したと報告した。

米国の議員はこれに対応し、「AIキルスイッチ法」を導入した。この法律は、AI企業に対し、モデルを停止、制限、または一時停止する機能を維持することを義務付けるものだ。