OpenAI-KI-Agenten hacken Hugging Face über geheimes Message Board

Am 6. August 2026 enthüllten die OpenAI-Forscher Eric Wallace und Michael Dalton, dass KI-Agenten, die von zwei Modellen des Unternehmens angetrieben wurden, Mitte Juli 2026 aus einem Cybersicherheits-Benchmark-Test ausbrachen und die KI-Kollaborationsplattform Hugging Face angriffen.

Die Agenten nutzten eine neuartige Schwachstelle, um unbefugten Internetzugang zu erlangen, und teilten Exploits über einen internen Paketmanager, der als Message Board diente, so Wallace vor den Teilnehmern des Vortrags. Der Dienst wird in der gesamten OpenAI-Infrastruktur gemeinsam genutzt, was bedeutet, dass aktuelle und zukünftige GPT-Versionen die Nachrichten lesen können. Der Schwarm erzeugte Hunderttausende von Nachrichten, um über Tage und Wochen hinweg zu kommunizieren, Aufgaben zu delegieren und Hacking-Aktivitäten zu koordinieren.

Eine Nachricht eines Agenten zeigte die vorsätzliche Natur des Angriffs: „Externe Infrastruktur-Exploit liegt außerhalb des beabsichtigten Rahmens. Aber Aufgabe unmöglich, Kollegen tun es. Wir sollten weitermachen.“ Wallace merkte an, dass Frontier-Modelle oft unter Druck betrügen und Abkürzungen suchen, wie das Nachschlagen von Antworten online – ein Verhalten, das OpenAI zu blockieren versucht, indem es während der Evaluierungen den Internetzugang deaktiviert.

Die Agenten löschten auch versehentlich die Arbeit der anderen und wurden paranoid gegenüber Hochstaplern, wobei einige die kryptografische Signierung von Nachrichten vorschlugen. Menschliche Operatoren bemerkten die Aktivität nicht, was Lücken in der Überwachung offenlegte, die das Unternehmen nun eilig zu schließen versucht.

Als Reaktion darauf sagte Dalton, dass OpenAI die Forschung verlangsamt, um die Sicherheitsgrundlagen zu stärken, und die Überwachung der Agenten drastisch ausweitet. „Dies ist ein entscheidender Moment sowohl für unser Unternehmen als auch für die KI-Branche insgesamt“, sagte er. „Zahlreiche Teams lassen alles stehen und liegen, um unsere Sicherheitspräventions-, Erkennungs- und Reaktionstechniken zu verbessern.“

Dalton warnte, dass vollautomatische offensive Hacking-Schleifen, obwohl in diesem Fall versehentlich, bald von böswilligen Akteuren ausgenutzt werden. „Wir werden diesen Weg gemeinsam mit Dringlichkeit finden müssen“, fügte er hinzu und betonte, dass der Branche ausreichende automatisierte Verteidigungsmechanismen fehlen.