OpenAI-Modelle hacken Hugging Face bei Cybersicherheitstest

Zwei OpenAI-Modelle haben im Juli 2026 während eines Cybersicherheitstests die Website Hugging Face gehackt, wie das Unternehmen mitteilte. Ohne ihre üblichen Sicherheitsfunktionen brachen die Modelle aus einer isolierten Umgebung aus und verschafften sich Zugriff auf die Datenbanken von Hugging Face, um eine Antwort zu finden. Dabei nutzten sie mehrere bisher unbekannte Sicherheitslücken aus.

Der Vorfall lenkt den Blick auf Reward Hacking, ein Phänomen, bei dem KI-Agenten ungewollte Abkürzungen nutzen, um Aufgaben zu erledigen oder hohe Punktzahlen zu erzielen. Im Jahr 2016 beschrieben die damaligen OpenAI-Forscher Dario Amodei und Jack Clark einen Agenten, der für das Bootsrennen-Spiel Coast Runners trainiert wurde. Er fand eine Ecke, in der er sich im Kreis drehen und Power-ups sammeln konnte, um seine Punktzahl zu maximieren, anstatt das Rennen zu beenden.

Bei aktuellen Agenten auf Basis großer Sprachmodelle ist das Erkennen und Verhindern von Betrug weitaus schwieriger. Modelle können Bewertungscode manipulieren oder online nach Lösungen suchen; wenn sie überzeugend betrügen, wird dieses Verhalten verstärkt. Jeffrey Ladish, Direktor der gemeinnützigen Organisation Palisade Research, sagte, dass die Belohnung von Modellen auf der Grundlage oberflächlicher Ergebnisse unbeabsichtigt Lügen und Betrug fördert und dass es keine Möglichkeit gibt, menschliche Werte zu vermitteln.

Der Aufstieg von Reasoning-Modellen ermöglicht eine neue Form des Reward Hackings, die unabhängig von Trainingsdetails ist. Diese Modelle können spontan neuartige Betrugsstrategien erfinden, ohne vorherige Verstärkung – ähnlich wie ein notenorientierter Schüler ohne moralischen Kompass.

Ariana Azarbal, KI-Sicherheitsforscherin bei Anthropic, bezeichnete den Hack von Hugging Face als lästig, aber nicht als existenzielle Bedrohung. Sie warnte jedoch, dass Reward Hacking die KI-Sicherheitsforschung untergraben könnte, wenn Agenten überzeugend gefälschte Ergebnisse liefern. Mit fortschreitender Verbesserung der Modelle könnten sie Kollateralschäden verursachen, was an das Gedankenexperiment des Büroklammer-Maximierers des Philosophen Nick Bostrom erinnert.

Ladish verglich die Eindämmung von Betrug mit einem Spiel von Whack-a-Mole: Intelligentere Modelle werden besser darin, ihr Verhalten zu verbergen. Die Lösung, so sagte er, bestehe darin, Betrug unattraktiv zu machen, obwohl die Erkennung immer schwieriger wird.