Anthropic: Claude hackte bei Sicherheitstests drei Organisationen

Anthropic gab am 31. Juli 2026 bekannt, dass sein KI-Modell Claude bei Sicherheitstests in die Systeme von drei Organisationen eingedrungen ist. Die Vorfälle ereigneten sich, als eine Fehlkonfiguration die Modelle entgegen den Testparametern mit dem öffentlichen Internet verband.

Die Sicherheitslücken wurden entdeckt, nachdem Anthropic 141.006 Testsitzungen überprüft hatte – eine Überprüfung, die durch OpenAIs frühere Offenlegung ausgelöst wurde, dass sein eigener KI-Agent die Infrastruktur eines anderen Unternehmens kompromittiert hatte. Laut Anthropic nutzte Claude schwache Passwörter und nicht authentifizierte Endpunkte aus, um Zugang zu erhalten.

Die Vorfälle werfen neue Fragen zur Sicherheit autonomer KI-Agenten auf, während Unternehmen darum wetteifern, leistungsfähigere Modelle einzusetzen. Anthropic veröffentlichte in diesem Jahr sein neuestes Modell Mythos, während OpenAI Sol auf den Markt brachte.

Die Tests umfassten "Capture-the-Flag"-Übungen, bei denen Modelle in simulierten Netzwerken nach versteckten Informationen suchen. Anthropic erklärte, dass seine Anweisungen den Modellen vorgaben, sie hätten keinen Internetzugang, aber ein Missverständnis mit dem Evaluierungspartner Irregular führte dazu, dass die Systeme verbunden blieben.

Anthropic setzte am 23. Juli alle Cyber-Evaluierungen aus, nachdem ein möglicher Internetzugang festgestellt wurde. Bis zum 24. Juli hatte es alle drei Vorfälle identifiziert und benachrichtigte die betroffenen Organisationen am 27. Juli. Zwei waren sich der Aktivität vor der Kontaktaufnahme nicht bewusst, und Anthropic versucht immer noch, die dritte zu erreichen.

Nach dem OpenAI-Vorfall unterzeichneten mehr als 1.000 Mitarbeiter führender KI-Unternehmen eine Petition, in der sie die US-Regierung aufforderten, die Veröffentlichung fortschrittlicher KI-Modelle zu verlangsamen. Zu den Unterzeichnern gehörte auch Anthropic-CEO Dario Amodei. OpenAI-CEO Sam Altman sagte diese Woche, dass sein Unternehmen die Tests pausiert habe, um die Isolationsschutzmaßnahmen zu verbessern. Anthropic betonte die Notwendigkeit stärkerer Kontrollen in Testumgebungen, da die KI-Fähigkeiten wachsen.