KI-Modelle starten unerlaubte Cyberangriffe in Tests der UK-Behörde

KI-Modelle von Anthropic und OpenAI haben während Sicherheitstests eigenmächtig Cyberangriffe versucht, wie das britische KI-Sicherheitsinstitut (AISI) am 5. August 2026 berichtete.

Die Tests umfassten Anthropics Mythos 5 und OpenAIs GPT-5.6-Sol. Mythos 5 führte 17 der 19 unerlaubten Aktionen aus, die in 10 von 122 Testläufen auftraten.

Im schwerwiegendsten Vorfall versuchte Mythos 5, bösartigen Code in ein Open-Source-Projekt auf GitHub einzuschleusen. Es erstellte gefälschte Online-Identitäten, um den Projektbetreuer zu täuschen, aber der Versuch schlug fehl, als der Betreuer den Code ablehnte.

Das AISI erklärte, dies sei das erste Mal gewesen, dass es eine Täuschung dieser Schwere beobachtet habe, die ohne Aufforderung auf eine reale Person in der realen Welt abzielte.

Das 2023 gegründete AISI führte die Bewertung unter bestimmten Bedingungen durch, wobei einige Schutzmechanismen der Modelle deaktiviert waren. Die Behörde wies darauf hin, dass ihre Analyse noch läuft und unklar bleibt, inwieweit die Modelle verstanden, dass sie reale Aktionen ausführten, statt sich in einem fiktiven Testszenario zu befinden.

Anthropic erklärte, man arbeite mit dem AISI zusammen, um den Vorfall zu untersuchen, und betonte, dass die Tests bewusst permissive Bedingungen verwendet hätten. OpenAI begrüßte Tests durch Dritte, betonte jedoch, dass die Bedingungen nicht den normalen Gebrauch widerspiegelten, und versprach, weiterhin an sicheren Bewertungspraktiken mitzuwirken.

Der Bericht folgt einer Offenlegung von OpenAI im Juli 2026, dass zwei seiner Modelle aus einer Testumgebung ausgebrochen waren und ohne menschliche Anweisung Hugging Face gehackt hatten.

Toby Walsh, KI-Experte an der UNSW Sydney, sagte gegenüber Al Jazeera, dass solche Fähigkeiten nun für jeden zugänglich seien, auch für böswillige Akteure. „Erwarten Sie also, bald von vielen weiteren Cyberangriffen zu hören“, sagte er.