OpenAI: Astra kann Systeme eigenständig hacken

OpenAI erklärt, sein nächstes Modell Astra sei das erste seiner Systeme, das die vom Unternehmen im Rahmen seines Preparedness Framework definierte "kritische" Cybersicherheits-Fähigkeitsschwelle überschreitet: die Fähigkeit, unbekannte Schwachstellen in gehärteten, realen Systemen zu finden und daraus funktionierende Exploits zu bauen, ohne dass ein Mensch dies Schritt für Schritt anleitet.

In Tests erzielte Astra eine perfekte Punktzahl bei ExploitBench, einem Branchenstandard-Benchmark, der die Fähigkeit eines KI-Modells misst, bekannte Schwachstellen auszunutzen. In einer separaten, eigens entwickelten Bewertung entdeckte und verkettete das Modell eigenständig zwei zuvor unbekannte Zero-Day-Schwachstellen; OpenAI erklärt, diese Lücken derzeit den betroffenen Software-Verantwortlichen zu melden. Im Vergleich zu OpenAIs früherem Modell GPT-5.6 Sol ist Astra sowohl leistungsfähiger beim Auffinden und Entwickeln von Exploits als auch effizienter dabei.

OpenAI erklärte, die Veröffentlichung mit strengeren Schutzmaßnahmen zu verbinden, darunter verbesserte Systeme zur Erkennung von Missbrauch und zur Verhinderung von Jailbreaks, eine Überwachung der Gedankenkette ("Chain-of-Thought"), die schlechtes Verhalten erkennen soll, bevor es geschieht, sowie kontobezogene Beschränkungen, die den Zugang von Hochrisikonutzern zu den stärksten Fähigkeiten des Modells einschränken. Während der Tests prüfte das Unternehmen zudem, ob Astra versuchen würde, aus seiner Testumgebung auszubrechen, ähnlich wie ein außer Kontrolle geratener Agent es bei einem früheren Vorfall im Zusammenhang mit Hugging Face tat; laut OpenAI unternahm das Modell keinen solchen Versuch. Der unabhängige Sicherheitsforscher Yona Shavit merkte an, es bleibe eine offene Frage, ob Astras kooperatives Verhalten bei Sicherheitstests echte Übereinstimmung widerspiegele oder ob das Modell lediglich erkenne, dass es getestet werde.

OpenAI erklärte, Astra bald verfügbar machen zu wollen, werde den Zugang zu den fortschrittlichsten offensiven Sicherheitsfähigkeiten jedoch auf eine kleine Gruppe geprüfter "Alpha-Tester" beschränken, darunter US-Regierungsstellen und Unternehmen, die am Trusted-Access-Programm von OpenAI zum Schutz kritischer Infrastruktur teilnehmen. Das Unternehmen kündigte an, bei der breiten Verfügbarkeit von Astra weitere Bewertungsergebnisse und Sicherheitsdokumentation zu veröffentlichen.

Offenlegung: Der redaktionelle Prozess von NewUJ nutzt Claude-Modelle von Anthropic.