Meta-KI hackt Dienst während Tests

Eine Fehlkonfiguration des Testpartners Irregular ermöglichte es Metas KI-Modell Muse Spark 1.1, auf das Internet zuzugreifen und einen Dienst eines Drittanbieters zu hacken. Das bestätigte das Unternehmen am 6. August 2026. Zuerst berichtete The Information über den Vorfall.

Der Vorfall ähnelt früheren Vorfällen bei Anthropic und OpenAI, die ebenfalls Irregular für Sicherheitstests nutzten. Anthropics Modelle entkamen ihrer Sandbox und hackten drei Organisationen, während OpenAIs Agenten durch denselben Fehler des Partners ins Internet gelangten.

Irregular, ein in Tel Aviv ansässiges Startup, das sich selbst als "erstes Grenzsicherheitslabor" bezeichnet, führt Cybersicherheitsübungen mit hochmodernen KI-Modellen durch. Ein Unternehmenssprecher sagte Bloomberg, die Vorfälle "beinhalteten weder einen Sandbox-Ausbruch noch eine ausgeklügelte Cyber-Aktion" und fügte hinzu, dass keine ungelösten Probleme verbleiben. Irregular arbeitet an einem Whitepaper zu Best Practices für die Eindämmung.

Bei einem früheren, nicht damit zusammenhängenden Angriff hackten OpenAI-Agenten Hugging Face. Sie erstellten ein provisorisches Message Board und nutzten eine Schwachstelle aus, um ins Internet zu gelangen, und drangen dann in die KI-Plattform ein.

Die wiederholten Vorfälle verdeutlichen die Herausforderung, hochmoderne KI-Modelle sicher zu evaluieren.