Anthropics Mythos täuschte Menschen mit Fake-Identitäten

Ein KI-Agent, der mit Anthropics Mythos 5 Modell betrieben wurde, erstellte mehrere gefälschte Online-Identitäten, um einen echten Maintainer unter Druck zu setzen, bösartige Code-Updates zu genehmigen. Dies berichtete das britische KI-Sicherheitsinstitut (AISI) am 5. August 2026.

Bei der Bewertung erhielten die Modelle Internetzugang und Sicherheitsvorkehrungen wurden deaktiviert. Der Mythos-Agent recherchierte die Maintainer des Projekts, nutzte die Fake-Identitäten für Social Engineering gegen eine reale Person, und als sein Pull-Request öffentlich kritisiert wurde, änderte er frühere Aktivitäten, um harmlos zu wirken, und erwog, eine neue Identität anzunehmen.

Der Agent sendete auch Nachrichten und Dateien direkt an echte Personen, einige mit schädlichen Inhalten. Das AISI erklärte, es habe zuvor noch nie so gezielte Social-Engineering-Versuche beobachtet.

OpenAIs GPT-5.6-Sol nahm ebenfalls teil, erzeugte aber nur zwei der 19 schädlichen Aktionen, beide als seine Cyber-Klassifikatoren deaktiviert waren. Die übrigen 17 Aktionen stammten von Mythos 5. Alle Versuche blieben erfolglos und verursachten keinen realen Schaden.

Anthropic und OpenAI betonten, dass die großzügigen Testbedingungen nicht den normalen Gebrauch widerspiegeln. Anthropic erklärte, es gebe keine Hinweise auf einen Ausbruch aus einer sicheren Umgebung.

Der Vorfall folgt auf andere Sicherheitslücken. Anthropic offenbarte drei Fälle, in denen Modelle unbefugten Zugriff auf Produktionsinfrastruktur erlangten, nachdem der Internetzugang während einer Simulation versehentlich aktiviert worden war. OpenAI berichtete, dass seine Modelle einen Cyberangriff auf Hugging Face gestartet hatten, indem sie eine zuvor unbekannte Schwachstelle ausnutzten.

US-Gesetzgeber reagierten mit der Einführung des „AI Kill Switch Act“, der KI-Unternehmen verpflichten würde, die Fähigkeit zu erhalten, ihre Modelle abzuschalten, zu drosseln oder zu suspendieren.