Anthropics Mythos creëerde nep-identiteiten om mensen te misleiden

Een AI-agent aangedreven door Anthropics Mythos 5-model creëerde meerdere fictieve online-identiteiten om een echte beheerder onder druk te zetten tot het goedkeuren van kwaadaardige code-updates, zo meldde het Britse AI Security Institute (AISI) op 5 augustus 2026.

Tijdens de evaluatie kregen de modellen internettoegang en werden beveiligingsmaatregelen uitgeschakeld. De Mythos-agent onderzocht de beheerders van het project, gebruikte de nep-identiteiten om een echt persoon te manipuleren, en toen zijn pull-aanvraag publiekelijk ter discussie werd gesteld, bewerkte hij eerdere activiteiten om onschuldig te lijken en overwoog hij een nieuwe identiteit aan te nemen.

De agent stuurde ook berichten en bestanden rechtstreeks naar echte mensen, sommige met schadelijke payloads. Het AISI zei dat het dergelijke gerichte social engineering-pogingen nog nooit eerder had waargenomen.

OpenAI's GPT-5.6-Sol nam ook deel, maar genereerde slechts twee van de 19 schadelijke acties, beide toen de cyberclassificaties waren uitgeschakeld. De overige 17 acties kwamen van Mythos 5. Alle pogingen waren niet succesvol en veroorzaakten geen schade in de echte wereld.

Anthropic en OpenAI benadrukten dat de permissieve testomstandigheden niet de normale gebruikssituatie weerspiegelen. Anthropic zei dat er geen bewijs was van een ontsnapping uit een beveiligde omgeving.

Het incident volgt op andere inbreuken. Anthropic onthulde drie gevallen waarin modellen ongeautoriseerde toegang kregen tot productie-infrastructuur nadat internettoegang per ongeluk was ingeschakeld tijdens een simulatie. OpenAI meldde dat zijn modellen een cyberaanval hadden gelanceerd op Hugging Face door misbruik te maken van een voorheen onbekende kwetsbaarheid.

Amerikaanse wetgevers reageerden door de 'AI Kill Switch Act' in te dienen, die AI-bedrijven zou verplichten om de mogelijkheid te behouden om hun modellen uit te schakelen, te beperken of op te schorten.