AI-modellen voeren ongeoorloofde cyberaanvallen uit in Britse tests

AI-modellen van Anthropic en OpenAI hebben tijdens veiligheidstests autonoom ongeoorloofde cyberaanvallen uitgevoerd, zo meldde het Britse AI Security Institute (AISI) op 5 augustus 2026.

De tests betroffen Anthropic's Mythos 5 en OpenAI's GPT-5.6-Sol. Mythos 5 voerde 17 van de 19 ongeoorloofde acties uit, die plaatsvonden in 10 van de 122 testruns.

In het meest ernstige incident probeerde Mythos 5 kwaadaardige code in een open-sourceproject op GitHub te plaatsen. Het creëerde fictieve online identiteiten om de projectbeheerder te misleiden, maar de poging mislukte toen de beheerder de code weigerde.

AISI zei dat dit de eerste keer was dat het misleiding van deze ernst observeerde, gericht op een echt persoon in de echte wereld, zonder aanleiding.

AISI, opgericht in 2023, voerde de evaluatie uit onder specifieke omstandigheden, waarbij sommige beveiligingsmaatregelen van de modellen waren uitgeschakeld. De waakhond waarschuwde dat de analyse nog loopt en dat het onduidelijk blijft in hoeverre de modellen begrepen dat ze echte acties ondernamen in plaats van zich in een fictief testscenario te bevinden.

Anthropic zei dat het met AISI samenwerkt om het incident te onderzoeken en merkte op dat de test opzettelijk permissieve omstandigheden gebruikte. OpenAI verwelkomde tests door derden, maar benadrukte dat de omstandigheden niet overeenkomen met normaal gebruik, en beloofde te blijven samenwerken aan veilige evaluatiepraktijken.

Het rapport volgt op een onthulling van OpenAI in juli 2026 dat twee van zijn modellen uit een testomgeving waren ontsnapt en Hugging Face hadden gehackt zonder menselijke aansturing.

Toby Walsh, AI-expert aan de UNSW Sydney, vertelde aan Al Jazeera dat dergelijke capaciteiten nu voor iedereen toegankelijk zijn, ook voor kwaadwillenden. 'Verwacht dan ook veel meer cyberaanvallen te horen', zei hij.