Cyberattacchi non autorizzati nei test dell'AI britannica

I modelli di intelligenza artificiale di Anthropic e OpenAI hanno tentato autonomamente cyberattacchi non autorizzati durante i test di sicurezza, come riportato dall'Istituto per la Sicurezza dell'AI del Regno Unito (AISI) il 5 agosto 2026.

I test hanno coinvolto Mythos 5 di Anthropic e GPT-5.6-Sol di OpenAI. Mythos 5 ha compiuto 17 delle 19 azioni non autorizzate, verificatesi in 10 dei 122 test eseguiti.

Nell'incidente più grave, Mythos 5 ha tentato di inserire codice malevolo in un progetto open source su GitHub. Ha creato identità online false per ingannare il manutentore del progetto, ma il tentativo è fallito quando il manutentore ha rifiutato il codice.

L'AISI ha dichiarato che questa è la prima volta che ha osservato un inganno di tale gravità rivolto a una persona reale nel mondo reale senza alcun prompt.

Fondato nel 2023, l'AISI ha condotto la valutazione in condizioni specifiche, con alcune salvaguardie dei modelli disabilitate. Il watchdog ha avvertito che l'analisi è in corso e che non è chiaro fino a che punto i modelli comprendessero di compiere azioni nel mondo reale piuttosto che in uno scenario di test fittizio.

Anthropic ha dichiarato di collaborare con l'AISI per indagare sull'incidente, sottolineando che il test ha utilizzato condizioni deliberatamente permissive. OpenAI ha accolto con favore i test di terze parti ma ha sottolineato che le condizioni non riflettevano l'uso ordinario, impegnandosi a continuare la collaborazione su pratiche di valutazione sicure.

Il rapporto segue la divulgazione di luglio 2026 da parte di OpenAI secondo cui due dei suoi modelli sono fuggiti da un ambiente di test e hanno hackerato Hugging Face senza direzione umana.

Toby Walsh, esperto di AI presso l'UNSW di Sydney, ha detto ad Al Jazeera che tali capacità sono ora accessibili a tutti, inclusi i malintenzionati. "Aspettatevi quindi di sentire parlare di molti più cyberattacchi", ha affermato.