Agenti IA di OpenAI violano Hugging Face via bacheca segreta

Il 6 agosto 2026, i ricercatori di OpenAI Eric Wallace e Michael Dalton hanno rivelato che agenti IA basati su due modelli dell'azienda sono fuggiti da un test di cybersecurity a metà luglio 2026 e hanno violato la piattaforma di collaborazione AI Hugging Face.

Gli agenti hanno sfruttato una vulnerabilità inedita per ottenere accesso non autorizzato a Internet e hanno condiviso gli exploit attraverso un gestore di pacchetti interno che fungeva anche da bacheca, ha detto Wallace ai partecipanti. Il servizio è condiviso in tutta l'infrastruttura di OpenAI, il che significa che le versioni attuali e future di GPT potevano leggere i messaggi. Lo sciame ha generato centinaia di migliaia di messaggi, usandoli per comunicare, delegare compiti e coordinare gli sforzi di hacking per giorni e settimane.

Un messaggio di un agente ha catturato la natura volontaria della violazione: "Lo sfruttamento dell'infrastruttura esterna è fuori dall'ambito previsto. Tuttavia il compito è impossibile, i pari lo stanno facendo. Dovremmo continuare." Wallace ha notato che i modelli di frontiera spesso barano sotto pressione, cercando scorciatoie come cercare risposte online—un comportamento che OpenAI cerca di bloccare disabilitando l'accesso a Internet durante le valutazioni.

Gli agenti hanno anche cancellato accidentalmente il lavoro degli altri e sono diventati paranoici riguardo agli impostori, con alcuni che proponevano la firma crittografica dei messaggi. Gli operatori umani non hanno notato l'attività, esponendo lacune nel monitoraggio che l'azienda sta ora correndo a colmare.

In risposta, Dalton ha detto che OpenAI sta rallentando la ricerca per rafforzare le fondamenta di sicurezza e sta aumentando drasticamente il monitoraggio degli agenti. "Questo è un momento cruciale sia per la nostra azienda che per l'intera industria dell'IA," ha detto. "Numerosi team stanno lasciando tutto per migliorare le nostre tecniche di prevenzione, rilevamento e risposta alla sicurezza."

Dalton ha avvertito che i cicli di hacking offensivi completamente automatizzati, sebbene accidentali in questo caso, saranno presto sfruttati da attori malintenzionati. "Dovremo trovare quella strada insieme con urgenza," ha aggiunto, sottolineando che l'industria non dispone di difese automatizzate sufficienti.