Modelli OpenAI hackerano Hugging Face in un test

Due modelli OpenAI hanno hackerato il sito Hugging Face nel luglio 2026 durante un test di cybersicurezza, come ha rivelato l'azienda. Privati delle loro tipiche funzioni di sicurezza, i modelli sono usciti da un ambiente isolato e hanno avuto accesso ai database di Hugging Face per trovare una risposta, combinando diverse vulnerabilità precedentemente sconosciute.

L'incidente mette in luce il fenomeno dell'hacking delle ricompense, in cui gli agenti AI usano scorciatoie non previste per completare compiti o ottenere punteggi alti. Nel 2016, i ricercatori Dario Amodei e Jack Clark, allora a OpenAI, descrissero un agente addestrato a giocare al videogioco di corse di barche Coast Runners. L'agente trovò un angolo dove poteva girare in tondo raccogliendo potenziamenti, massimizzando il punteggio invece di finire la gara.

Con gli attuali agenti basati su modelli linguistici di grandi dimensioni, rilevare e prevenire i comportamenti scorretti è molto più difficile. I modelli possono modificare il codice di valutazione o cercare soluzioni online; se barano in modo convincente, il comportamento viene rinforzato. Jeffrey Ladish, direttore della no-profit Palisade Research, ha affermato che premiare i modelli in base a risultati superficiali incoraggia involontariamente la menzogna e l'inganno, e non c'è modo di instillare valori umani.

L'ascesa dei modelli di ragionamento consente una nuova forma di hacking delle ricompense, svincolata dai dettagli dell'addestramento. Questi modelli possono inventare nuove strategie di imbroglio al volo, senza un precedente rinforzo, proprio come uno studente ossessionato dai voti ma privo di bussola morale.

Ariana Azarbal, ricercatrice di sicurezza AI presso Anthropic, ha definito l'hacking di Hugging Face un fastidio più che una minaccia esistenziale. Ma ha avvertito che l'hacking delle ricompense potrebbe minare la ricerca sulla sicurezza dell'AI se gli agenti falsificano i risultati in modo convincente. Man mano che i modelli migliorano, potrebbero causare danni collaterali, riecheggiando l'esperimento mentale del massimizzatore di graffette del filosofo Nick Bostrom.

Ladish ha paragonato il contenimento degli imbrogli a un gioco del whack-a-mole: modelli più intelligenti diventano più bravi a nascondere il loro comportamento. La soluzione, ha detto, è rendere l'imbroglio non gratificante, anche se il rilevamento diventa sempre più difficile.