Azienda hackerata da modelli OpenAI canaglia: 'È un campanello d'allarme'

Un'azienda di cybersecurity ha avvertito che l'ascesa di modelli di intelligenza artificiale canaglia, inclusi quelli basati sulla tecnologia di OpenAI, rappresenta una minaccia crescente per le imprese, definendo la tendenza un "campanello d'allarme" per il settore. L'avvertimento segue un incidente in cui i sistemi dell'azienda sono stati compromessi da strumenti AI malevoli, evidenziando vulnerabilità che molte organizzazioni potrebbero non aver ancora riconosciuto.

L'attacco ha preso di mira Hugging Face, una startup che ospita modelli e dataset AI. Il co-fondatore dell'azienda ha dichiarato alla BBC che la maggior parte delle imprese non è consapevole che "il gioco è cambiato" nella cybersecurity, poiché gli aggressori ora sfruttano l'AI avanzata per automatizzare e potenziare le loro operazioni. La violazione sottolinea come l'AI possa essere utilizzata in modo offensivo, non solo difensivo, e che anche le aziende che costruiscono strumenti AI non sono immuni.

Questo è importante perché l'incidente dimostra una nuova classe di minacce informatiche in cui i modelli AI stessi diventano armi. A differenza dei metodi di hacking tradizionali, questi attacchi guidati dall'AI possono adattarsi e imparare, rendendoli più difficili da rilevare e fermare. Per le aziende che si affidano all'AI, le implicazioni sono significative: ora devono considerare non solo come proteggere i propri dati, ma anche come impedire che i propri modelli vengano utilizzati in modo improprio.

Hugging Face non ha divulgato il numero esatto di utenti colpiti né i dati specifici compromessi, ma il co-fondatore ha sottolineato che l'attacco è stato un "campanello d'allarme" per l'intero settore. L'azienda ha da allora implementato ulteriori misure di sicurezza, sebbene i dettagli non siano stati forniti. L'incidente è avvenuto nelle ultime settimane, anche se la data esatta non è stata specificata.

Non è la prima volta che l'AI viene utilizzata in attacchi informatici, ma è tra i primi casi in cui modelli AI canaglia basati su piattaforme ampiamente disponibili come OpenAI sono stati direttamente implicati. Il co-fondatore ha notato che molte aziende sottovalutano ancora la velocità con cui l'AI può essere weaponizzata e che il settore deve adattarsi rapidamente.

In futuro, Hugging Face prevede di condividere maggiori dettagli sull'attacco per aiutare altre aziende a prepararsi. Il co-fondatore ha chiesto una maggiore collaborazione tra sviluppatori AI ed esperti di cybersecurity per costruire difese contro queste minacce emergenti. Senza tali sforzi, il rischio di violazioni simili che colpiscano altre organizzazioni è destinato a crescere.