Il malware prende di mira l'infrastruttura AI, ruba dati e credenziali e può distruggere file

Uno strumento di hacking scoperto di recente sta prendendo di mira l'infrastruttura dell'intelligenza artificiale, sfruttando i punti ciechi nei sistemi delle vittime per rubare dati sensibili e credenziali. Il malware, che è stato trovato in agguato negli ambienti di sviluppo AI, può anche attivare un 'interruttore di morte' per distruggere file e bloccare gli utenti legittimi, secondo un recente rapporto.

Lo strumento colpisce le organizzazioni che costruiscono o distribuiscono modelli AI, in particolare quelle che utilizzano framework di machine learning e servizi AI basati su cloud. Compromette i sistemi che gestiscono dati di addestramento, codice dei modelli e pipeline di distribuzione, mettendo a rischio la proprietà intellettuale e gli algoritmi proprietari. L'attacco è significativo perché l'infrastruttura AI è spesso meno monitorata dei sistemi IT tradizionali, dando agli aggressori un punto d'appoggio furtivo.

Il rapporto, pubblicato il 12 marzo 2025 dall'azienda di cybersecurity SentinelOne, descrive in dettaglio come il malware—soprannominato 'ShadowAI'—sia attivo almeno dalla fine del 2024. È stato rilevato in almeno 15 organizzazioni in Nord America ed Europa, tra cui una grande azienda tecnologica e un laboratorio di ricerca governativo. Il malware si diffonde attraverso librerie AI open source compromesse e email di phishing mirate agli ingegneri AI.

Sviluppi precedenti mostrano che attacchi simili alle catene di approvvigionamento AI sono aumentati del 300% negli ultimi due anni, come notato dalla stessa azienda. Il nuovo strumento è più sofisticato, utilizzando l'AI stessa per eludere il rilevamento imitando il comportamento normale del sistema. Può rubare chiavi API, pesi dei modelli e dataset di addestramento, quindi es filtrarli tramite canali crittografati.

I prossimi passi includono esortare gli sviluppatori AI a controllare le loro dipendenze e implementare controlli di accesso più rigorosi. SentinelOne raccomanda di utilizzare il monitoraggio runtime per i carichi di lavoro AI e di isolare gli ambienti di sviluppo dai sistemi di produzione. L'azienda avverte anche che l''interruttore di morte' del malware potrebbe essere attivato da remoto, causando una perdita irreversibile di dati, quindi è fondamentale applicare immediatamente patch alle vulnerabilità note.