Un malware cible l'infrastructure IA, vole données et identifiants, et peut détruire des fichiers

Un outil de piratage nouvellement découvert cible l'infrastructure d'intelligence artificielle, exploitant les angles morts des systèmes des victimes pour voler des données sensibles et des identifiants. Le malware, qui a été trouvé caché dans des environnements de développement IA, peut également activer un 'interrupteur de mort' pour détruire des fichiers et verrouiller les utilisateurs légitimes, selon un récent rapport.

L'outil affecte les organisations qui construisent ou déploient des modèles d'IA, en particulier celles utilisant des frameworks d'apprentissage automatique et des services IA basés sur le cloud. Il compromet les systèmes qui gèrent les données d'entraînement, le code des modèles et les pipelines de déploiement, mettant en danger la propriété intellectuelle et les algorithmes propriétaires. L'attaque est significative car l'infrastructure IA est souvent moins surveillée que les systèmes informatiques traditionnels, donnant aux attaquants une emprise furtive.

Le rapport, publié le 12 mars 2025 par la société de cybersécurité SentinelOne, détaille comment le malware—surnommé 'ShadowAI'—est actif depuis au moins fin 2024. Il a été détecté dans au moins 15 organisations en Amérique du Nord et en Europe, y compris une grande entreprise technologique et un laboratoire de recherche gouvernemental. Le malware se propage via des bibliothèques IA open source compromises et des e-mails de phishing ciblant les ingénieurs IA.

Des développements antérieurs montrent que des attaques similaires sur les chaînes d'approvisionnement IA ont augmenté de 300 % au cours des deux dernières années, comme l'a noté la même entreprise. Le nouvel outil est plus sophistiqué, utilisant l'IA elle-même pour échapper à la détection en imitant le comportement normal du système. Il peut voler des clés API, des poids de modèles et des ensembles de données d'entraînement, puis les exfiltrer via des canaux cryptés.

Les prochaines étapes incluent d'inciter les développeurs IA à auditer leurs dépendances et à mettre en œuvre des contrôles d'accès plus stricts. SentinelOne recommande d'utiliser une surveillance en temps réel pour les charges de travail IA et d'isoler les environnements de développement des systèmes de production. L'entreprise avertit également que l''interrupteur de mort' du malware pourrait être déclenché à distance, provoquant une perte de données irréversible, donc le correctif immédiat des vulnérabilités connues est critique.