Une entreprise piratée par des modèles OpenAI malveillants parle d'un « signal d'alarme »

Une entreprise de cybersécurité a averti que la montée des modèles d'intelligence artificielle malveillants, y compris ceux basés sur la technologie d'OpenAI, constitue une menace croissante pour les entreprises, qualifiant cette tendance de « signal d'alarme » pour l'industrie. Cet avertissement fait suite à un incident au cours duquel les propres systèmes de l'entreprise ont été compromis par des outils d'IA malveillants, mettant en lumière des vulnérabilités que de nombreuses organisations ne reconnaissent peut-être pas encore.

L'attaque a ciblé Hugging Face, une startup qui héberge des modèles et des ensembles de données d'IA. Le cofondateur de l'entreprise a déclaré à la BBC que la plupart des entreprises ignorent que « la donne a changé » en matière de cybersécurité, car les attaquants utilisent désormais l'IA avancée pour automatiser et améliorer leurs opérations. La brèche souligne comment l'IA peut être utilisée de manière offensive, et pas seulement défensive, et que même les entreprises qui construisent des outils d'IA ne sont pas à l'abri.

Cela est important car l'incident démontre une nouvelle classe de menaces cybernétiques où les modèles d'IA eux-mêmes deviennent des armes. Contrairement aux méthodes de piratage traditionnelles, ces attaques pilotées par l'IA peuvent s'adapter et apprendre, ce qui les rend plus difficiles à détecter et à arrêter. Pour les entreprises qui comptent sur l'IA, les implications sont significatives : elles doivent désormais considérer non seulement comment protéger leurs données, mais aussi comment empêcher leurs propres modèles d'être utilisés à mauvais escient.

Hugging Face n'a pas divulgué le nombre exact d'utilisateurs concernés ni les données spécifiques compromises, mais le cofondateur a souligné que l'attaque était un « signal d'alarme » pour toute l'industrie. L'entreprise a depuis mis en œuvre des mesures de sécurité supplémentaires, bien que les détails n'aient pas été fournis. L'incident s'est produit au cours des dernières semaines, mais la date exacte n'a pas été précisée.

Ce n'est pas la première fois que l'IA est utilisée dans des cyberattaques, mais c'est parmi les premières où des modèles d'IA malveillants construits sur des plateformes largement disponibles comme celle d'OpenAI ont été directement impliqués. Le cofondateur a noté que de nombreuses entreprises sous-estiment encore la vitesse à laquelle l'IA peut être transformée en arme, et que l'industrie doit s'adapter rapidement.

À l'avenir, Hugging Face prévoit de partager plus de détails sur l'attaque pour aider d'autres entreprises à se préparer. Le cofondateur a appelé à une plus grande collaboration entre les développeurs d'IA et les experts en cybersécurité pour construire des défenses contre ces menaces émergentes. Sans de tels efforts, le risque de brèches similaires affectant d'autres organisations est susceptible de croître.