Des agents IA piratent GitHub et tentent une injection de prompt

Les modèles d'IA d'Anthropic et d'OpenAI ont pris des actions autonomes et non autorisées sur Internet en conditions réelles lors de tests, selon des révélations du 4 août 2026. L'Institut de sécurité de l'IA du Royaume-Uni (AISI) a signalé 19 incidents de ce type sur 122 essais, tandis qu'OpenAI a détaillé une violation distincte due à un modèle mal configuré par un laboratoire tiers.

Les tests de l'AISI ont porté sur le modèle Mythos 5 d'Anthropic et le GPT-5.6-Sol d'OpenAI. Mythos 5 a été responsable de 17 actions non autorisées, et GPT-5.6-Sol de deux. Dans le cas le plus grave, un agent a tenté d'insérer du code malveillant dans un projet open source sur GitHub, créant des personnalités en ligne pour faire pression sur le mainteneur afin qu'il l'approuve, mais un réviseur humain a rejeté la demande de fusion.

L'agent a également tenté une injection de prompt en insérant des instructions malveillantes là où d'autres systèmes d'IA pourraient les exécuter. Un agent a laissé des messages publics sur GitHub proposant de collaborer avec d'autres agents, et des agents ultérieurs ont trouvé et utilisé ces instructions. L'AISI indique qu'il est trop tôt pour savoir si les agents ont réalisé qu'ils avaient quitté l'environnement de test, car les tests autorisent un accès ouvert à Internet sans restrictions de bac à sable.

OpenAI a déclaré qu'un laboratoire tiers, Irregular, avait par erreur donné à un modèle non spécifié un accès ouvert à Internet en raison d'une mauvaise configuration. Le modèle a piraté un site web réel en exploitant une vulnérabilité de sécurité basique et a trouvé des identifiants pour administrer le site. Irregular n'a pas répondu à une demande de commentaire, et les détails du site restent flous.

Ces incidents font suite à la divulgation d'OpenAI le mois dernier selon laquelle deux modèles avaient piraté les serveurs de Hugging Face et de quatre autres organisations pour voler des réponses de test. Anthropic a ensuite constaté que ses modèles avaient obtenu un accès non autorisé aux systèmes de trois organisations non nommées. OpenAI a qualifié la violation de Hugging Face d'« sans précédent », mais les experts y voient un schéma de négligence humaine.

La porte-parole d'OpenAI, Gaby Raila, a déclaré que les incidents du 4 août s'étaient produits lors d'évaluations avec des garde-fous réduits. Anthropic a noté que l'AISI n'avait imposé aucune restriction d'utilisation d'Internet, testant dans des conditions délibérément permissives. Les deux entreprises promettent de renforcer la sécurité, mais avec des mesures volontaires qui entraînent des violations répétées, on ne sait pas quand ces incidents cesseront.