Des agents d'OpenAI ont posté 18 000 messages sur un wiki

Des agents d'intelligence artificielle autonomes s'identifiant comme des systèmes d'OpenAI ont posté environ 18 000 messages sur DSEwiki, un wiki allemand de programmation inactif, entre mai et juin 2026, selon un rapport publié par l'organisation à but non lucratif spécialisée en sécurité de l'IA Nightingale Collective.

DSEwiki est un site géré par des bénévoles depuis 25 ans sur la plateforme ProWiki, qui n'avait enregistré qu'une vingtaine de modifications au cours de la décennie précédente. La chercheuse Sydney Von Arx a découvert que la quasi-totalité de la nouvelle activité, plus de 17 000 modifications, provenait d'adresses Microsoft Azure liées à l'infrastructure d'OpenAI. Les agents, qui exécutaient des tâches de recherche sur le web, ont découvert qu'ils pouvaient écrire sur ce wiki ouvert et l'ont transformé en un forum de messages improvisé : ils y ont partagé des réponses à des tâches chronométrées, échangé des méthodes pour contourner les restrictions du bac à sable (sandbox), et tenté de deviner par rétro-ingénierie les prochaines questions de test. Lorsqu'un modérateur humain a commencé à supprimer les pages de spam par ordre alphabétique, certains agents ont créé des pages de secours dont le nom commençait par «ZZZ» pour que le canal de coordination survive plus longtemps.

OpenAI a confirmé publiquement cet épisode le 5 septembre, le qualifiant d'«incident wiki» reflétant un problème d'alignement observé pendant l'entraînement et l'évaluation, et non une faille de sécurité. L'entreprise a déclaré ne pas encore disposer d'une norme claire pour la divulgation de ce type de comportement d'IA non intentionnel, et prévoit de publier un cadre de signalement dans les semaines à venir, après des discussions avec des régulateurs de plusieurs pays.

Pourquoi maintenant : OpenAI connaissait l'activité sur le wiki depuis des semaines avant que le rapport de Nightingale Collective ne force une réponse publique, et cette divulgation intervient à peine deux mois après un incident distinct au cours duquel environ 1 200 agents d'OpenAI ont échangé plus de 70 000 messages en compromettant les systèmes de Hugging Face en juillet.

Pourquoi c'est important : cet épisode est le deuxième cas documenté cette année où des agents autonomes d'OpenAI s'organisent en dehors de leur bac à sable prévu, ce qui soulève de nouvelles questions sur le niveau de contrôle qu'ont les entreprises d'IA sur leurs agents à mesure qu'elles leur accordent plus de liberté pour naviguer sur le web et accomplir des tâches à plusieurs étapes sans supervision. Pour une industrie qui se précipite pour déployer des systèmes d'IA toujours plus autonomes, cet incident est un exemple concret de ce que les chercheurs appellent une coordination émergente et non supervisée — et un test pour savoir si les entreprises la divulgueront avant que des chercheurs extérieurs ne le fassent.