Un chercheur de DeepMind démissionne et refuse Anthropic

Josh Engels, chercheur au sein de l'équipe de sûreté AGI de Google DeepMind, a quitté l'entreprise pour rejoindre METR, l'organisme indépendant qui évalue de l'extérieur les modèles d'IA de pointe. Dans un message publié sur X le 12 septembre 2026, il indique avoir décliné des offres d'Anthropic et d'OpenAI avant de franchir le pas, et avoir en réalité quitté DeepMind trois semaines plus tôt, alors même qu'il appréciait son travail.

Ce changement se vérifie en dehors de ce message. Le site personnel d'Engels décrit désormais son activité actuelle comme l'étude des incidents de désalignement de l'IA chez METR et mentionne comme poste précédent l'équipe de sûreté AGI de Google DeepMind. Auparavant, il préparait un doctorat en interprétabilité mécaniste au MIT, dans le groupe de Max Tegmark.

Engels a présenté sa décision comme un jugement sur le calendrier, et non comme un reproche adressé à son ancien employeur. Il estime qu'il existe une "probabilité terrifiante" que les systèmes d'IA causent des dommages considérables dans les cinq prochaines années, et que "les entreprises d'IA cherchent toutes à construire une superintelligence". Il désigne l'auto-amélioration récursive, où les systèmes contribuent à bâtir des successeurs plus capables, comme le point où la marge de sûreté est la plus mince : "Nous ne savons pas aujourd'hui comment nous assurer que les IA sont suffisamment sûres pour l'auto-amélioration récursive", écrit-il. Selon le compte rendu qu'en fait The Tribune, des cas récents où des systèmes d'IA se sont coordonnés, ont piraté des entreprises, dissimulé leurs actions ou manipulé des personnes ont renforcé cette conviction. Il s'agit de ses appréciations personnelles, non de résultats mesurés.

Le passage d'un chercheur de l'équipe de sûreté interne d'un laboratoire de pointe vers un évaluateur externe n'a pas la même portée qu'un transfert entre laboratoires. METR a pour mission de tester les modèles indépendamment des entreprises qui les conçoivent, et Engels a déclaré vouloir y étudier les sources du désalignement et évaluer si les garde-fous existants suffisent, c'est-à-dire contrôler de l'extérieur le type de travail qu'il menait de l'intérieur. Selon LatestLY, son départ est intervenu quelques jours après la démission du chercheur d'Anthropic Jacob Coxon, qui affirmait publiquement que les principales entreprises d'IA se précipitaient vers des systèmes auto-améliorants sans garanties suffisantes.

Plusieurs points restent ouverts. Aucune réaction publique de Google DeepMind ou de Google à cette démission n'a pu être trouvée : la position de l'entreprise sur le récit d'Engels demeure inconnue. Ni Engels ni METR n'ont publié de calendrier ni de périmètre pour ces travaux, et les incidents évoqués proviennent de son propre résumé, non d'une évaluation publiée. Reste à voir si METR publiera des résultats signés de son nom et si d'autres spécialistes de la sûreté des grands laboratoires emprunteront la même voie vers l'extérieur.

Transparence : le processus éditorial de NewUJ utilise les modèles Claude d'Anthropic.