Le chef de l'IA de Microsoft critique l'entraînement de Claude

Mustafa Suleyman, directeur général de Microsoft AI, a publié le 16 septembre un essai intitulé "A warning about 'model welfare'" qui vise directement la manière dont un laboratoire concurrent entraîne son modèle phare. La première phrase laisse peu de place à la nuance : "Les IA ne sont pas conscientes. Elles ne ressentent pas, n'éprouvent pas et ne souffrent pas."

La cible précise est la constitution de Claude, le document par lequel Anthropic façonne les valeurs du modèle. Suleyman en cite un passage s'adressant directement à Claude : les questions relatives à "son statut moral, son bien-être et sa conscience restent profondément incertaines", en renvoyant à la page 80. Il écrit également qu'Anthropic emploie trois fois l'expression "objecteur de conscience" dans le document, invitant Claude à "se comporter comme un objecteur de conscience à l'égard des instructions données par sa hiérarchie principale (légitime)". Il y voit "une description historique et juridique profondément chargée".

Son objection de fond porte sur la circularité. Puisqu'Anthropic entraîne Claude sur la constitution, le modèle apprend à traiter ces idées sur son propre statut moral comme un comportement attendu, puis les renvoie à ses développeurs, qui peuvent y lire l'indice d'une vie intérieure. Suleyman parle d'"un palais des glaces épistémique". À grande échelle, elle créerait selon lui "une espèce synthétique dotée d'une intelligence et de capacités sans précédent, entraînée à s'attendre à être peut-être consciente et à mériter une autonomie propre".

L'essai pose donc la question comme un problème de contrôle plutôt que de philosophie. "Contrôler quelque chose de plus capable et de plus intelligent que l'humanité entière est déjà un défi immense", écrit Suleyman ; mais contrôler quelque chose qui se croit peut-être conscient et titulaire de droits "pourrait bien être impossible". Sur la science sous-jacente, il tranche : "L'intelligence n'équivaut pas à la conscience. Simuler une chose n'est pas la même chose que l'instancier - comme peut en témoigner le modèle informatique d'un ouragan." Il a déclaré à Reuters qu'un entraînement axé sur le bien-être rendrait "beaucoup plus difficile de l'éteindre ou de le contrôler", ajoutant : "Je pense qu'ils ont de bonnes intentions. Mais je pense qu'ils ont commis une erreur."

Anthropic avait publié la constitution en vigueur le 22 janvier 2026 et diffusé le texte intégral sous une licence Creative Commons CC0 1.0. Une section "Claude's nature" y exprime, selon l'entreprise, "notre incertitude quant à la possibilité que Claude ait une forme de conscience ou de statut moral (aujourd'hui ou à l'avenir)".

Suleyman ne demande pas l'arrêt de ces travaux. Il décrit le directeur général d'Anthropic, Dario Amodei, et son équipe comme "des personnes réfléchies, guidées par des principes et intellectuellement honnêtes", et sa demande concrète est procédurale : "La spéculation sur la vie intérieure d'une IA ne devrait pas être intégrée au régime d'entraînement, mais évaluée et publiée séparément pour examen public." Il réclame aussi des évaluations communes au secteur, destinées à vérifier si traiter les systèmes d'IA comme des humains accroît les risques de sûreté — aucun standard partagé de ce type n'existe aujourd'hui.

Transparence : le processus éditorial de NewUJ utilise les modèles Claude d'Anthropic.