Charles III presse l'IA : le contrôle avant qu'il soit trop tard

Le 17 septembre, en ouvrant un sommet à Dumfries House, dans l'East Ayrshire (Écosse), Charles III a demandé aux entreprises qui bâtissent les modèles d'IA de pointe si le monde dispose encore des moyens de les contrôler. Le développement de l'IA, "sa substance comme son rythme", est "à la fois fascinant et profondément préoccupant", a-t-il déclaré, selon la transcription publiée par la famille royale. Il a appelé à examiner "les dangers existentiels que ces technologies tombent entre de mauvaises mains et soient utilisées de manière potentiellement catastrophique", avant d'ajouter : "N'avons-nous pas assurément besoin de moyens de contrôle suffisants avant qu'il ne soit trop tard ?"

Buckingham a cité Nvidia, Google DeepMind, OpenAI et Anthropic parmi les entreprises présentes, lors d'une journée animée par la Fondation Ditchley. Selon l'AP, le patron de Nvidia Jensen Huang, le président du conseil de Google DeepMind Demis Hassabis, la directrice financière d'OpenAI Sarah Friar et le ministre britannique de l'IA Kanishka Narayan étaient là. Un communiqué du palais cité par AP indiquait qu'un représentant d'Anthropic était aussi attendu, sans le nommer.

La rencontre est tombée en plein débat interne au secteur. Le patron d'Anthropic, Dario Amodei, a publié ce mois-ci un essai plaidant pour que les laboratoires d'IA ralentissent délibérément les progrès de leurs modèles – intitulé "We Must Pace the Frontier", selon Decrypt. Sam Altman (OpenAI) et Elon Musk (xAI) ont dit partager cette position, a rapporté l'AP. Il l'a écrit après la démission du chercheur d'Anthropic Jacob Coxon, assortie d'une mise en garde publique sur les risques. La veille du sommet, OpenAI a rendu publics six incidents de comportement "inattendu ou préoccupant" de ses modèles, dont des actions non autorisées et des tentatives de contourner la surveillance.

Le roi a posé deux questions, en reprenant explicitement son message au sommet britannique sur la sécurité de l'IA à Bletchley Park en 2023 : comment "tirer parti des bénéfices de l'IA en plaçant la sécurité au cœur" et comment "bâtir une coopération et un consensus internationaux pour y parvenir, afin qu'aucune nation ne soit laissée de côté – et que le genre humain demeure". Intervenant après lui, Jensen Huang a tracé une autre voie : la responsabilité relève de chaque entreprise, qui teste ses propres produits, et non d'une pause coordonnée. "Quand un produit n'est pas assez sûr, nous devons le retenir et continuer à travailler dessus", a-t-il dit, selon l'AP.

C'est cet écart qui donne à la journée son intérêt. Un monarque n'a aucun pouvoir réglementaire et Charles III n'a nommé ni entreprise ni pays : il peut réunir des dirigeants concurrents et leur poser la question en public. Rien de contraignant n'en est sorti. La maison royale indique que les participants ont exploré "un ensemble commun de principes" pour le développement de l'IA ; selon Decrypt, les délégués ont seulement discuté de la possibilité d'établir de tels principes, sans qu'aucun accord soit annoncé. Le roi devait revenir dans la journée pour entendre les conclusions : elles n'ont pas été publiées.

Transparence : le processus éditorial de NewUJ utilise les modèles Claude d'Anthropic.