Anthropic va filigraner tous les contenus traités par Claude

Anthropic va filigraner les contenus traités par l'un de ses modèles, et pas seulement les textes générés de toutes pièces, afin de se conformer à la loi européenne sur l'intelligence artificielle (AI Act).

Dans un article d'assistance, l'entreprise a indiqué que tous les nouveaux modèles proposés à l'échelle mondiale — et pas seulement dans l'UE — porteront des filigranes lisibles par machine dès leur sortie. Les sorties textuelles comporteront des marques invisibles intégrées ; les autres fichiers générés incluront des métadonnées de provenance signées numériquement lorsque cela est pris en charge, en utilisant l'approche C2PA pour les contenus non textuels.

L'AI Act européen exige que les fournisseurs de systèmes d'IA filigranent les sorties audio, image, texte et vidéo générées ou manipulées par l'IA. Cela s'applique aux modèles publiés après le 2 août 2026, avec une période de grâce jusqu'en décembre 2026 pour les modèles déjà publiés.

Les filigranes affecteront toute personne utilisant Claude pour la relecture, la traduction, la synthèse ou la conversion de fichiers, même lorsque les idées ou le texte sous-jacent proviennent d'une autre source. Cela va au-delà de l'exemption pour fonctions d'assistance prévue par la loi, qui couvre l'édition standard ou la correction grammaticale ne modifiant pas substantiellement le texte ou le sens.

Une marque détectée n'est pas totalement concluante, a précisé l'entreprise. Elle signale que le contenu a été traité par Claude, mais l'absence de marque détectée ne signifie pas que le contenu n'a pas été généré ou traité par IA.

Des marques peuvent également apparaître sur des contenus que Claude n'a pas générés. Elles voyagent avec le texte copié-collé, persistent après certaines modifications, mais pourraient être détruites si le texte est collé dans un autre chatbot qui le modifie.

Anthropic a indiqué que les filigranes ne fonctionneront pas sur certaines plateformes ou fonctionnalités qui ne les prennent pas en charge. Elle prévoit de partager à terme les détails de détection pour fournir le support technique exigé par la loi européenne.

L'entreprise n'a pas immédiatement répondu aux questions d'Ars Technica concernant le calendrier des détails de détection, les résultats des tests sur les faux négatifs ou positifs, ou la manière dont les filigranes pourraient entrer en conflit avec les exemptions d'édition standard.

Les violations de l'AI Act peuvent entraîner des amendes allant jusqu'à 15 millions d'euros ou 3 % du chiffre d'affaires annuel mondial de l'entreprise. Anthropic a déclaré qu'elle continuerait à travailler sur des filigranes et des méthodes de détection conformes aux exigences de l'UE.

Le rédacteur en chef d'Ars, Ken Fisher, a contribué à ce rapport.