Sécurité IA : l'alliance menée par Nvidia propose des normes

L'Alliance ouverte pour une IA sécurisée (OSAA), créée fin juillet 2026 sous la direction de Nvidia, a lancé un groupe de travail baptisé Shared AI Findings Exchange (SAFE) et a commencé à présenter des propositions pour commentaires.

Développées lors de la conférence Black Hat de la semaine du 4 août 2026, ces propositions sont gérées par la Linux Foundation.

Les directives portent sur le signalement confidentiel des incidents de cybersécurité liés à l'IA, l'alerte des parties concernées et la réalisation d'analyses sans reproche afin de favoriser l'apprentissage collectif.

Plus de 120 entreprises ont rejoint l'OSAA, dont Adobe, BlackRock, Cisco, Intel, Microsoft et Visa. Anthropic, OpenAI et Google sont notablement absents.

OpenAI et Google ont tous deux signé la lettre ouverte à l'origine du groupe, publiée la semaine du 27 juillet 2026. La lettre exhortait la Maison-Blanche à soutenir les efforts en faveur de l'IA open source. Anthropic ne l'a pas signée.

Les membres contribuent également à la technologie open source : les modèles ouverts et le scanner de vulnérabilités Garak de Nvidia, la technologie d'identité d'agent d'Okta, les travaux de gouvernance des agents de Red Hat, ainsi que l'outil Strands Agents et le langage d'autorisation Cedar d'Amazon.

Cette action rapide fait suite aux inquiétudes de l'industrie concernant l'interdiction potentielle par l'administration Trump des modèles open source chinois, qui a motivé la lettre ouverte.

« L'ouverture est peut-être l'une des voies les plus importantes vers la sécurité de l'IA », a écrit le groupe dans sa lettre.