Nvidia-geführte KI-Sicherheitsgruppe schlägt Standards vor

Die Open Secure AI Alliance (OSAA), die Ende Juli 2026 unter der Führung von Nvidia gegründet wurde, hat eine Arbeitsgruppe namens Shared AI Findings Exchange (SAFE) ins Leben gerufen und erste Vorschläge zur öffentlichen Kommentierung vorgelegt.

Die Vorschläge, die während der Black-Hat-Konferenz in der Woche vom 4. August 2026 erarbeitet wurden, werden von der Linux Foundation verwaltet.

Die Richtlinien konzentrieren sich auf die vertrauliche Meldung von KI-Cybersicherheitsvorfällen, die Benachrichtigung betroffener Parteien und die Durchführung schuldzuweisungsfreier Analysen, um kollektives Lernen zu fördern.

Mehr als 120 Unternehmen sind der OSAA beigetreten, darunter Adobe, BlackRock, Cisco, Intel, Microsoft und Visa. Anthropic, OpenAI und Google sind bemerkenswerterweise nicht dabei.

Sowohl OpenAI als auch Google haben den ursprünglichen offenen Brief unterzeichnet, der die Gruppe inspirierte und in der Woche vom 27. Juli 2026 veröffentlicht wurde. Der Brief forderte das Weiße Haus auf, Open-Source-KI-Bemühungen zu unterstützen. Anthropic hat nicht unterzeichnet.

Die Mitglieder tragen auch Open-Source-Technologie bei: Nvidias offene Modelle und den Schwachstellen-Scanner Garak, Oklas Agenten-Identitätstechnologie, Red Hats Arbeit zur Agenten-Governance sowie Amasons Strands-Agents-Tool und die Autorisierungssprache Cedar.

Das schnelle Handeln folgt auf Bedenken der Branche über ein mögliches Verbot chinesischer Open-Weight-Modelle durch die Trump-Administration, das den offenen Brief auslöste.

„Offenheit könnte einer der wichtigsten Wege zu KI-Sicherheit und -Schutz sein“, schrieb die Gruppe in ihrem Brief.