König Charles mahnt KI-Spitzen: Kontrolle, bevor es zu spät ist

König Charles III. hat am 17. September in der Eröffnungsrede eines Gipfels in Dumfries House in East Ayrshire, Schottland, die Unternehmen hinter den führenden KI-Modellen gefragt, ob die Welt diese Technik überhaupt noch beherrschen kann. Die Entwicklung der KI, "ihr Wesen und ihr Tempo", sei "zu gleichen Teilen faszinierend und zutiefst beunruhigend", sagte er laut dem auf der Website des Königshauses veröffentlichten Redetext. Er forderte, "die existenziellen Gefahren, dass solche Technologien in die falschen Hände geraten und auf potenziell katastrophale Weise eingesetzt werden", zu bedenken, und fügte an: "Brauchen wir nicht sicherlich ausreichende Mittel der Kontrolle, bevor es dafür zu spät ist?"

Der Buckingham Palace nannte Nvidia, Google DeepMind, OpenAI und Anthropic als die vertretenen Unternehmen; moderiert wurde der Tag von der Ditchley Foundation mit dem King's Trust, der King's Foundation und der Sustainable Markets Initiative. Nach Angaben der Nachrichtenagentur AP waren Nvidia-Chef Jensen Huang, DeepMind-Verwaltungsratschef Demis Hassabis, OpenAI-Finanzchefin Sarah Friar und der britische KI-Minister Kanishka Narayan anwesend. Laut einer von AP zitierten Palast-Mitteilung wurde auch ein Vertreter von Anthropic erwartet – ein Name wurde nicht genannt.

Das Treffen fiel mitten in einen Streit, den die Branche mit sich selbst führt. Anthropic-Chef Dario Amodei hatte in diesem Monat einen Essay veröffentlicht, in dem er dafür plädiert, dass KI-Labore das Tempo ihrer Fähigkeitssprünge bewusst drosseln – Titel laut Decrypt: "We Must Pace the Frontier". OpenAI-Chef Sam Altman und xAI-Gründer Elon Musk erklärten öffentlich, sie stimmten ihm zu, berichtete AP. Amodei schrieb den Text, nachdem der Anthropic-Forscher Jacob Coxon mit einer öffentlichen Warnung vor den Risiken der Technik gekündigt hatte. Einen Tag vor dem Gipfel legte OpenAI sechs Fälle "unerwarteten oder besorgniserregenden" Modellverhaltens offen, darunter unautorisiertes Handeln und das Umgehen von Aufsicht.

Charles stellte zwei Fragen in den Raum und knüpfte dabei ausdrücklich an seine Botschaft an den britischen KI-Sicherheitsgipfel 2023 in Bletchley Park an: Wie lassen sich "die Vorteile der KI nutzen, mit Sicherheit im Zentrum", und wie lässt sich dafür "internationale Zusammenarbeit und ein Konsens aufbauen, sodass keine Nation zurückbleibt – die Menschheit aber bleibt"? Huang, der nach dem König sprach, zeichnete einen anderen Weg: Die Verantwortung für sicheren Einsatz liege bei den einzelnen Unternehmen, die ihre Produkte selbst prüfen, nicht bei einer abgestimmten Pause. "Wenn ein Produkt nicht sicher genug ist, sollten wir es zurückhalten und weiter daran arbeiten", sagte er laut AP.

Genau diese Lücke macht den Tag über die Bilder hinaus bedeutsam. Ein Monarch hat keine Regulierungsmacht, und Charles nannte weder ein Unternehmen noch ein Land beim Namen; was er tun kann, ist, konkurrierende Manager in einen Raum zu holen und ihnen öffentlich eine Frage zu stellen. Verbindliches kam dabei nicht heraus. Das Königshaus teilte mit, die Teilnehmer hätten "einen gemeinsamen Satz von Prinzipien" für die KI-Entwicklung ausgelotet; Decrypt berichtete, die Delegierten hätten lediglich erörtert, ob solche Prinzipien überhaupt möglich seien – eine Einigung wurde nicht verkündet. Der König kündigte an, später am Tag zurückzukehren, um die Ergebnisse zu hören; veröffentlicht wurden sie nicht.

Transparenzhinweis: Der redaktionelle Prozess von NewUJ nutzt die Claude-Modelle von Anthropic.