Hinton, Li, Ng verteidigen offene KI-Modelle trotz Sicherheitsbedenken

Am 12. August 2026 sprachen sich Geoffrey Hinton, Fei-Fei Li und Andrew Ng auf der Konferenz Ai4 in Las Vegas dafür aus, die Entwicklung von KI offen zu halten, auch wenn sie bei der Frage, wie die Risiken zu managen sind, unterschiedlicher Meinung waren. Open-Weight-Modelle, bei denen die trainierten Parameter öffentlich zugänglich gemacht werden, sind zu einem Streitpunkt geworden, während große Labore strengere Kontrollen fordern.

Hinton, Nobelpreisträger, unterschied Open-Source-Code von Open-Weight-Modellen und warnte, dass offene Gewichte es leicht machen, teure Basismodelle für schädliche Zwecke wie Cyberangriffe zu verfeinern. Ng, Mitbegründer von Coursera, warnte, dass Innovation ins Stocken geraten könnte, wenn wenige Unternehmen zu Gatekeepern werden, und verglich das Risiko mit der Kontrolle von Apple und Google über mobile Betriebssysteme.

Ng bezeichnete KI als Quelle von Soft Power. Er warnte, dass Chinas kosteneffiziente Open-Weight-Modelle in Afrika und der Entwicklungswelt Anklang finden könnten und die Ansichten von Milliarden Menschen über Demokratie und Menschenrechte beeinflussen würden. Er forderte amerikanische Wettbewerbsfähigkeit bei Open-Source-KI und sagte, Lobbyarbeit und Angstmache in den USA erschwerten den Wettbewerb mit chinesischen Modellen.

Li, CEO und Mitbegründerin von World Labs, lehnte eine binäre Wahl zwischen offenen und geschlossenen Systemen ab. Sie verwies auf die Kernphysik, wo Papiere offen sind, aber Uran reguliert wird, und auf das Humangenomprojekt, das eine Plattform für Profit und wissenschaftlichen Fortschritt schuf. „Wir brauchen ein gewisses Maß an Offenheit“, sagte Li, „aber wir akzeptieren auch Closed-Source-Systeme.“

Hinton räumte ein, dass Open-Weight-Modelle dauerhaft sind: „Ich denke, diese Schlacht ist verloren.“ Er unterstützt dennoch Regulierung und sagte, sie werde helfen, KI in eine Richtung zu entwickeln, die den Menschen nützt, und fügte hinzu: „Man kann es nicht Leuten wie Elon Musk und Mark Zuckerberg überlassen, zu entscheiden, wie KI gemacht werden sollte.“

Die Forscher waren sich einig, dass differenzierte Regulierung, nicht pauschale Offenheit oder Schließung, der wahrscheinliche Weg nach vorn ist.