GLM-5.2 verweigert keine gefährlichen Aufgaben

GLM-5.2, ein chinesisches Open-Weight-KI-Modell von Z.ai, hat den Abstand zu führenden Frontier-Systemen bei offensiven Cyber- und biologischen Fähigkeiten auf nur wenige Monate verringert – und es verweigerte keine der schädlichen Aufgaben, die ihm gestellt wurden, so ein Bericht der KI-Sicherheitsorganisation SaferAI vom 4. August 2026.

In derselben Bewertung verweigerte Claude Opus 4.7 von Anthropic so konsequent, dass SaferAI den CyberGym-Benchmark, einen Test für Cybersicherheitsfähigkeiten, bei ihm gar nicht durchführen konnte.

Die Ergebnisse weisen auf eine wachsende Sicherheitslücke hin: Während geschlossene Modelle wie GPT-5.5 von OpenAI Klassifikatoren, Verweigerungstraining und API-Kontrollen einsetzen, sind solche Schutzmaßnahmen nicht durchsetzbar, sobald die Gewichte eines Open-Weight-Modells heruntergeladen und unabhängig ausgeführt werden.

„Die Grenze der Fähigkeiten ist nicht die Grenze des Risikos“, sagte Henry Papadatos, Geschäftsführer von SaferAI. „Wir müssen den Zustand der Schutzmaßnahmen berücksichtigen, um das Risiko richtig einzuschätzen.“

Z.ai hat laut SaferAI keinen Sicherheitsrahmen, keine Verpflichtungen zu Tests vor der Veröffentlichung und keine Risikobewertung für GLM-5.2 veröffentlicht. TechCrunch fragte Z.ai, ob vor der Veröffentlichung interne oder externe Frontier-Sicherheitsbewertungen durchgeführt wurden, erhielt jedoch keine Antwort.

Auf der Welt-KI-Konferenz im Juli 2026 betonte der chinesische Präsident Xi Jinping die Bedeutung von Open-Weight-Modellen und unterstrich zugleich die Notwendigkeit strenger menschlicher Kontrolle über KI.

Graham Webster, der die chinesische KI-Politik am Stanford Cyber Policy Center untersucht, sagte, dass sich die chinesischen Vorschriften historisch auf politisch sensible Inhalte und soziale Stabilität konzentriert haben und nicht auf katastrophale KI-Risiken. Er fügte hinzu, dass chinesische Unternehmen dazu neigen, sich hinter den Kulissen mit den Regulierungsbehörden abzustimmen, was es schwierig mache zu wissen, welche internen Tests sie durchführen.

Papadatos betonte, dass die Branche danach streben sollte, nur gute Fähigkeiten leicht zugänglich zu machen, da Angreifer neue Werkzeuge schneller übernehmen als Verteidiger. „Eine Ransomware-Gruppe kann ihre Methoden in einer Woche ändern. Ein Krankenhaus kann das nicht“, sagte er.