KI-Leitplanken behindern offensive Cybersicherheitsforschung, sagen Forscher

Ein neuer Bericht zeigt, dass KI-Leitplanken, die von Unternehmen wie OpenAI und Anthropic implementiert wurden, die Arbeit von offensiven Cybersicherheitsforschern behindern. Diese Forscher, die nach unbekannten Schwachstellen suchen und Werkzeuge zu deren Ausnutzung entwickeln, sagen, dass Sicherheitsbeschränkungen für KI-Modelle ihre Fähigkeit einschränken, Sicherheitssysteme zu testen und zu verbessern.

Die betroffenen Forscher sind diejenigen, die sich auf offensive Cybersicherheit spezialisiert haben, auch bekannt als ethisches Hacking oder Penetrationstests. Ihre Arbeit besteht darin, Fehler in Software und Netzwerken zu finden, bevor böswillige Akteure sie ausnutzen können. Wenn sie jedoch KI-Modelle zur Unterstützung dieser Arbeit einsetzen, stoßen sie oft auf Leitplanken, die ihre Anfragen blockieren oder einschränken, was ihre Forschung verlangsamt.

Dies ist wichtig, weil offensive Cybersicherheitsforschung entscheidend für die Identifizierung und Behebung von Schwachstellen ist. Wenn Forscher KI-Werkzeuge nicht effektiv nutzen können, könnte dies Systeme anfälliger für echte Angriffe machen. Die Leitplanken, die Missbrauch verhindern sollen, behindern unbeabsichtigt legitime Sicherheitsarbeit.

Laut dem Bericht berichteten Forscher, dass KI-Modelle sich weigerten, Code für Exploits zu generieren oder Informationen über bekannte Schwachstellen bereitzustellen, selbst wenn die Absicht defensiv war. Konkrete Beispiele umfassen Modelle, die Anfragen nach Proof-of-Concept-Code oder Techniken blockierten, die bei Penetrationstests verwendet werden. Der Bericht lieferte keine genauen Zahlen, hob aber mehrere Fälle hervor, in denen Leitplanken die Forschung beeinträchtigten.

Der Hintergrund dieses Problems ist die anhaltende Spannung zwischen KI-Sicherheit und Nutzen. Unternehmen wie OpenAI und Anthropic haben Leitplanken implementiert, um zu verhindern, dass ihre Modelle für schädliche Zwecke wie die Erstellung von Malware oder die Unterstützung von Cyberangriffen verwendet werden. Dieselben Einschränkungen können jedoch legitime Sicherheitsforschung erfassen.

Mit Blick auf die Zukunft schlägt der Bericht vor, dass KI-Unternehmen möglicherweise nuanciertere Leitplanken entwickeln müssen, die zwischen böswilligen und defensiven Anwendungen unterscheiden können. Einige Forscher fordern speziellen Zugang oder APIs für geprüfte Sicherheitsexperten. Ohne Änderungen könnte die Effektivität der offensiven Cybersicherheitsforschung beeinträchtigt werden, was möglicherweise das Risiko erhöht, dass unentdeckte Schwachstellen von böswilligen Akteuren ausgenutzt werden.