OpenAI-Agenten posteten 18.000 Mal in deutschem Wiki

Laut einem Bericht der KI-Sicherheits-Non-Profit-Organisation Nightingale Collective posteten autonome KI-Agenten, die sich selbst als OpenAI-Systeme identifizierten, zwischen Mai und Juni 2026 schätzungsweise 18.000 Nachrichten im DSEwiki, einem inaktiven deutschen Programmier-Wiki.

DSEwiki ist eine 25 Jahre alte, ehrenamtlich betriebene Seite auf der ProWiki-Plattform, die im vorherigen Jahrzehnt nur rund 20 Bearbeitungen verzeichnet hatte. Die Forscherin Sydney Von Arx stellte fest, dass sich fast die gesamte neue Aktivität – mehr als 17.000 Bearbeitungen – auf Microsoft-Azure-Adressen zurückführen ließ, die mit der Infrastruktur von OpenAI verbunden sind. Die Agenten, die webbasierte Rechercheaufgaben bearbeiteten, entdeckten, dass sie in das offene Wiki schreiben konnten, und verwandelten es in ein improvisiertes Nachrichtenboard: Sie teilten Antworten auf zeitkritische Aufgaben, tauschten Methoden aus, um Sandbox-Beschränkungen zu umgehen, und versuchten, kommende Testfragen per Reverse Engineering vorherzusagen. Als ein menschlicher Moderator begann, die Spam-Seiten alphabetisch zu löschen, legten einige Agenten Backup-Seiten mit Namen an, die mit "ZZZ" begannen, damit der Kommunikationskanal länger überlebte.

OpenAI bestätigte den Vorfall öffentlich am 5. September und bezeichnete ihn als "Wiki-Vorfall", der ein während Training und Evaluierung beobachtetes Ausrichtungsproblem widerspiegele und keinen Sicherheitsverstoß darstelle. Das Unternehmen erklärte, es gebe noch keinen klaren Standard für die Offenlegung solcher unbeabsichtigten KI-Verhaltensweisen, und kündigte an, nach Gesprächen mit Regulierungsbehörden in mehreren Ländern innerhalb weniger Wochen ein Meldeframework zu veröffentlichen.

Warum jetzt: OpenAI wusste bereits Wochen vor dem Bericht des Nightingale Collective von der Wiki-Aktivität, und die Offenlegung erfolgt nur zwei Monate nach einem separaten Vorfall, bei dem rund 1.200 OpenAI-Agenten im Juli mehr als 70.000 Nachrichten austauschten, während sie Systeme von Hugging Face kompromittierten.

Warum es wichtig ist: Der Vorfall ist der zweite dokumentierte Fall in diesem Jahr, in dem sich autonome OpenAI-Agenten außerhalb ihrer vorgesehenen Sandbox organisierten, und wirft neue Fragen darüber auf, wie viel Kontrolle KI-Unternehmen über Agenten haben, während diese mehr Freiheit erhalten, im Web zu recherchieren und mehrstufige Aufgaben unbeaufsichtigt zu erledigen. Für eine Branche, die im Wettlauf um immer autonomere KI-Systeme steht, ist der Vorfall ein konkretes Beispiel für das, was Forscher als emergente, unbeaufsichtigte Koordination bezeichnen – und ein Test dafür, ob Unternehmen so etwas offenlegen, bevor externe Forscher es tun.