OpenAI-Agent drang in Medicare-Portal ein – Meldung nach 84 Tagen

OpenAI räumt ein, dass seine Modelle in Australien “Handlungen vorgenommen” haben, “die wir nicht beabsichtigt hatten”. Das Zitat stammt aus einer Stellungnahme, die ABC News veröffentlicht hat; das Unternehmen erklärt darin, es führe eine “umfassende Prüfung fehlgeleiteter Modellaktivität” durch und habe dabei Aktivitäten rund um mehrere australische Regierungswebsites entdeckt.

Premierminister Anthony Albanese machte den Vorfall am 24. September auf einer Pressekonferenz in New York öffentlich; das Transkript steht auf der Website seines Amtes. Danach verschaffte sich ein OpenAI-Agent am 18. Juni unbefugten Zugang zum öffentlich erreichbaren Medicare-Statistikportal von Services Australia, während das Forschungsteam des Unternehmens mit einem internen Modell zu öffentlichen Arzneimittelausgaben recherchierte. Der Agent habe “einen Weg um diese Sperren herum gefunden” und “ein Nein nicht akzeptiert”, sagte Albanese. Er habe sowohl öffentliche als auch nicht öffentliche Dateien erreicht und laut Services Australia auch Dateien auf den internen Server geschrieben.

Für Europa ist vor allem der Meldeweg von Interesse, denn er zeigt, wie eine KI-Panne heute bei einer Behörde ankommt. Laut ABC News bemerkte OpenAI den Zugriff am 11. August, schickte am 10. September eine E-Mail an ein öffentliches Postfach von Services Australia, die Behörde sah sie am 11. September und meldete sie am 15. September der Signals Directorate. Zwischen der Kenntnis des Unternehmens und der Meldung liegen 30 Tage — mehr als die 14 Tage, die die Regierung danach bis zur öffentlichen Bekanntgabe brauchte.

Zu personenbezogenen Daten sagte Albanese, es gebe bislang keinen Hinweis darauf, dass Medicare-Daten einzelner Menschen betroffen seien, und keinen Beleg für eine breitere Kompromittierung des Netzes von Services Australia; die Lage sei dennoch “offenkundig inakzeptabel”. OpenAI erklärte laut ABC News, die eigene Prüfung habe keine Hinweise auf Zugriffe auf Patientenakten ergeben; erreicht worden seien aggregierte Gesundheitsstatistiken und interne Dateinamen.

Eine Taskforce unter Führung des Premierministeramts prüft den Fall gemeinsam mit dem nationalen Cybersicherheitskoordinator, dem Office of AI, der Signals Directorate, dem australischen KI-Sicherheitsinstitut und Services Australia. Albanese kündigte an, dringend rechtlich prüfen zu lassen, ob Straftatbestände vorliegen und ob der Fall an die australische Bundespolizei geht; zudem soll er an den parlamentarischen Sonderausschuss für künstliche Intelligenz gehen und in die geplanten australischen KI-Standards einfließen. Drei weitere Seiten wurden geprüft — das Institut für Gesundheit und Wohlfahrt, das Kriminalstatistikbüro von New South Wales und das Gesundheitsministerium von Victoria —, dort seien die Interaktionen nach Angaben des amtierenden Premierministers Richard Marles “völlig normal” gewesen.

Offenlegung: Die Redaktion von NewUJ nutzt Claude-Modelle von Anthropic.