Malware zielt auf KI-Infrastruktur ab, stiehlt Daten und Anmeldedaten und kann Dateien zerstören

Ein neu entdecktes Hacking-Tool zielt auf künstliche Intelligenz-Infrastruktur ab, nutzt blinde Flecken in den Systemen der Opfer aus und stiehlt sensible Daten und Anmeldeinformationen. Die Malware, die in KI-Entwicklungsumgebungen gefunden wurde, kann auch einen 'Todesknopf' aktivieren, um Dateien zu zerstören und legitime Benutzer auszusperren, so ein aktueller Bericht.

Das Tool betrifft Organisationen, die KI-Modelle erstellen oder bereitstellen, insbesondere solche, die maschinelle Lern-Frameworks und cloudbasierte KI-Dienste nutzen. Es kompromittiert die Systeme, die Trainingsdaten, Modellcode und Bereitstellungspipelines verarbeiten, und gefährdet geistiges Eigentum und proprietäre Algorithmen. Der Angriff ist bedeutsam, weil KI-Infrastruktur oft weniger überwacht wird als traditionelle IT-Systeme, was Angreifern einen heimlichen Zugang verschafft.

Der Bericht, veröffentlicht am 12. März 2025 von der Cybersicherheitsfirma SentinelOne, beschreibt detailliert, wie die Malware – genannt 'ShadowAI' – seit mindestens Ende 2024 aktiv ist. Sie wurde in mindestens 15 Organisationen in Nordamerika und Europa entdeckt, darunter ein großes Technologieunternehmen und ein staatliches Forschungslabor. Die Malware verbreitet sich über kompromittierte Open-Source-KI-Bibliotheken und Phishing-E-Mails, die auf KI-Ingenieure abzielen.

Frühere Entwicklungen zeigen, dass ähnliche Angriffe auf KI-Lieferketten in den letzten zwei Jahren um 300 % zugenommen haben, wie dieselbe Firma feststellte. Das neue Tool ist ausgefeilter und nutzt KI selbst, um der Erkennung zu entgehen, indem es normales Systemverhalten nachahmt. Es kann API-Schlüssel, Modellgewichte und Trainingsdatensätze stehlen und diese dann über verschlüsselte Kanäle exfiltrieren.

Nächste Schritte umfassen die Aufforderung an KI-Entwickler, ihre Abhängigkeiten zu überprüfen und strengere Zugriffskontrollen zu implementieren. SentinelOne empfiehlt die Verwendung von Laufzeitüberwachung für KI-Workloads und die Isolierung von Entwicklungsumgebungen von Produktionssystemen. Die Firma warnt auch davor, dass der 'Todesknopf' der Malware aus der Ferne ausgelöst werden könnte, was zu irreversiblen Datenverlusten führt, sodass das sofortige Patchen bekannter Schwachstellen entscheidend ist.