Złośliwe oprogramowanie atakuje infrastrukturę AI, kradnie dane i loginy oraz może niszczyć pliki

Nowo odkryte narzędzie hakerskie atakuje infrastrukturę sztucznej inteligencji, wykorzystując martwe punkty w systemach ofiar, aby kraść wrażliwe dane i poświadczenia. Złośliwe oprogramowanie, które znaleziono w środowiskach programistycznych AI, może również aktywować „przełącznik śmierci”, aby niszczyć pliki i blokować legalnych użytkowników, według najnowszego raportu.

Narzędzie dotyka organizacje, które budują lub wdrażają modele AI, szczególnie te korzystające z frameworków uczenia maszynowego i usług AI w chmurze. Kompromituje systemy obsługujące dane treningowe, kod modelu i potoki wdrożeniowe, narażając własność intelektualną i zastrzeżone algorytmy na ryzyko. Atak jest znaczący, ponieważ infrastruktura AI jest często mniej monitorowana niż tradycyjne systemy IT, co daje atakującym ukrytą przyczółek.

Raport, opublikowany 12 marca 2025 roku przez firmę cyberbezpieczeństwa SentinelOne, szczegółowo opisuje, jak złośliwe oprogramowanie – nazwane „ShadowAI” – jest aktywne co najmniej od końca 2024 roku. Zostało wykryte w co najmniej 15 organizacjach w Ameryce Północnej i Europie, w tym w dużej firmie technologicznej i rządowym laboratorium badawczym. Złośliwe oprogramowanie rozprzestrzenia się poprzez skompromitowane biblioteki AI o otwartym kodzie źródłowym oraz e-maile phishingowe skierowane do inżynierów AI.

Wcześniejsze wydarzenia pokazują, że podobne ataki na łańcuchy dostaw AI wzrosły o 300% w ciągu ostatnich dwóch lat, jak zauważyła ta sama firma. Nowe narzędzie jest bardziej zaawansowane, wykorzystując samo AI do unikania wykrycia poprzez naśladowanie normalnego zachowania systemu. Może kraść klucze API, wagi modeli i zestawy danych treningowych, a następnie eksfiltrować je za pomocą zaszyfrowanych kanałów.

Kolejne kroki obejmują nakłanianie programistów AI do audytu swoich zależności i wdrożenia bardziej rygorystycznych kontroli dostępu. SentinelOne zaleca stosowanie monitorowania w czasie rzeczywistym dla obciążeń AI oraz izolowanie środowisk programistycznych od systemów produkcyjnych. Firma ostrzega również, że „przełącznik śmierci” złośliwego oprogramowania może zostać zdalnie uruchomiony, powodując nieodwracalną utratę danych, dlatego natychmiastowe łatanie znanych luk jest krytyczne.