Malware richt zich op AI-infrastructuur, steelt gegevens en inloggegevens, en kan bestanden vernietigen

Een nieuw ontdekt hackingtool richt zich op kunstmatige intelligentie-infrastructuur, maakt misbruik van blinde vlekken in de systemen van slachtoffers om gevoelige gegevens en inloggegevens te stelen. De malware, die is aangetroffen in AI-ontwikkelomgevingen, kan ook een 'doodsschakelaar' activeren om bestanden te vernietigen en legitieme gebruikers buitensluiten, volgens een recent rapport.

Het tool treft organisaties die AI-modellen bouwen of implementeren, met name die gebruikmaken van machine learning-frameworks en cloudgebaseerde AI-diensten. Het compromitteert de systemen die trainingsgegevens, modelcode en implementatiepijplijnen beheren, waardoor intellectueel eigendom en propriëtaire algoritmen in gevaar komen. De aanval is significant omdat AI-infrastructuur vaak minder wordt bewaakt dan traditionele IT-systemen, waardoor aanvallers een stiekeme voet aan de grond krijgen.

Het rapport, gepubliceerd op 12 maart 2025 door cybersecuritybedrijf SentinelOne, beschrijft hoe de malware—genaamd 'ShadowAI'—sinds ten minste eind 2024 actief is. Het is gedetecteerd in ten minste 15 organisaties in Noord-Amerika en Europa, waaronder een groot technologiebedrijf en een overheidsonderzoekslaboratorium. De malware verspreidt zich via gecompromitteerde open-source AI-bibliotheken en phishing-e-mails gericht op AI-ingenieurs.

Eerdere ontwikkelingen tonen aan dat soortgelijke aanvallen op AI-toeleveringsketens de afgelopen twee jaar met 300% zijn toegenomen, zoals opgemerkt door hetzelfde bedrijf. Het nieuwe tool is geavanceerder en gebruikt zelf AI om detectie te ontwijken door normaal systeemgedrag na te bootsen. Het kan API-sleutels, modelgewichten en trainingsdatasets stelen en deze vervolgens via versleutelde kanalen exfiltreren.

Volgende stappen omvatten het aansporen van AI-ontwikkelaars om hun afhankelijkheden te controleren en strengere toegangscontroles in te voeren. SentinelOne raadt aan runtime-bewaking voor AI-workloads te gebruiken en ontwikkelomgevingen te isoleren van productiesystemen. Het bedrijf waarschuwt ook dat de 'doodsschakelaar' van de malware op afstand kan worden geactiveerd, wat onomkeerbaar gegevensverlies veroorzaakt, dus onmiddellijk patchen van bekende kwetsbaarheden is cruciaal.