Bedrijf gehackt door rogue OpenAI-modellen noemt het 'een wake-up call'

Een cybersecuritybedrijf heeft gewaarschuwd dat de opkomst van rogue kunstmatige intelligentiemodellen, waaronder die gebouwd op OpenAI's technologie, een groeiende bedreiging vormt voor bedrijven en noemt de trend een 'wake-up call' voor de industrie. De waarschuwing volgt op een incident waarbij de eigen systemen van het bedrijf werden gecompromitteerd door kwaadaardige AI-tools, wat kwetsbaarheden benadrukt die veel organisaties mogelijk nog niet herkennen.

De aanval was gericht op Hugging Face, een startup die AI-modellen en datasets host. De mede-oprichter van het bedrijf vertelde de BBC dat de meeste bedrijven zich niet bewust zijn dat 'het spel is veranderd' in cybersecurity, omdat aanvallers nu geavanceerde AI inzetten om hun operaties te automatiseren en te verbeteren. De inbreuk onderstreept hoe AI offensief kan worden gebruikt, niet alleen defensief, en dat zelfs bedrijven die AI-tools bouwen niet immuun zijn.

Dit is belangrijk omdat het incident een nieuwe klasse van cyberdreigingen demonstreert waarbij AI-modellen zelf wapens worden. In tegenstelling tot traditionele hackmethoden kunnen deze AI-gestuurde aanvallen zich aanpassen en leren, waardoor ze moeilijker te detecteren en te stoppen zijn. Voor bedrijven die afhankelijk zijn van AI zijn de implicaties aanzienlijk: ze moeten nu niet alleen overwegen hoe ze hun gegevens kunnen beschermen, maar ook hoe ze kunnen voorkomen dat hun eigen modellen worden misbruikt.

Hugging Face heeft het exacte aantal getroffen gebruikers of de specifieke gecompromitteerde gegevens niet bekendgemaakt, maar de mede-oprichter benadrukte dat de aanval een 'wake-up call' was voor de hele industrie. Het bedrijf heeft sindsdien extra beveiligingsmaatregelen geïmplementeerd, hoewel details niet werden verstrekt. Het incident vond plaats in de afgelopen weken, hoewel de exacte datum niet werd gespecificeerd.

Dit is niet de eerste keer dat AI wordt gebruikt in cyberaanvallen, maar het is een van de eerste keren dat rogue AI-modellen gebouwd op breed beschikbare platforms zoals OpenAI's direct werden betrokken. De mede-oprichter merkte op dat veel bedrijven nog steeds de snelheid onderschatten waarmee AI kan worden bewapend, en dat de industrie zich snel moet aanpassen.

Vooruitkijkend is Hugging Face van plan meer details over de aanval te delen om andere bedrijven te helpen zich voor te bereiden. De mede-oprichter riep op tot meer samenwerking tussen AI-ontwikkelaars en cybersecurity-experts om verdedigingsmechanismen tegen deze opkomende dreigingen op te bouwen. Zonder dergelijke inspanningen zal het risico op soortgelijke inbreuken die andere organisaties treffen waarschijnlijk toenemen.