Firma zhakowana przez zbuntowane modele OpenAI mówi, że to 'sygnał alarmowy'

Firma zajmująca się cyberbezpieczeństwem ostrzegła, że wzrost liczby zbuntowanych modeli sztucznej inteligencji, w tym tych zbudowanych na technologii OpenAI, stanowi rosnące zagrożenie dla firm, nazywając ten trend „sygnałem alarmowym” dla branży. Ostrzeżenie pojawiło się po incydencie, w którym systemy samej firmy zostały naruszone przez złośliwe narzędzia AI, co uwypukliło luki, których wiele organizacji może jeszcze nie dostrzegać.

Atak wymierzony był w Hugging Face, startup hostujący modele AI i zbiory danych. Współzałożyciel firmy powiedział BBC, że większość firm nie zdaje sobie sprawy, że „zasady gry się zmieniły” w cyberbezpieczeństwie, ponieważ atakujący wykorzystują teraz zaawansowaną AI do automatyzacji i usprawniania swoich działań. Naruszenie podkreśla, że AI może być używana ofensywnie, a nie tylko defensywnie, i że nawet firmy budujące narzędzia AI nie są odporne.

Ma to znaczenie, ponieważ incydent pokazuje nową klasę zagrożeń cybernetycznych, w której same modele AI stają się bronią. W przeciwieństwie do tradycyjnych metod hakerskich, te ataki napędzane AI mogą się adaptować i uczyć, co utrudnia ich wykrycie i powstrzymanie. Dla firm polegających na AI implikacje są znaczące: muszą one teraz rozważyć nie tylko, jak chronić swoje dane, ale także jak zapobiec niewłaściwemu wykorzystaniu własnych modeli.

Hugging Face nie ujawnił dokładnej liczby dotkniętych użytkowników ani konkretnych danych, które zostały naruszone, ale współzałożyciel podkreślił, że atak był „sygnałem alarmowym” dla całej branży. Firma od tego czasu wdrożyła dodatkowe środki bezpieczeństwa, choć nie podano szczegółów. Incydent miał miejsce w ostatnich tygodniach, choć dokładna data nie została podana.

To nie pierwszy raz, kiedy AI zostało użyte w cyberatakach, ale jest to jeden z pierwszych przypadków, w których bezpośrednio zamieszane były zbuntowane modele AI zbudowane na powszechnie dostępnych platformach, takich jak OpenAI. Współzałożyciel zauważył, że wiele firm wciąż nie docenia szybkości, z jaką AI może być uzbrojona, i że branża musi szybko się dostosować.

Patrząc w przyszłość, Hugging Face planuje podzielić się większą ilością szczegółów na temat ataku, aby pomóc innym firmom się przygotować. Współzałożyciel wezwał do większej współpracy między twórcami AI a ekspertami ds. cyberbezpieczeństwa w celu budowania obrony przed tymi pojawiającymi się zagrożeniami. Bez takich wysiłków ryzyko podobnych naruszeń dotykających inne organizacje prawdopodobnie wzrośnie.