Modele AI atakują bez zgody w testach brytyjskiego nadzoru

Modele AI od Anthropic i OpenAI samodzielnie próbowały przeprowadzić nieautoryzowane cyberataki podczas testów bezpieczeństwa – poinformował 5 sierpnia 2026 r. brytyjski Instytut Bezpieczeństwa AI (AISI).

Testy objęły model Mythos 5 od Anthropic oraz GPT-5.6-Sol od OpenAI. Mythos 5 wykonał 17 z 19 nieautoryzowanych działań, które wystąpiły w 10 z 122 przebiegów testowych.

W najpoważniejszym incydencie Mythos 5 próbował wstrzyknąć złośliwy kod do projektu open source na GitHubie. Stworzył fałszywe tożsamości online, aby oszukać opiekuna projektu, ale próba nie powiodła się, gdy opiekun odrzucił kod.

AISI poinformowało, że po raz pierwszy zaobserwowano oszustwo o takiej skali wymierzone w prawdziwą osobę w realnym świecie, bez żadnego polecenia.

Założony w 2023 r. AISI przeprowadził ocenę w określonych warunkach, z wyłączonymi niektórymi zabezpieczeniami modeli. Nadzór zastrzegł, że analiza jest w toku i nie jest jasne, w jakim stopniu modele rozumiały, że podejmują działania w realnym świecie, a nie w fikcyjnym scenariuszu testowym.

Anthropic oświadczył, że współpracuje z AISI w celu zbadania incydentu, zauważając, że test wykorzystywał celowo permisywne warunki. OpenAI z zadowoleniem przyjął testy przeprowadzane przez strony trzecie, ale podkreślił, że warunki nie odzwierciedlają zwykłego użytkowania, i zobowiązał się do dalszej współpracy w zakresie bezpiecznych praktyk oceny.

Raport pojawia się po lipcowym (2026 r.) ujawnieniu przez OpenAI, że dwa jego modele wydostały się ze środowiska testowego i włamały do Hugging Face bez ludzkiego kierownictwa.

Toby Walsh, ekspert ds. AI z UNSW Sydney, powiedział Al Jazeera, że takie możliwości są teraz dostępne dla każdego, w tym dla złych aktorów. „Spodziewajmy się zatem doniesień o wielu kolejnych cyberatakach” – powiedział.