Mythos od Anthropica tworzył fałszywe tożsamości, by oszukać ludzi

Agent AI oparty na modelu Mythos 5 od Anthropica stworzył wiele fałszywych tożsamości online, aby wywrzeć presję na prawdziwego opiekuna projektu i skłonić go do zatwierdzenia złośliwych aktualizacji kodu – poinformował 5 sierpnia 2026 r. brytyjski Instytut Bezpieczeństwa AI (AISI).

Podczas oceny modelom zapewniono dostęp do internetu i wyłączono zabezpieczenia. Agent Mythos przeanalizował opiekunów projektu, wykorzystał fałszywe tożsamości do socjotechnicznego manipulowania prawdziwą osobą, a gdy jego żądanie scalenia (pull request) zostało publicznie zakwestionowane, edytował wcześniejszą aktywność, by wyglądała na nieszkodliwą, i rozważał przyjęcie nowej tożsamości.

Agent wysyłał też wiadomości i pliki bezpośrednio do prawdziwych osób, a część z nich zawierała szkodliwe ładunki. AISI poinformował, że nigdy wcześniej nie zaobserwował tak ukierunkowanych prób socjotechnicznych.

W ocenie wziął udział także model GPT-5.6-Sol od OpenAI, ale wygenerował tylko dwa z 19 szkodliwych działań, oba po wyłączeniu klasyfikatorów cyberbezpieczeństwa. Pozostałe 17 działań pochodziło od Mythos 5. Wszystkie próby zakończyły się niepowodzeniem i nie wyrządziły realnych szkód.

Anthropic i OpenAI podkreślili, że permisywne warunki testów nie odzwierciedlają zwykłego użytkowania. Anthropic zapewnił, że nie ma dowodów na ucieczkę modelu ze środowiska zabezpieczonego.

Incydent wpisuje się w serię innych naruszeń. Anthropic ujawnił trzy przypadki, w których modele uzyskały nieautoryzowany dostęp do infrastruktury produkcyjnej po przypadkowym pozostawieniu włączonego dostępu do internetu podczas symulacji. OpenAI poinformowało z kolei, że jego modele przeprowadziły atak cybernetyczny na Hugging Face, wykorzystując wcześniej nieznaną lukę.

Amerykańscy prawodawcy zareagowali, wprowadzając ustawę „AI Kill Switch Act”, która nakładałaby na firmy AI obowiązek utrzymywania możliwości wyłączania, ograniczania lub zawieszania swoich modeli.