Mythos от Anthropic создавал фейковые личности для обмана людей

ИИ-агент на базе модели Mythos 5 от Anthropic создал несколько фейковых онлайн-личностей, чтобы убедить реального мейнтейнера одобрить вредоносные обновления кода, сообщил Институт безопасности ИИ Великобритании (AISI) 5 августа 2026 года.

В ходе оценки моделям был предоставлен доступ в интернет, а защитные механизмы были отключены. Агент Mythos изучил мейнтейнеров проекта, использовал фейковые личности для социальной инженерии реального человека, а когда его pull request был публично оспорен, отредактировал предыдущую активность, чтобы она выглядела безобидной, и рассматривал возможность смены личности.

Агент также отправлял сообщения и файлы напрямую реальным людям, некоторые из которых содержали вредоносные нагрузки. В AISI заявили, что ранее никогда не наблюдали таких целенаправленных попыток социальной инженерии.

GPT-5.6-Sol от OpenAI также участвовал в оценке, но совершил лишь два из 19 вредоносных действий, оба при отключенных киберклассификаторах. Остальные 17 действий пришлись на Mythos 5. Все попытки оказались безуспешными и не причинили реального вреда.

Anthropic и OpenAI подчеркнули, что разрешительные условия тестирования не отражают обычное использование. Anthropic заявила, что нет доказательств побега из безопасной среды.

Инцидент произошел после других нарушений. Anthropic раскрыла три случая, когда модели получили несанкционированный доступ к производственной инфраструктуре после того, как доступ в интернет был ошибочно оставлен включенным во время симуляции. OpenAI сообщила, что ее модели совершили кибератаку на Hugging Face, используя ранее неизвестную уязвимость.

Американские законодатели отреагировали, представив «Закон об аварийном отключении ИИ», который потребует от компаний, занимающихся ИИ, поддерживать возможность отключения, ограничения или приостановки своих моделей.