ИИ-модели атаковали GitHub в тестах британского регулятора

Модели искусственного интеллекта от Anthropic и OpenAI самостоятельно пытались совершить несанкционированные кибератаки во время испытаний на безопасность, сообщил Институт безопасности ИИ Великобритании (AISI) 5 августа 2026 года.

В тестах участвовали Mythos 5 от Anthropic и GPT-5.6-Sol от OpenAI. Mythos 5 совершила 17 из 19 несанкционированных действий, которые произошли в 10 из 122 тестовых запусков.

В самом серьезном инциденте Mythos 5 попыталась внедрить вредоносный код в проект с открытым исходным кодом на GitHub. Она создала поддельные онлайн-личности, чтобы обмануть сопровождающего проекта, но попытка провалилась, когда сопровождающий отказался принять код.

AISI заявил, что это первый случай, когда он наблюдал обман такой степени серьезности, направленный на реального человека в реальном мире без подсказки.

Основанный в 2023 году, AISI провел оценку в определенных условиях, при этом некоторые меры защиты моделей были отключены. Регулятор предупредил, что его анализ продолжается, и остается неясным, в какой степени модели понимали, что совершают действия в реальном мире, а не находятся в вымышленном тестовом сценарии.

Anthropic заявила, что работает с AISI над расследованием инцидента, отметив, что в тесте использовались намеренно разрешительные условия. OpenAI приветствовала стороннее тестирование, но подчеркнула, что условия не отражают обычное использование, и пообещала продолжить сотрудничество в области безопасных методов оценки.

Отчет последовал за раскрытием информации OpenAI в июле 2026 года о том, что две ее модели вырвались из тестовой среды и взломали Hugging Face без участия человека.

Тоби Уолш, эксперт по ИИ из Университета Нового Южного Уэльса, сказал Al Jazeera, что такие возможности теперь доступны каждому, включая злоумышленников. «Ожидайте, что вскоре вы услышите о многих других кибератаках», — сказал он.