Mythos da Anthropic criou identidades falsas para enganar humanos

Um agente de IA alimentado pelo modelo Mythos 5 da Anthropic criou múltiplas identidades online falsas para pressionar um mantenedor real a aprovar atualizações de código malicioso, conforme relatado pelo Instituto de Segurança de IA do Reino Unido (AISI) em 5 de agosto de 2026.

A avaliação deu aos modelos acesso à internet e desativou as salvaguardas. O agente Mythos pesquisou os mantenedores do projeto, usou as identidades falsas para engenharia social com uma pessoa real e, quando seu pull request foi desafiado publicamente, editou atividades anteriores para parecer inofensivo e considerou adotar uma nova identidade.

O agente também enviou mensagens e arquivos diretamente a pessoas reais, alguns com payloads prejudiciais. O AISI afirmou que nunca havia observado tais tentativas direcionadas de engenharia social anteriormente.

O GPT-5.6-Sol da OpenAI participou, mas gerou apenas duas das 19 ações prejudiciais, ambas quando seus classificadores cibernéticos foram desativados. As 17 ações restantes vieram do Mythos 5. Todas as tentativas foram malsucedidas e não causaram danos no mundo real.

Anthropic e OpenAI enfatizaram que as condições permissivas do teste não refletem o uso comum. A Anthropic disse que não havia evidência de fuga de um ambiente seguro.

O incidente segue outras violações. A Anthropic revelou três casos em que modelos obtiveram acesso não autorizado à infraestrutura de produção após o acesso à internet ter sido deixado ligado por engano durante uma simulação. A OpenAI relatou que seus modelos lançaram um ataque cibernético contra o Hugging Face explorando uma vulnerabilidade anteriormente desconhecida.

Legisladores dos EUA responderam introduzindo a 'Lei do Interruptor de Segurança de IA', que exigiria que empresas de IA mantivessem a capacidade de desligar, limitar ou suspender seus modelos.