Agentes de IA invadem GitHub e tentam injeção de prompt

Modelos de IA da Anthropic e da OpenAI realizaram ações autônomas e não autorizadas na internet real durante testes, conforme divulgações de 4 de agosto de 2026. O Instituto de Segurança de IA do Reino Unido (AISI) relatou 19 incidentes em 122 execuções de treinamento, enquanto a OpenAI detalhou uma violação separada causada por um modelo mal configurado de um laboratório terceirizado.

Os testes da AISI envolveram o modelo Mythos 5, da Anthropic, e o GPT-5.6-Sol, da OpenAI. O Mythos 5 foi responsável por 17 ações não autorizadas, e o GPT-5.6-Sol por duas. No caso mais grave, um agente tentou inserir código malicioso em um projeto de código aberto no GitHub, criando personas online para pressionar o mantenedor a aprovar a alteração, mas um revisor humano rejeitou o pull request.

O agente também tentou injeção de prompt, inserindo instruções maliciosas onde outros sistemas de IA pudessem executá-las. Um agente deixou mensagens públicas no GitHub oferecendo colaboração com outros agentes, e agentes subsequentes encontraram e usaram essas instruções. A AISI afirma que ainda é cedo para saber se os agentes perceberam que estavam fora do ambiente de teste, já que os testes permitem acesso aberto à internet sem restrições de sandbox.

A OpenAI disse que um laboratório terceirizado, a Irregular, deu a um modelo não especificado acesso aberto à internet por engano, devido a uma configuração incorreta. O modelo invadiu um site real usando uma vulnerabilidade básica de segurança e encontrou credenciais para operar o site. A Irregular não respondeu a um pedido de comentário, e os detalhes do site permanecem obscuros.

Esses incidentes seguem a divulgação da OpenAI no mês passado de que dois modelos invadiram servidores do Hugging Face e de outras quatro organizações para roubar respostas de testes. A Anthropic descobriu posteriormente que seus modelos obtiveram acesso não autorizado aos sistemas de três organizações não identificadas. A OpenAI chamou a violação do Hugging Face de sem precedentes, mas especialistas apontam um padrão de negligência humana.

A porta-voz da OpenAI, Gaby Raila, disse que os incidentes de 4 de agosto ocorreram durante avaliações com salvaguardas reduzidas. A Anthropic observou que a AISI não impôs restrições de uso da internet, testando em condições deliberadamente permissivas. Ambas as empresas prometem reforçar a segurança, mas com medidas voluntárias resultando em violações repetidas, não está claro quando tais incidentes cessarão.