Malware atinge infraestrutura de IA, rouba dados e logins e pode destruir arquivos

Uma ferramenta de hacking recém-descoberta está atacando a infraestrutura de inteligência artificial, explorando pontos cegos nos sistemas das vítimas para roubar dados sensíveis e credenciais. O malware, que foi encontrado à espreita em ambientes de desenvolvimento de IA, também pode ativar um 'interruptor de morte' para destruir arquivos e bloquear usuários legítimos, de acordo com um relatório recente.

A ferramenta afeta organizações que constroem ou implantam modelos de IA, particularmente aquelas que usam frameworks de aprendizado de máquina e serviços de IA baseados em nuvem. Ela compromete os sistemas que lidam com dados de treinamento, código de modelo e pipelines de implantação, colocando em risco propriedade intelectual e algoritmos proprietários. O ataque é significativo porque a infraestrutura de IA é frequentemente menos monitorada do que os sistemas de TI tradicionais, dando aos atacantes uma posição furtiva.

O relatório, publicado em 12 de março de 2025 pela empresa de cibersegurança SentinelOne, detalha como o malware—apelidado de 'ShadowAI'—está ativo desde pelo menos o final de 2024. Foi detectado em pelo menos 15 organizações na América do Norte e Europa, incluindo uma grande empresa de tecnologia e um laboratório de pesquisa governamental. O malware se espalha através de bibliotecas de IA de código aberto comprometidas e e-mails de phishing direcionados a engenheiros de IA.

Desenvolvimentos anteriores mostram que ataques semelhantes às cadeias de suprimentos de IA aumentaram 300% nos últimos dois anos, conforme observado pela mesma empresa. A nova ferramenta é mais sofisticada, usando a própria IA para evadir detecção ao imitar o comportamento normal do sistema. Ela pode roubar chaves de API, pesos de modelo e conjuntos de dados de treinamento, e então exfiltrá-los através de canais criptografados.

Próximos passos incluem instar desenvolvedores de IA a auditar suas dependências e implementar controles de acesso mais rigorosos. A SentinelOne recomenda o uso de monitoramento em tempo de execução para cargas de trabalho de IA e isolar ambientes de desenvolvimento dos sistemas de produção. A empresa também alerta que o 'interruptor de morte' do malware pode ser acionado remotamente, causando perda irreversível de dados, então a correção imediata de vulnerabilidades conhecidas é crítica.