Google: Ataques impulsionados por IA mudaram de experimentos iniciais para escala industrial

Anteriormente, discutimos como a IA está sendo usada para descoberta de vulnerabilidades e geração de exploits, desenvolvimento de malware e engenharia social. Você também provavelmente viu relatórios sobre o uso de IA para reconhecimento, facilitação de ataques e operações de informação envolvendo deepfakes e conteúdo gerado — áreas que são referenciadas no último relatório do Google Threat Intelligence Group.

O relatório também inclui exemplos menos conhecidos, mas ilustrativos, mostrando como os atacantes estão adotando maneiras cada vez mais sofisticadas de aproveitar a IA. Aqui estão alguns destaques:

♦ Pesquisadores identificaram pela primeira vez um exploit 0-day usado em um ataque real, supostamente desenvolvido com assistência de IA. O código do exploit usado para contornar o 2FA em uma ferramenta popular de administração de sistema baseada na web continha comentários redundantes e dados estruturados formatados de maneira típica para conjuntos de dados de treinamento de LLM.

♦ Experimentos contínuos com ofuscação de malware baseada em IA foram observados. As técnicas incluem geração dinâmica de payload, modificação dinâmica do código-fonte em tempo real e a inserção de código isca que imita atividade legítima para dificultar a análise.

♦ Um dos casos mais notáveis de ataques autônomos habilitados por IA é o backdoor Android PROMPTSPY, que usa componentes de IA para facilitar a interação automatizada com o dispositivo alvo. O malware pode simular ações físicas do usuário e interceptar PINs ou padrões de desbloqueio para recuperar o acesso ao dispositivo sem envolvimento do usuário.

Ao mesmo tempo, a própria IA está se tornando cada vez mais um alvo. Os atacantes visam ativamente o ecossistema de IA através de cadeias de suprimentos: injetando lógica maliciosa em bibliotecas populares ou arquivos de configuração para obter acesso a ambientes de produção que dependem de tecnologias de IA. Um exemplo citado envolve a exploração de agentes de IA OpenClaw; publicamos anteriormente uma coleção de problemas de segurança relacionados.

A IA está sendo empregada cada vez mais não apenas durante o reconhecimento e acesso inicial, mas também em estágios posteriores da cadeia de ataques. Agora, ela pode potencialmente ajudar adversários em cada etapa — até mesmo automatizando parcialmente a tomada de decisões antes handled by humans. Neste papel, a IA torna os ataques mais adaptativos, menos dependentes de humanos e potencialmente mais resilientes a métodos tradicionais de detecção e defesa.