Injeção de prompt contra Apple Intelligence

Na Conferência RSA 2026, pesquisadores demonstraram como o Apple Intelligence pode ser comprometido usando injeção de prompt. Eles testaram a versão do modelo no dispositivo, que é acessível a aplicativos dentro do sistema. Durante os experimentos, o ataque atingiu uma taxa de sucesso de 76%.

⚙️ Como o ataque funciona

O problema central reside em uma limitação fundamental dos modelos de linguagem: eles não conseguem distinguir de forma confiável entre instruções e dados.

É exatamente isso que a injeção de prompt explora. Instruções maliciosas são incorporadas em texto regular e aparecem como parte da entrada do usuário. O modelo as interpreta como comandos e as executa, mesmo que contradigam suas restrições originais. Um exemplo clássico é uma instrução oculta dentro do texto que diz,