Ataque de Interferência Acústica (AIA) introduzido

Pesquisadores demonstraram que faixas de áudio inócuas especificamente elaboradas contendo certos padrões de Semântica Latente Acústica (ALS) podem perturbar os mecanismos de alinhamento de segurança de Modelos de Linguagem de Áudio Grandes (LALM) e levar ao desvio do caminho de inferência. Neste contexto, o áudio atua não meramente como um portador de payload, mas como uma ferramenta ativa para quebrar o alinhamento de segurança do modelo. Ao contrário de muitos ataques anteriores em LALMs, o AIA aproveita fragmentos de áudio universais e não requer ajuste ou otimização de texto para cada prompt individual.

💬 Discutir