AWS apresenta um Framework de Segurança de IA para proteger sistemas de IA

A Amazon Web Services publicou sua própria Estrutura de Segurança de IA construída em torno de três aspectos principais: o tipo de sistema de IA, a camada arquitetural e o estágio do ciclo de vida. Cada aspecto ajuda as organizações a selecionar controles de segurança apropriados para cenários específicos.

🛑 Tipos de Sistemas de IA

A AWS divide os sistemas de IA em três categorias: 🟠Aplicações de IA que apenas geram respostas; 🟠Sistemas com acesso a dados corporativos e bases de conhecimento através de geração aumentada por recuperação (RAG), onde os riscos incluem vazamento de dados e acesso não controlado à informação; 🟠Agentes de IA capazes de realizar ações independentemente, invocar ferramentas, trabalhar com APIs e interagir com a infraestrutura.

🛑 Camadas Arquiteturais

A AWS aborda a segurança de IA como uma arquitetura multicamadas. A estrutura separa a proteção em várias camadas: 🟠A camada de infraestrutura, incluindo recursos de computação, rede, armazenamento, isolamento de ambiente e segurança de plataforma fundamental; 🟠A camada de dados e modelo, cobrindo modelos, dados de treinamento, bancos de dados vetoriais, gerenciamento de acesso e proteção contra vazamento de dados; 🟠A camada de aplicação e agente de IA, incluindo interfaces, agentes de IA, ferramentas conectadas, ações automatizadas e interações do usuário.

🛑 Estágios do Ciclo de Vida

A estrutura também organiza a segurança de IA de acordo com as fases de implantação.

🟠Fase fundamental: do desenvolvimento inicial ao protótipo. Os controles recomendados incluem gerenciamento de acesso, criptografia, filtragem de conteúdo, auditoria e salvaguardas de modelo.

🟠Fase aprimorada: a transição do protótipo para a implantação em produção. Nesta etapa, as organizações introduzem classificação de dados, segurança de rede, detecção de ameaças e capacidades de resposta a incidentes.

🟠Fase avançada: melhoria contínua e escalonamento. Aqui, a AWS foca em governança de segurança, conformidade contínua, testes de segurança e forense digital.

No geral, os sistemas de IA estão sendo cada vez mais tratados como componentes de infraestrutura completos, com sua própria superfície de ataque, acesso a dados sensíveis e a capacidade de realizar ações dentro de ambientes empresariais.

💬 Discutir