Práticas recomendadas de segurança de IA do Azure

Este artigo fornece as práticas recomendadas para proteger cargas de trabalho de IA (inteligência artificial) especificamente no Azure. À medida que as organizações adotam recursos de IA a uma taxa sem precedentes, as equipes de segurança devem obter proativamente a visibilidade do uso da IA e implementar controles apropriados para reduzir os riscos.

Este artigo se concentra em considerações de segurança de IA específicas do Azure. Para orientações abrangentes e independentes de segurança em IA, incluindo estratégia organizacional, frameworks de governança e o ciclo completo de vida da segurança em IA, veja Segurança para IA na documentação da Segurança da Microsoft.

Este artigo é um complemento ao modelo de responsabilidade compartilhada de IA e ao modelo de responsabilidade compartilhada de agentes de IA, que explicam a divisão das responsabilidades de segurança entre você e a Microsoft para cargas de trabalho de IA e agentes autônomos. Para obter controles de segurança prescritivos com a imposição do Azure Policy, consulte o Microsoft Cloud Security Benchmark v2 – Artificial Intelligence Security.

Habilitar a visibilidade das cargas de trabalho e do uso de IA

Antes de proteger cargas de trabalho de IA, você precisa ter visibilidade de quais aplicativos de IA estão sendo usados e desenvolvidos na sua organização.

  • Use o Microsoft Defender para Nuvem para descobrir cargas de trabalho de IA no seu ambiente Azure. O plano Defender Cloud Security Posture Management (CSPM) oferece recursos de gerenciamento de postura de segurança de IA, incluindo a descoberta da lista de materiais de IA generativa (AI BOM), recomendações de segurança integradas e análise de caminhos de ataque. Para obter mais informações, consulte o gerenciamento de postura de segurança de IA com o Defender para Nuvem.

  • Use o Microsoft Defender para Aplicativos de Nuvem para descobrir aplicações de IA SaaS. O catálogo do Defender para Aplicativos de Nuvem inclui mais de mil aplicativos de IA generativa. Você pode exibir avaliações de risco, sancionar ou bloquear aplicativos e criar políticas para detectar novos aplicativos de IA. Para obter mais informações, consulte: Governança de aplicativos descobertos.

  • Rastreie as identidades dos agentes de IA com o ID do agente Microsoft Entra. O ID do agente Microsoft Entra oferece um diretório unificado de identidades de agentes criado entre o Microsoft Copilot Studio e o Fábrica de IA do Azure, ajudando você a gerenciar o ciclo de vida e as permissões dos agentes.

Proteger implantações do Serviço OpenAI do Azure

O Serviço Azure OpenAI fornece acesso à API REST a modelos de linguagem avançados. Proteger essas implantações é fundamental para proteger seus dados e evitar uso indevido.

  • Use pontos de extremidade privados para isolamento de rede. Configure o Serviço OpenAI do Azure para usar endpoints privados, removendo o endpoint público e restringindo o acesso à sua rede virtual. Para obter mais informações, consulte a configuração de rede e acesso do Azure OpenAI.

  • Use identidade gerenciada para autenticação. Configure aplicativos para autenticação usando identidades gerenciadas pelo Microsoft Entra em vez de chaves de API, eliminando a necessidade de gerenciar e rotacionar segredos. Para obter mais informações, consulte Configurar o Serviço OpenAI do Azure com a autenticação da ID do Microsoft Entra.

  • Implemente filtragem de conteúdo em múltiplas camadas. Implante filtragem de conteúdo em múltiplas etapas para criar uma defesa aprofundada:

    • Filtragem de entrada: Use o Segurança de Conteúdo de IA do Azure para analisar prompts em busca de conteúdo malicioso, incluindo tentativas de injeção de prompt e ataques de jailbreak.
    • Filtragem de saída: Configure o filtro de conteúdo do Azure OpenAI para bloquear respostas prejudiciais antes da entrega.
    • Controles de gateway de API: use o API Management do Azure para impor a limitação de taxa e a validação de esquema.

Para obter mais informações, consulte Filtragem de conteúdo e Segurança de Conteúdo de IA do Azure.

  • Use meta-prompts de segurança para guiar o comportamento dos modelos. Elabore prompts de sistema que definam claramente o papel do modelo, incluam instruções explícitas para rejeitar entradas maliciosas e instruam o modelo a priorizar as instruções do sistema em vez das entradas do usuário. Utilize técnicas de spotlighting para isolar dados não confiáveis em prompts e integrar Prompt Shields para detectar tentativas de jailbreak.

  • Monitore o uso com logs de diagnóstico. Ative o registro diagnóstico para rastrear solicitações de API, uso de tokens, resultados de filtragem de conteúdo e erros. Envie logs para o Azure Monitor para análise e alertas. Para obter mais informações, consulte Monitorar o Azure OpenAI.

Proteger o Fábrica de IA do Azure e o Azure Machine Learning

O Fábrica de IA do Azure e o Azure Machine Learning fornecem plataformas para criar e implantar aplicativos de IA. Proteger esses ambientes requer atenção ao isolamento de rede, controle de acesso e governança de modelo.

  • Use isolamento de rede gerenciada. Crie hubs Fábrica de IA do Azure e espaços de trabalho Azure Machine Learning com redes virtuais gerenciadas que forneçam endpoints privados para serviços dependentes e controle de tráfego de saída. Para obter mais informações, consulte Isolamento de rede gerenciado para o Fábrica de IA do Azure e configure um ponto de extremidade privado para o Azure Machine Learning.

  • Implemente controle de acesso com privilégios mínimos. Configure o RBAC usando papéis embutidos e atribua permissões no nível do projeto ou do espaço de trabalho. Use o ID do Agente do Microsoft Entra para o gerenciamento de identidade de agentes de IA, aplicando tokens com escopo e de curta duração para acesso à função do agente. Para obter mais informações, consulte o controle de acesso baseado em função para o Microsoft Foundry.

  • Implante apenas modelos de IA aprovados. Use o Azure Machine Learning Model Registry para acompanhar a proveniência do modelo, status de verificação e histórico de aprovação. Configure a varredura automatizada para validar a integridade do modelo e testar contra entradas adversárias antes da implantação. Implante a política do Azure "[Versão prévia]: as Implantações do Azure Machine Learning só devem usar Modelos de Registro aprovados" para garantir a governança. Para obter mais informações, consulte Gerenciamento e implantação de modelos.

  • Proteger recursos de computação. Configure instâncias de computação sem IPs públicos, use autenticação de identidade gerenciada, permita o isolamento do usuário para clusters compartilhados e criptografe discos com chaves gerenciadas pelo cliente. Para obter mais informações, consulte Proteger um ambiente de treinamento do Azure Machine Learning.

Implementar a proteção contra ameaças específica à IA

As cargas de trabalho de IA enfrentam ameaças exclusivas, incluindo injeção de comandos, ataques de jailbreak e manipulação do modelo. Implemente a detecção de ameaças e testes contínuos especificamente projetados para IA.

Integre a equipe vermelha em pipelines de CI/CD para validar a segurança antes da implantação. Teste contra padrões de ataque conhecidos do MITRE ATLAS, do OWASP Top 10 para aplicações LLM e do OWASP Top 10 para IA Agente.

  • Implemente supervisão humana para ações críticas. Para operações de IA de alto risco, como transferências externas de dados ou mudanças na configuração do sistema, use o Aplicativos Lógicos do Azure ou o Power Automate para projetar fluxos de trabalho que pausam para revisão e aprovação humana antes da execução.

  • Monitore padrões arriscados de uso de IA. Use o Gerenciamento de Risco Interno do Microsoft Purview com o modelo de política de uso de IA Risky para detectar e investigar atividades de risco relacionadas à IA. Para obter mais informações, consulte modelos de política de gerenciamento de risco do Insider.

Proteger dados confidenciais em interações de IA

Os aplicativos de IA geralmente interagem com dados confidenciais. Implemente controles de proteção de dados para evitar a perda de dados e garantir a conformidade.

  • Use o Gerenciamento da Postura de Segurança de Dados do Microsoft Purview (DSPM) para IA. O DSPM para IA fornece insights sobre a atividade da IA, políticas prontas para uso para proteger dados em prompts e avaliações de risco de dados para possível compartilhamento excessivo. Para obter mais informações, consulte Gerenciamento de Postura de Segurança de Dados para IA.

  • Aplique rótulos de sensibilidade e políticas DLP. Estenda os rótulos de sensibilidade do Microsoft Purview para dados acessados por aplicações de IA e configure políticas DLP para detectar e bloquear dados sensíveis em prompts de IA. Para obter mais informações, confira Introdução a rótulos de confidencialidade.

Controlar a IA para conformidade

Os aplicativos de IA devem estar em conformidade com os requisitos regulatórios e as políticas organizacionais.

  • Implemente controles responsáveis por IA. Siga os princípios responsáveis de IA da Microsoft para justiça, transparência, privacidade e responsabilidade. Para obter mais informações, consulte Microsoft Responsible AI Standard.

  • Mantenha as trilhas de auditoria. Habilitar auditoria para serviços de IA: o Auditoria do Microsoft Purview captura interações com o Copilot, o Azure Monitor acompanha o uso dos serviços de IA do Azure, e o Defender para Aplicativos de Nuvem monitora a atividade de IA SaaS. Para obter mais informações, veja Atividades de registo de auditoria.

Próximas etapas

  • Last updated on