Melhores práticas de segurança em IA Azure

Este artigo apresenta as melhores práticas para proteger cargas de trabalho de inteligência artificial (IA) especificamente no Azure. À medida que as organizações adotam capacidades de IA a um ritmo sem precedentes, as equipas de segurança devem obter visibilidade proativa sobre o uso da IA e implementar controlos adequados para mitigar riscos.

Este artigo foca-se em considerações específicas de segurança de IA para Azure. Para orientações abrangentes e independentes de segurança em IA, incluindo estratégia organizacional, quadros de governação e o ciclo de vida completo da segurança da IA, consulte Segurança para IA na documentação da Microsoft Security.

Este artigo é um complemento ao modelo de responsabilidade partilhada de IA e ao modelo de responsabilidade partilhada de agentes de IA, que explicam a divisão das responsabilidades de segurança entre si e a Microsoft para cargas de trabalho de IA e agentes autónomos. Para controlos de segurança prescritivos com aplicação de políticas Azure, consulte Microsoft Cloud Security Benchmark v2 - Artificial Intelligence Security.

Permitir a visibilidade das cargas de trabalho e da utilização de IA

Antes de conseguir garantir cargas de trabalho em IA, precisa de ter visibilidade sobre quais as aplicações de IA que estão a ser usadas e construídas na sua organização.

  • Use o Microsoft Defender para a Cloud para descobrir cargas de trabalho de IA no seu ambiente Azure. O plano Defender Cloud Security Posture Management (CSPM) oferece capacidades de gestão da postura de segurança para IA, incluindo a descoberta da lista de materiais de IA generativa (AI BOM), recomendações de segurança incorporadas e análise de caminhos de ataque. Para mais informações, consulte a gestão da postura de segurança de Inteligência Artificial com o Defender para a Cloud.

  • Use o Microsoft Defender for Cloud Apps para descobrir aplicações de IA SaaS. O catálogo Defender for Cloud Apps inclui mais de mil aplicações de IA generativa. Pode visualizar avaliações de risco, sancionar ou bloquear aplicações e criar políticas para detetar novas aplicações de IA. Para obter mais informações, veja Gerir aplicações detetadas.

  • Rastreie as identidades dos agentes de IA com o ID do Agente Microsoft Entra. O ID do Agente Microsoft Entra fornece um diretório unificado de identidades de agentes criado entre o Microsoft Copilot Studio e o Azure AI Foundry, ajudando-o a gerir o ciclo de vida e as permissões dos agentes.

Implementações Seguras do Serviço Azure OpenAI

O Azure OpenAI Service fornece acesso REST API a modelos de linguagem poderosos. Proteger estas implementações é fundamental para proteger os seus dados e prevenir o uso indevido.

  • Utilize endpoints privados para isolamento de rede. Configure o Azure OpenAI Service para usar endpoints privados, removendo o endpoint público e restringindo o acesso à sua rede virtual. Para mais informações, consulte Configuração de Rede e Acesso para Azure OpenAI.

  • Use identidade gerida para autenticação. Configure as aplicações para se autenticarem com identidades geridas do Microsoft Entra em vez de chaves de API, eliminando a necessidade de gerir e alternar segredos. Para mais informações, consulte Configurar o Serviço Azure OpenAI com autenticação Microsoft Entra ID.

  • Implemente filtragem de conteúdos em múltiplas camadas. Implemente filtragem de conteúdos em múltiplas fases para criar uma defesa aprofundada:

    • Filtragem de entradas: Use o Segurança de conteúdo de IA do Azure para analisar prompts para conteúdos maliciosos, incluindo tentativas de injeção de prompt e ataques de jailbreak.
    • Filtragem de saída: Configure o filtro de conteúdo do Azure OpenAI para bloquear respostas prejudiciais antes da entrega.
    • Controlos do gateway de API: Utilize o API Management do Azure para aplicar limites de taxa e validação de esquema.

Para mais informações, consulte Filtragem de Conteúdos e Segurança de conteúdo de IA do Azure.

  • Utilize metaprompts de segurança para orientar o comportamento do modelo. Instruções de design do sistema que definam claramente o papel do modelo, incluem instruções explícitas para rejeitar entradas maliciosas e instruem o modelo a priorizar instruções do sistema em detrimento das entradas do utilizador. Use técnicas de realce para isolar dados não confiáveis dentro dos prompts e integre Escudos de Prompt para detetar tentativas de jailbreak.

  • Monitoriza a utilização com registos de diagnóstico. Ative o registo de diagnóstico para acompanhar pedidos de API, utilização de tokens, resultados de filtragem de conteúdo e erros. Envie registos para o Azure Monitor para análise e alertas. Para mais informações, consulte Monitorizar Azure OpenAI.

Secure Azure AI Foundry e Azure Machine Learning

O Azure AI Foundry e o Azure Machine Learning fornecem plataformas para construir e implementar aplicações de IA. Proteger estes ambientes exige atenção ao isolamento da rede, controlo de acessos e governação do modelo.

  • Use isolamento de rede gerida. Crie hubs Azure AI Foundry e espaços de trabalho Azure Machine Learning com redes virtuais geridas que forneçam endpoints privados para serviços dependentes e controlo de tráfego outbound. Para mais informações, consulte Isolamento de rede gerida para Azure AI Foundry e Configurar um endpoint privado para Azure Machine Learning.

  • Implemente controlo de acesso com privilégios mínimos. Configure o RBAC usando papéis incorporados e atribua permissões ao nível do projeto ou espaço de trabalho. Utilize o ID do Agente Microsoft Entra para a gestão de identidade do agente de IA, aplicando tokens de curta duração e âmbito para aceder às funções do agente. Para mais informações, consulte Controlo de acesso baseado em funções para Microsoft Foundry.

  • Implemente apenas modelos de IA aprovados. Use o Azure Machine Learning Model Registry para acompanhar a proveniência do modelo, o estado de verificação e o histórico de aprovação. Configure a varredura automática para validar a integridade do modelo e testar contra entradas adversariais antes da implementação. Implemente a Política Azure "[Pré-visualização]: As implementações de Aprendizagem Automática Azure devem usar apenas Modelos de Registo aprovados" para impor a governação. Para mais informações, consulte Gestão e implementação de modelos.

  • Recursos de computação seguros. Configure instâncias de computação sem IPs públicos, use autenticação de identidade gerida, permita o isolamento do utilizador para clusters partilhados e encripte discos com chaves geridas pelo cliente. Para mais informações, consulte Proteja um ambiente de treino do Azure Machine Learning.

Implementar proteção contra ameaças específica para IA

As cargas de trabalho de IA enfrentam ameaças únicas, incluindo injeção rápida, ataques de jailbreak e manipulação de modelos. Implementar deteção de ameaças e testes contínuos especificamente concebidos para IA.

Integrar o red teaming nos CI/CD pipelines para validar a segurança antes da implementação. Teste contra padrões de ataque conhecidos do MITRE ATLAS, do OWASP Top 10 para aplicações LLM e do OWASP Top 10 para Agentic AI.

  • Implemente a intervenção humana no ciclo para ações críticas. Para operações de IA de alto risco, como transferências externas de dados ou alterações na configuração do sistema, utilize Azure Logic Apps ou Power Automate para desenhar fluxos de trabalho que pausam para revisão e aprovação humana antes da execução.

  • Monitorize padrões de uso arriscados da IA. Use o Gestão do risco interno do Microsoft Purview com o modelo de política de utilização de IA Risky para detetar e investigar atividades de risco relacionadas com IA. Para mais informações, consulte modelos de políticas de gestão de risco para insiders.

Proteger dados sensíveis nas interações com IA

As aplicações de IA frequentemente interagem com dados sensíveis. Implemente controlos de proteção de dados para prevenir a perda de dados e garantir a conformidade.

  • Utilize o Gestão da Postura de Segurança de Dados do Microsoft Purview (DSPM) para IA. O DSPM para IA fornece visibilidade sobre a atividade de IA, políticas prontas a utilizar para proteger os dados incluídos nos prompts e avaliações do risco de exposição excessiva de dados. Para mais informações, consulte Gestão da Postura de Segurança de Dados para IA.

  • Aplique etiquetas de sensibilidade e políticas DLP. Estenda as etiquetas de sensibilidade do Microsoft Purview a dados acedidos por aplicações de IA e configure políticas DLP para detetar e bloquear dados sensíveis em prompts de IA. Para obter mais informações, consulte Começar com etiquetas de sensibilidade.

Governe a IA para fins de conformidade

As aplicações de IA devem cumprir os requisitos regulamentares e as políticas organizacionais.

  • Implemente controlos de IA responsáveis. Siga os princípios responsáveis de IA da Microsoft para justiça, transparência, privacidade e responsabilidade. Para mais informações, consulte Microsoft Responsible AI Standard.

  • Mantenha registos de auditoria. Ativar auditoria para serviços de IA: o Auditoria do Microsoft Purview capta interações com o Copilot, o Azure Monitor acompanha o uso dos serviços de IA do Azure, e o Defender for Cloud Apps monitoriza a atividade de IA SaaS. Para obter mais informações, consulte Atividades de log de auditoria.

Próximos passos

  • Last updated on