Obtenha contexto de aplicativo e usuário final para alertas de IA

A proteção contra ameaças para serviços de IA do Microsoft Defender para a Cloud permite-lhe melhorar a capacidade de ação e o valor de segurança dos alertas de IA gerados, fornecendo contexto tanto para o utilizador final como para a aplicação.

A maioria dos cenários de serviços de IA é construída como parte de uma aplicação, por isso as chamadas de API para o serviço de IA têm origem numa aplicação web, instância de computação ou gateway de IA. Esta arquitetura mediada pela aplicação introduz complexidade porque os investigadores carecem de contexto quando analisam pedidos de IA para determinar a aplicação de negócio ou o utilizador final envolvido.

Em conjunto, o Microsoft Defender para a Cloud e o Azure AI permitem-lhe adicionar parâmetros às chamadas de API do Azure AI, para que o Defender para a Cloud possa captar o contexto crítico do utilizador final ou da aplicação em alertas de IA. Captar o contexto do utilizador final e da aplicação em alertas de IA conduz a uma triagem e resultados mais eficazes. Por exemplo, quando adiciona o IP ou identidade do utilizador final, pode bloquear esse utilizador ou correlacionar incidentes e alertas por esse utilizador. Quando adiciona o contexto da aplicação, pode priorizar ou determinar se comportamentos suspeitos são padrão para essa aplicação na organização.

Captura de ecrã do portal Defender XDR mostrando os benefícios de adicionar o código.

Pré-requisitos

Adicionar parâmetros de segurança à sua chamada do Azure OpenAI

Para receber alertas de segurança de IA com mais contexto, adicione qualquer um ou todos os seguintes parâmetros de exemplo UserSecurityContext às suas chamadas de API do Azure OpenAI.

  • Todos os campos em UserSecurityContext são opcionais.

  • Para o contexto do utilizador final, passe, no mínimo, os campos EndUserId e SourceIP. Os EndUserId campos e SourceIP conferem aos analistas do Centro de Operações de Segurança (SOC) a capacidade de investigar incidentes de segurança que envolvam recursos de IA e aplicações de IA generativa.

  • Para contexto de aplicação, passe o applicationName campo como uma cadeia simples.

Se escrever mal o nome de qualquer UserSecurityContext campo, a chamada à API do OpenAI do Azure continua a ter sucesso.

Note

Este EndUserId é o ID de objeto de utilizador do Microsoft Entra ID usado para autenticar utilizadores finais na aplicação de IA generativa. Não inclua informações pessoais sensíveis nesta área.

Esquema UserSecurityContext

Pode encontrar o esquema exato na documentação de referência da API REST do Azure OpenAI.

O objeto de contexto de segurança do utilizador faz parte do corpo do pedido da API de conclusão de chat.

Atualmente, a API não suporta adicionar UserSecurityContext parâmetros para o enriquecimento de alertas do Defender para a Cloud quando se aplicam modelos implementados através da API de inferência de modelos de IA do Azure.

APIs suportadas e versões do SDK

A tabela seguinte lista as APIs suportadas e as versões do SDK para UserSecurityContext.

Source Suporte de versões Exemplo de código Comments
Azure OpenAI REST API Versão 2025-01-01 - -
SDK do Azure para .NET v2.2.0-beta.1 (2025-02-07) ou superior Exemplo de código do GitHub -
Azure Python SDK v1.61.1 ou superior Exemplo de código do GitHub O suporte é fornecido anexando ao objeto extra_body.
Azure JS/Node SDK v4.83.0 ou superior Exemplo de código do GitHub O suporte é fornecido anexando ao objeto extra_body.
Azure Go SDK v0.7.2 ou superior - -

Passo seguinte