Obtenha contexto de aplicativo e usuário final para alertas de IA

A proteção contra ameaças para serviços de IA do Microsoft Defender para a Cloud permite-lhe melhorar a capacidade de ação e o valor de segurança dos alertas de IA gerados, fornecendo contexto tanto para o utilizador final como para a aplicação.

A maioria dos cenários de serviços de IA é construída como parte de uma aplicação, por isso as chamadas de API para o serviço de IA têm origem numa aplicação web, instância de computação ou gateway de IA. Esta arquitetura mediada pela aplicação introduz complexidade porque os investigadores carecem de contexto quando analisam pedidos de IA para determinar a aplicação de negócio ou o utilizador final envolvido.

Em conjunto, o Microsoft Defender para a Cloud e o Azure AI permitem-lhe adicionar parâmetros às chamadas de API do Azure AI, para que o Defender para a Cloud possa captar o contexto crítico do utilizador final ou da aplicação em alertas de IA. Captar o contexto do utilizador final e da aplicação em alertas de IA conduz a uma triagem e resultados mais eficazes. Por exemplo, quando adiciona o IP ou identidade do utilizador final, pode bloquear esse utilizador ou correlacionar incidentes e alertas por esse utilizador. Quando adiciona o contexto da aplicação, pode priorizar ou determinar se comportamentos suspeitos são padrão para essa aplicação na organização.

Pré-requisitos

• Leia sobre proteção contra ameaças por IA.

• Habilite a proteção contra ameaças para serviços de IA em um aplicativo de IA, com o modelo subjacente do Azure OpenAI, diretamente por meio do Serviço OpenAI do Azure. Observe que, no momento, esse recurso não é suportado ao aplicar modelos consumidos por meio da API de inferência de modelo de IA do Azure.

Adicionar parâmetros de segurança à sua chamada do Azure OpenAI

Para receber alertas de segurança de IA com mais contexto, você pode adicionar qualquer um ou todos os seguintes parâmetros de exemplo UserSecurityContext às suas chamadas de API do Azure OpenAI.

Todos os campos em UserSecurityContext são opcionais.

No contexto do utilizador final, recomendamos que sejam passados, pelo menos, os campos EndUserId e SourceIP. Os EndUserId campos e SourceIP fornecem aos analistas do Centro de Operações de Segurança (SOC) a capacidade de investigar incidentes de segurança que envolvam recursos de IA e aplicativos de IA generativos.

Para o contexto do aplicativo, passe o applicationName campo, como uma cadeia de caracteres simples.

Se o nome de qualquer UserSecurityContext campo estiver mal escrito, a chamada à API do Azure OpenAI continua a ter sucesso.

Esquema UserSecurityContext

O esquema exato pode ser encontrado na documentação de referência da API REST do Azure OpenAI.

O objeto de contexto de segurança do utilizador faz parte do corpo do pedido da API de conclusão de chat.

Adicionar UserSecurityContext parâmetros para o enriquecimento de alertas do Defender para a Cloud atualmente não é suportado ao aplicar modelos implementados através da API de inferência de modelos de IA do Azure.

APIs suportadas e versões do SDK

A tabela seguinte lista as APIs suportadas e as versões do SDK para UserSecurityContext.

Passo seguinte