Ottieni il contesto dell'applicazione e dell'utente finale per gli avvisi di IA

Microsoft Defender per il cloud la protezione dalle minacce per i servizi di intelligenza artificiale consente di migliorare l'utilità e il valore di sicurezza degli avvisi di intelligenza artificiale generati fornendo sia l'utente finale che il contesto dell'applicazione.

La maggior parte degli scenari di servizio di intelligenza artificiale viene compilata come parte di un'applicazione, quindi le chiamate API al servizio di intelligenza artificiale provengono da un'applicazione Web, un'istanza di calcolo o un gateway di intelligenza artificiale. Questa architettura mediata dalle applicazioni introduce complessità perché gli investigatori mancano di contesto quando esaminano le richieste di IA per determinare l'applicazione aziendale o l'utente finale coinvolto.

Insieme, Microsoft Defender per il cloud e Azure'intelligenza artificiale consentono di aggiungere parametri alle chiamate API di intelligenza artificiale Azure in modo che Defender per il cloud sia in grado di acquisire il contesto critico dell'utente finale o dell'applicazione negli avvisi di intelligenza artificiale. Catturare il contesto dell'utente finale e dell'applicazione negli avvisi AI porta a un trio e risultati più efficaci. Ad esempio, quando si aggiunge l'indirizzo IP o l'identità dell'utente finale, è possibile bloccare l'utente o correlare eventi imprevisti e avvisi da parte dell'utente. Quando si aggiunge il contesto dell'applicazione, è possibile definire la priorità o determinare se il comportamento sospetto è standard per tale applicazione nell'organizzazione.

Prerequisiti

• Leggi la protezione dalle minacce per l'intelligenza artificiale.

• Abilitare la protezione dalle minacce per i servizi di intelligenza artificiale in un'applicazione di intelligenza artificiale, con il modello sottostante OpenAI di Azure, direttamente tramite il servizio OpenAI di Azure. Si noti che questa funzionalità non è attualmente supportata quando si applicano modelli usati tramite l'API di inferenza del modello di intelligenza artificiale di Azure.

Aggiungere parametri di sicurezza alla chiamata di Azure OpenAI

Per ricevere avvisi di sicurezza IA con più contesto, è possibile aggiungere uno o tutti i parametri UserSecurityContext di esempio seguenti alle chiamate dell'API Azure OpenAI.

Tutti i campi in UserSecurityContext sono facoltativi.

Per il contesto dell’utente finale, consigliamo di passare come minimo i campi EndUserId e SourceIP. I campi EndUserId e SourceIP forniscono agli analisti del Centro operazioni per la sicurezza (SOC) la possibilità di analizzare incidenti di sicurezza che coinvolgono risorse IA e applicazioni IA generative.

Per il contesto dell'applicazione, passare il applicationName campo come stringa semplice.

Se il nome di un campo UserSecurityContext è scritto erroneamente, la chiamata API di Azure OpenAI ha comunque successo.

Schema di UserSecurityContext

Lo schema esatto è disponibile nella documentazione di riferimento dell'API REST OpenAI di Azure.

L'oggetto contesto di sicurezza dell'utente fa parte del corpo della richiesta dell'API di completamento della chat.

Attualmente non è supportata l'aggiunta UserSecurityContext di parametri per l'arricchimento di Defender per il cloud Alert quando si applicano modelli distribuiti tramite l'API di inferenza dei modelli AI di Azure.

API supportate e versioni SDK

La tabella seguente elenca le API supportate e le versioni SDK per UserSecurityContext.

Passo successivo