Servizi sicuri di Azure PaaS per l'intelligenza artificiale

Questo articolo fornisce raccomandazioni sulla sicurezza per le organizzazioni che eseguono carichi di lavoro di intelligenza artificiale in Azure. Le linee guida sono incentrate sui servizi della piattaforma di intelligenza artificiale su Azure, tra cui Microsoft Foundry.

Proteggere le risorse di intelligenza artificiale

Proteggere le risorse Azure che supportano i carichi di lavoro di intelligenza artificiale. Iniziare con i controlli di sicurezza standardizzati, quindi applicare linee guida specifiche del servizio in base ai servizi di intelligenza artificiale usati.

  1. Applicare le baseline di sicurezza di Azure. Le baseline di sicurezza di Azure forniscono controlli di sicurezza consigliati per i servizi di Azure. Usare le baseline di sicurezza Azure per i servizi che supportano i carichi di lavoro di intelligenza artificiale.

  2. Seguire Azure Well-Architected Framework security guidance (Indicazioni sulla sicurezza di Azure Well-Architected Framework). Usa il Well-Architected Framework per valutare i requisiti di sicurezza per i carichi di lavoro di intelligenza artificiale. Esaminare le Guide ai servizi Azure pertinenti per consigli specifici del servizio.

Proteggere i modelli di intelligenza artificiale

Proteggere i modelli di intelligenza artificiale dalle minacce che possono manipolare il proprio comportamento o compromettere i carichi di lavoro che li usano. Usare la protezione dalle minacce e le misure di sicurezza del modello per ridurre questi rischi. Ecco come fare:

  1. Usare Microsoft Defender per il cloud. Abilitare le protezioni di Defender per il cloud applicabili per l'ambiente di intelligenza artificiale. Esaminare le raccomandazioni sulla sicurezza e affrontare i rischi in base ai requisiti di sicurezza dell'organizzazione. Vedi Microsoft Defender per il cloud protezione dalle minacce per l'intelligenza artificiale.

  2. Proteggere i modelli e gli agenti dalla prompt injection. Usare Prompt Shields per rilevare gli input che tentano di sovrascrivere le istruzioni del modello o modificare il comportamento del modello. Applicare la protezione ai prompt degli utenti e ai contenuti esterni utilizzati dai modelli o dagli agenti. In Microsoft Foundry, configurare Prompt Shields tramite controlli guardrail. Vedi Prompt Shields.

  3. Usare fonti di modelli attendibili. Stabilire la governance per la selezione e l'implementazione dei modelli. Valutare il provider del modello e i requisiti di sicurezza prima di approvare un modello per l'uso dell'organizzazione. Applicare un esame aggiuntivo ai modelli provenienti da fonti esterne o della community.

Proteggere l'accesso all'intelligenza artificiale

Controllare l'accesso alle risorse di intelligenza artificiale in base a chi o a cosa necessita di accesso. Usare l'autenticazione basata su identità e i privilegi minimi per ridurre l'accesso non autorizzato. Applicare controlli appropriati a utenti, agenti di intelligenza artificiale e servizi Azure. Ecco come fare:

  1. Autentica gli utenti con Microsoft Entra ID. Usare Microsoft Entra ID anziché le chiavi API quando il servizio Azure lo supporta. L'autenticazione basata sull'identità offre un controllo centralizzato su chi può accedere alle risorse di intelligenza artificiale e riduce la dipendenza dalle credenziali archiviate. Se un servizio richiede chiavi, proteggerle ed effettuarne la rotazione regolarmente.

  2. Assegna agli agenti di intelligenza artificiale le proprie identità gestite. Assegnare identità agli agenti di intelligenza artificiale in modo da poter controllare a cosa può accedere ciascun agente. Usare Microsoft Entra Agent ID per gestire le identità degli agenti e governarne l'accesso. Microsoft Foundry può effettuare il provisioning delle identità dell'agente usate da agenti per accedere alle risorse downstream senza archiviare le credenziali nei prompt o nel codice. Vedere Concetti relativi all'identità dell'agente in Microsoft Foundry.

  3. Limitare gli strumenti e le autorizzazioni dell'agente. Concedi a ogni agente l'accesso solo agli strumenti e alle risorse necessari per le attività approvate. Usare l'identità dell'agente per autenticare le chiamate downstream e concedere autorizzazioni con privilegi minimi necessari a tale identità. Esaminare le autorizzazioni man mano che cambiano le capacità dell'agente.

Proteggere i dati di intelligenza artificiale

Controllare i dati a cui ogni carico di lavoro di intelligenza artificiale può accedere. Definire limiti di dati chiari e applicare controlli di governance per ridurre l'accesso o l'esposizione ai dati non autorizzati. Ecco come fare:

  1. Definire i limiti dei dati per i carichi di lavoro di intelligenza artificiale. Determinare i dati a cui ogni applicazione o agente può accedere in base allo scopo e alle autorizzazioni. Applicare tali limiti tramite controlli di identità e accesso ai dati in modo che un carico di lavoro di intelligenza artificiale non possa recuperare i dati all'esterno dell'ambito approvato.

  2. Isolare i dati in base ai requisiti di sicurezza. Determinare se i carichi di lavoro di intelligenza artificiale richiedono ambienti dati separati in base ai requisiti di sicurezza o conformità. Usare l'isolamento logico o fisico quando i carichi di lavoro non devono condividere l'accesso agli stessi dati.

  3. Applicare i controlli di sicurezza dei dati. Proteggere i dati usati dai carichi di lavoro di intelligenza artificiale in base ai requisiti di sicurezza e conformità. Segui Sicurezza dei dati per intelligenza artificiale e analisi.

Passaggi successivi