Procedure consigliate per la sicurezza dell'intelligenza artificiale di Azure

Questo articolo fornisce procedure consigliate per la protezione dei carichi di lavoro di intelligenza artificiale (IA) in particolare in Azure. Man mano che le organizzazioni adottano funzionalità di intelligenza artificiale a una velocità senza precedenti, i team di sicurezza devono ottenere in modo proattivo visibilità sull'utilizzo dell'intelligenza artificiale e implementare controlli appropriati per attenuare i rischi.

Questo articolo è incentrato sulle considerazioni sulla sicurezza dell'intelligenza artificiale specifiche di Azure. Per una guida completa e indipendente dalla piattaforma sulla sicurezza dell'IA, inclusi strategia organizzativa, framework di governance e l'intero ciclo di vita della sicurezza dell'IA, consulta Security for AI nella documentazione Microsoft Security.

Questo articolo è un complemento al modello di responsabilità condivisa dell'IA e al modello di responsabilità condivisa degli agenti IA, che spiegano la divisione delle responsabilità di sicurezza tra te e Microsoft per i carichi di lavoro AI e gli agenti autonomi. Per i controlli di sicurezza prescrittivi con l'applicazione dei Criteri di Azure, vedere Microsoft Cloud Security Benchmark v2 - Artificial Intelligence Security.

Abilitare la visibilità sui carichi di lavoro e sull'utilizzo di intelligenza artificiale

Prima di poter proteggere i carichi di lavoro di intelligenza artificiale, è necessaria visibilità sulle applicazioni di intelligenza artificiale usate e integrate nell'organizzazione.

  • Usa Microsoft Defender per il cloud per scoprire i carichi di lavoro AI nel tuo ambiente Azure. Il piano Defender Cloud Security Posture Management (CSPM) offre funzionalità di gestione della postura di sicurezza dell'IA, tra cui l'individuazione del Bill of Materials (AI BOM) per l'IA generativa, raccomandazioni di sicurezza integrate e l'analisi dei percorsi di attacco. Per altre informazioni, vedere Gestione del comportamento di sicurezza dell'intelligenza artificiale con Defender per il cloud.

  • Usa Microsoft Defender for Cloud Apps per scoprire applicazioni di IA SaaS. Il catalogo Defender for Cloud Apps include più di mille app di IA generativa. È possibile visualizzare le valutazioni dei rischi, approvare o bloccare le app e creare criteri per rilevare nuove app di intelligenza artificiale. Per altre informazioni, vedere Governance delle app individuate.

  • Traccia le identità degli agenti AI con Microsoft Entra Agent ID. Microsoft Entra Agent ID fornisce una directory unificata delle identità degli agenti create su Microsoft Copilot Studio e Azure AI Foundry, aiutandoti a gestire il ciclo di vita degli agenti e i permessi.

Proteggere le distribuzioni del servizio OpenAI di Azure

Il servizio OpenAI di Azure fornisce all'API REST l'accesso a modelli di linguaggio avanzati. La protezione di queste distribuzioni è fondamentale per proteggere i dati e prevenire l'uso improprio.

  • Usa endpoint privati per l'isolamento della rete. Configura Servizio Azure OpenAI per utilizzare endpoint privati, rimuovendo l'endpoint pubblico e limitando l'accesso alla tua rete virtuale. Per altre informazioni, vedere Configurazione di rete e accesso per Azure OpenAI.

  • Usa l'identità gestita per l'autenticazione. Configura le applicazioni per autenticarsi utilizzando identità gestite da Microsoft Entra invece delle chiavi API, eliminando la necessità di gestire e ruotare i segreti. Per altre informazioni, vedere Configurare il servizio Azure OpenAI con l'autenticazione microsoft Entra ID.

  • Implementa un filtraggio multilivello dei contenuti. Implementa il filtraggio dei contenuti in più fasi per creare una difesa approfondita:

    • Filtraggio degli input: Usa Sicurezza dei contenuti di Azure AI per analizzare i prompt di contenuti dannosi, inclusi tentativi di prompt injection e attacchi di jailbreak.
    • Filtraggio degli output: Configura il filtraggio dei contenuti Azure OpenAI per bloccare le risposte dannose prima della consegna.
    • Controlli API gateway: Usa Gestione API di Azure per imporre limiti di velocità e validazione dello schema.

Per altre informazioni, vedere Filtro dei contenuti e Sicurezza dei contenuti per intelligenza artificiale di Azure.

  • Usa meta-prompt di sicurezza per guidare il comportamento dei modelli. Progetti di prompt di sistema che definiscono chiaramente il ruolo del modello, includono istruzioni esplicite per rifiutare input dannosi e istruiscono il modello a dare priorità alle istruzioni di sistema rispetto agli input dell'utente. Usare tecniche di spotlighting per isolare i dati non attendibili all'interno delle richieste e integrare Prompt Shields per rilevare i tentativi di jailbreak.

  • Monitora l'uso con i log diagnostici. Abilita il logging diagnostico per tracciare richieste API, utilizzo dei token, risultati del filtraggio dei contenuti ed errori. Inviare log a Monitoraggio di Azure per l'analisi e l'invio di avvisi. Per altre informazioni, vedere Monitorare Azure OpenAI.

Protezione di Azure AI Foundry e Azure Machine Learning

Azure AI Foundry e Azure Machine Learning offrono piattaforme per la creazione e la distribuzione di applicazioni di intelligenza artificiale. La protezione di questi ambienti richiede attenzione all'isolamento della rete, al controllo di accesso e alla governance del modello.

  • Usa l'isolamento di rete gestito. Crea hub Azure AI Foundry e spazi di lavoro Azure Machine Learning con reti virtuali gestite che forniscono endpoint privati per servizi dipendenti e controllo del traffico in uscita. Per altre informazioni, vedere Isolamento della rete gestita per Azure AI Foundry e Configurare un endpoint privato per Azure Machine Learning.

  • Implementa il controllo di accesso a privilegi minimi. Configura RBAC usando ruoli integrati e assegna i permessi a livello di progetto o spazio di lavoro. Usare l'ID agente di Microsoft Entra per la gestione delle identità dell'agente di intelligenza artificiale, applicando token con ambito e di breve durata per l'accesso alle funzioni dell'agente. Per altre informazioni, vedere Controllo degli accessi in base al ruolo per Microsoft Foundry.

  • Distribuisci solo modelli di IA approvati. Usa Azure Machine Learning Model Registry per tracciare la provenienza del modello, lo stato di verifica e la cronologia delle approvazioni. Configurare l'analisi automatizzata per convalidare l'integrità del modello e testare gli input antagonisti prima della distribuzione. Distribuire il criterio di Azure "[Anteprima]: Le distribuzioni di Azure Machine Learning devono usare solo modelli del Registro di sistema approvati" per applicare la governance. Per altre informazioni, vedere Gestione e distribuzione dei modelli.

  • Proteggere le risorse di calcolo. Configurare istanze di calcolo senza IP pubblici, utilizzare l'autenticazione dell'identità gestita, abilitare l'isolamento utente per cluster condivisi e criptare i dischi con chiavi gestite dal cliente. Per altre informazioni, vedere Proteggere un ambiente di training di Azure Machine Learning.

Implementare la protezione dalle minacce specifica dell'intelligenza artificiale

I carichi di lavoro di intelligenza artificiale affrontano minacce uniche, tra cui l'iniezione di comandi, gli attacchi di fuga e la manipolazione del modello. Implementare il rilevamento delle minacce e i test continui progettati appositamente per l'intelligenza artificiale.

Integrare il red teaming nelle pipeline di CI/CD per convalidare la sicurezza prima della distribuzione. Testa contro i pattern di attacco noti di MITRE ATLAS, la Top 10 OWASP per applicazioni LLM e la Top 10 OWASP per Agentic AI.

  • Implementare la supervisione umana per le azioni critiche. Per operazioni di IA ad alto rischio come trasferimenti di dati esterni o modifiche alla configurazione del sistema, utilizza App per la logica di Azure o Power Automate per progettare flussi di lavoro che si fermano per la revisione e l'approvazione umana prima dell'esecuzione.

  • Monitora i modelli di utilizzo rischiosi dell'IA. Usa Gestione dei rischi Insider Microsoft Purview con il modello di politica di utilizzo Risky AI per rilevare e indagare sulle attività di rischio legate all'IA. Per altre informazioni, vedere Modelli di criteri di gestione dei rischi Insider.

Proteggere i dati sensibili nelle interazioni con intelligenza artificiale

Le applicazioni di intelligenza artificiale spesso interagiscono con i dati sensibili. Implementare controlli di protezione dei dati per evitare la perdita di dati e garantire la conformità.

  • Usare Gestione della postura di sicurezza dei dati di Microsoft Purview (DSPM) per intelligenza artificiale. DSPM per l'IA fornisce informazioni dettagliate sull'attività dell'IA, criteri pronti all'uso per proteggere i dati nei prompt e valutazioni dei rischi relativi ai dati per individuare potenziali casi di condivisione eccessiva. Per altre informazioni, vedere Gestione del comportamento di sicurezza dei dati per l'intelligenza artificiale.

  • Applicare etichette di sensibilità e politiche DLP. Estendi le etichette di sensibilità di Microsoft Purview ai dati accessibili dalle applicazioni di IA e configura le politiche DLP per rilevare e bloccare dati sensibili nei prompt dell'IA. Per ulteriori informazioni, consultare Introduzione alle etichette di riservatezza.

Gestire l'intelligenza artificiale per la conformità

Le applicazioni di intelligenza artificiale devono essere conformi ai requisiti normativi e ai criteri dell'organizzazione.

  • Implementa controlli AI responsabili. Segui i principi responsabili di Microsoft sull'IA per equità, trasparenza, privacy e responsabilità. Per altre informazioni, vedere Microsoft Responsible AI Standard.

  • Mantenere le tracce di audit. Abilita l'audit per i servizi di IA: Microsoft Purview Audit cattura le interazioni con Copilot, Monitoraggio di Azure monitora l'utilizzo dei servizi di Azure AI e Defender for Cloud Apps monitora l'attività di IA SaaS. Per ulteriori informazioni, vedere Attività del registro di controllo.

Passaggi successivi

  • Last updated on