Implementare la sicurezza dei dati di IA

La sicurezza dei dati è fondamentale per l'IA perché i sistemi di intelligenza artificiale amplificano le sfide esistenti con la classificazione, le autorizzazioni e la governance dei dati. L'intelligenza artificiale semplifica l'individuazione dei dati, ovvero eventuali problemi di gestione dei dati vengono amplificati, causando potenziali perdite di dati e accesso non autorizzato. L'intelligenza artificiale non solo si basa sui dati, ma crea anche nuovi dati che guadagnano valore nel tempo, rendendoli una destinazione per gli utenti malintenzionati. Anche se la sicurezza dei dati non è una nuova disciplina, l'intelligenza artificiale rende la sicurezza dei dati ancora più critica.

Un principio fondamentale della sicurezza dei dati di intelligenza artificiale è che le decisioni di controllo degli accessi non devono mai essere devolve al sistema di intelligenza artificiale. L'intelligenza artificiale deve avere accesso solo agli stessi dati dell'utente che agisce per conto di .

Comprendere il panorama dei dati dei sistemi di intelligenza artificiale

I sistemi di intelligenza artificiale generativi interagiscono con un'ampia gamma di tipi di dati che richiedono tutta la protezione:

• Dati di training: set di dati usati per creare e ottimizzare i modelli, che possono contenere informazioni proprietarie, dati personali o materiale protetto da copyright
• Dati di base: documenti, database e knowledge base recuperati dall'intelligenza artificiale in fase di esecuzione tramite tecniche come la generazione aumentata di recupero (RAG)
• Dati di interazione: richieste utente, risposte del modello, cronologie conversazioni e payload di chiamata agli strumenti generati durante l'uso
• Output generati dall'AI: riepiloghi, codice, report e altri artefatti creati dall'intelligenza artificiale, che possono combinare informazioni da più fonti sensibili

Ogni tipo di dati presenta requisiti di sicurezza diversi, modelli di accesso e implicazioni normative. Una strategia completa di sicurezza dei dati di intelligenza artificiale riguarda tutte queste soluzioni.

Implementare il controllo di accesso con le identità dell'agente

Il principio che l'intelligenza artificiale deve accedere solo agli stessi dati dell'utente che agisce per conto di è semplice da dichiarare, ma l'implementazione richiede la gestione delle identità predefinita. I framework di gestione delle identità degli agenti offrono modi standardizzati per gestire, autenticare e autorizzare gli agenti di intelligenza artificiale.

I framework di gestione delle identità agente supportano in genere due modalità di autenticazione:

• Accesso delegato (per conto dell'utente): l'agente funziona sulla base dell'identità dell'utente che ha eseguito l'accesso tramite l'uso di un flusso OBO (On-Behalf-Of). L'agente eredita solo le autorizzazioni per cui l'utente ha dato il consenso ed è autorizzato. Ciò impone direttamente il principio che l'intelligenza artificiale non può accedere ai dati a cui l'utente non può accedere.
• Accesso esclusivamente per applicazioni: l'agente agisce con un'identità dedicata propria, governata dalle proprie assegnazioni di ruolo. Questa modalità viene usata per i flussi di lavoro in background o automatici in cui non è coinvolto alcun utente.

Quando si crea un agente su una piattaforma di intelligenza artificiale moderna, il servizio può assegnare automaticamente un'identità all'agente. Gli amministratori assegnano quindi ruoli a tale identità usando il controllo degli accessi in base al ruolo, applicando l'accesso con privilegi minimi a livello di agente, separati dalle autorizzazioni degli sviluppatori umani che lo hanno creato.

Questa separazione è importante per la verificabilità: le operazioni eseguite dall'agente di intelligenza artificiale vengono visualizzate nei log con l'identità dell'agente, non nell'account dell'utente umano, rendendo possibile rilevare e analizzare il comportamento imprevisto dell'agente.

Ad esempio, Microsoft Entra Agent ID offre questa funzionalità rilasciando identità dedicate per gli agenti di intelligenza artificiale che supportano le modalità di accesso delegate e solo per applicazioni, con assegnazioni di ruolo gestite tramite Azure RBAC (Controllo degli Accessi in base al Ruolo).

Classificazione e governance dei dati

Una sicurezza efficace dei dati di intelligenza artificiale richiede anche procedure avanzate per la governance dei dati:

• Classificare i dati prima che l'intelligenza artificiale acceda: assicurarsi che i dati a cui accedono i sistemi di intelligenza artificiale siano classificati e etichettati in base al livello di riservatezza. L'intelligenza artificiale può applicare controlli di accesso esistenti: se i dati non sono classificati correttamente, l'intelligenza artificiale può visualizzare informazioni riservate agli utenti non autorizzati.
• Applicare i criteri di prevenzione della perdita dei dati (DLP): estendere i criteri DLP esistenti per coprire i canali di interazione con intelligenza artificiale. Monitorare per dati sensibili nei prompt per l'intelligenza artificiale, nelle risposte e nei payload di chiamata strumento.
• Applicare criteri di conservazione ed eliminazione: definire per quanto tempo vengono conservati i dati di interazione (log di conversazione, cronologie richieste). Ridurre al minimo la finestra di esposizione eliminando automaticamente i dati non più necessari.
• Controllare i modelli di accesso ai dati: monitorare i dati a cui accede l'intelligenza artificiale, quando e per conto di cui. Modelli di accesso anomali, ad esempio un agente che esegue improvvisamente query su grandi volumi di dati all'esterno del normale ambito, può indicare una compromissione.