Configurazione guidata dei guardrail per un agente (anteprima)

In questo articolo, si configurano i meccanismi di protezione e sicurezza per un agente tramite Microsoft Foundry. Invece di selezionare manualmente i controlli, è possibile rispondere a un breve set di domande sugli utenti desiderati dell'agente, sulla gestione dei dati e sull'utilizzo degli strumenti. Foundry esegue il mapping delle risposte alle categorie di rischio pertinenti e applica controlli mirati ai punti di intervento corretti: input dell'utente, chiamate degli strumenti, risposte agli strumenti e output.

Ogni agente è sviluppato appositamente per uno scenario specifico, quindi le misure di salvaguardia devono essere adattate di conseguenza e non applicate come un’unica impostazione predefinita. La configurazione guidata garantisce che le protezioni siano applicate dove necessario e che l'agente rimanga sicuro e utilizzabile. Per altre informazioni sui concetti relativi alle protezioni, seguire questo collegamento.

Prerequisiti

• Agente attivo in Microsoft Foundry. Per crearne uno, consulta Guida rapida alla creazione di un agente di prompt.

Configurazione del guardrail con guida aperta

1. In Microsoft Foundry aprire un progetto.
2. Passare alla scheda Compila nella barra superiore. Nel riquadro di spostamento a sinistra selezionare Agenti, quindi selezionare l'agente da configurare.
3. Nella pagina dei dettagli dell'agente, espandi la sezione "Guardrails" nel riquadro di sinistra all'interno dell'area di lavoro dell'agente.
4. Selezionare Gestisci guardrail, quindi selezionare Configurazione guidata dei guardrail per avviare la procedura di configurazione guidata.

Indicare a chi è destinato l'agente

Il primo set di domande identifica chi usa l'agente e il livello di attendibilità da applicare ai propri input.

1. Per Chi userà questo agente? selezionare se l'agente è accessibile da utenti pubblici o team interni. Gli esempi includono:
   • Utenti pubblici: applica filtri di sicurezza dei contenuti più rigorosi e protezioni jailbreak, perché l'accesso più ampio aumenta l'esposizione a input imprevisti o antagonisti.
   • Team interni: applica controlli più leggeri appropriati per gli utenti attendibili e autenticati.
2. Seleziona Avanti per continuare.

Definire la gestione di input e dati

Il secondo set di domande determina come l'agente riceve informazioni e quali dati elabora. Gli input esterni o non attendibili aumentano il rischio di iniezione di prompt. I dati sensibili aumentano il rischio di esposizione imprevista.

1. Per Dove l'agente riceve gli input?, selezionare tutte le origini che si applicano, ad esempio messaggi utente, file caricati o API esterne.
2. Per L'agente accede, elabora o restituisce dati sensibili? selezionare Sì o No.
   • In caso affermativo, selezionare se i dati includono informazioni personali. Se si seleziona Sì , viene abilitato il rilevamento delle informazioni personali e i controlli di protezione dei dati.
3. Seleziona Avanti per continuare.

Configurare l'utilizzo di strumenti e azioni

Il terzo set di domande riguarda le integrazioni degli strumenti e le funzionalità di azione dell'agente. L'utilizzo degli strumenti e le azioni reali introducono rischi aggiuntivi che richiedono controlli mirati.

1. Per L'agente chiama gli strumenti esterni? selezionare Sì o No.
   • Se sì, Foundry consente la convalida delle risposte degli strumenti e la loro evidenziazione per proteggere dall'iniezione di prompt tramite gli output degli strumenti.
2. Per L'agente può eseguire azioni reali o consequenziali? (ad esempio, inviare messaggi di posta elettronica, modificare record o chiamare servizi esterni), selezionare Sì o No.
   • In caso affermativo, i controlli di conformità delle attività e la convalida delle azioni vengono aggiunti per ridurre il rischio di azioni non allineate o impreviste.
3. Per L'agente genera, modifica o esegue codice? selezionare Sì o No.
   • Se sì, sono abilitati il rilevamento di materiale protetto e i controlli di sicurezza del codice.
4. Selezionare Avanti per esaminare le raccomandazioni.

Esaminare e applicare le raccomandazioni sulle misure di salvaguardia

Foundry visualizza un riepilogo delle protezioni consigliate in base alle risposte, insieme ai punti di intervento in cui viene applicato ogni controllo.

1. Esaminare i controlli consigliati. Per modificare una raccomandazione, selezionare Modifica accanto al controllo e modificare la configurazione.
2. Quando si è soddisfatti della configurazione, selezionare Crea protezioni.
3. Confermare le modifiche quando richiesto.

Le misure di protezione sono ora attive per il tuo agente. È possibile tornare alla scheda Guardrails in qualsiasi momento per aggiornare la configurazione man mano che si evolve lo scenario dell'agente.

Passo successivo