Geführte Leitplanken-Einrichtung für einen Agenten konfigurieren (Vorschau)

In diesem Artikel konfigurieren Sie Sicherheits- und Sicherheitsschutzschienen für einen Agenten mit Microsoft Foundry. Anstatt Steuerelemente manuell auszuwählen, beantworten Sie eine kurze Reihe von Fragen zu den beabsichtigten Benutzern Ihres Agenten, der Datenverarbeitung und der Toolverwendung. Foundry ordnet Ihre Antworten relevanten Risikokategorien zu und wendet gezielte Steuerelemente an den richtigen Interventionspunkten an: Benutzereingabe, Toolaufrufe, Toolantworten und Ausgabe.

Jeder Agent ist gezielt für ein bestimmtes Szenario entwickelt, daher sollten die Leitplanken entsprechend zugeschnitten werden und nicht als ein einheitlicher Standard angewendet werden. Die geführte Einrichtung stellt sicher, dass Schutzmaßnahmen dort greifen, wo sie benötigt werden, und dass der Agent sowohl sicher als auch nutzbar bleibt. Folgen Sie diesem Link, um weitere Informationen zu Guardrails-Konzepten zu finden.

Voraussetzungen

• Ein aktiver Agent in Microsoft Foundry. Um einen zu erstellen, siehe Schnellstart: Erstellen eines Prompt-Agents.

Geführte Leitlinieneinrichtung öffnen

1. Öffnen Sie in Microsoft Foundry ein Projekt.
2. Navigieren Sie zur Registerkarte " Erstellen " in der oberen Leiste. Wählen Sie im linken Navigationsbereich "Agents" und dann den Agent aus, den Sie konfigurieren möchten.
3. Erweitern Sie auf der Detailseite des Agents den Abschnitt „Leitlinien“ im linken Bereich des Agent-Playgrounds.
4. Wählen Sie Leitplanke verwalten und dann Einrichtung geführter Leitplanken aus, um die geführte Konfiguration zu beginnen.

Angeben, für wen der Agent vorgesehen ist

Die erste Gruppe von Fragen ermittelt, wer den Agenten verwendet und welches Vertrauensniveau den entsprechenden Eingaben entgegengebracht werden soll.

1. Wählen Sie für Wer wird diesen Agenten verwenden? aus, ob der Agent von öffentlichen Nutzern oder internen Teams verwendet wird. Dazu gehören:
   • Öffentliche Nutzer: Es gelten strengere Sicherheitsfilter für Inhalte und Schutzmaßnahmen gegen Jailbreaks, da ein breiterer Zugang die Gefährdung durch unerwartete oder gezielt manipulative Eingaben erhöht.
   • Interne Teams: Wendet leichtere Steuerelemente an, die für vertrauenswürdige, authentifizierte Benutzer geeignet sind.
2. Klicken Sie auf Weiter, um fortzufahren.

Definieren der Eingabe- und Datenverarbeitung

Die zweite Gruppe von Fragen bestimmt, wie der Agent Informationen empfängt und welche Daten verarbeitet werden. Externe oder nicht vertrauenswürdige Eingaben erhöhen das Risiko einer Prompt-Injection. Vertrauliche Daten erhöhen das Risiko einer unbeabsichtigten Exposition.

1. Wählen Sie für Woher erhält der Agent Eingaben? alle zutreffenden Quellen aus – zum Beispiel Nutzernachrichten, hochgeladene Dateien oder externe APIs.
2. Wählen Sie für "Zugriff, Verarbeitung oder Rückgabe vertraulicher Daten" für den Agent"Ja " oder "Nein" aus.
   • Wenn ja, wählen Sie aus, ob die Daten personenbezogene Informationen (PII) enthalten. Wenn Sie "Ja " auswählen, werden Die Steuerelemente für die PII-Erkennung und den Datenschutz aktiviert.
3. Klicken Sie auf Weiter, um fortzufahren.

Konfigurieren der Tool- und Aktionsverwendung

Der dritte Satz von Fragen umfasst die Toolintegrationen und Aktionsfunktionen des Agents. Die Verwendung von Tools und realen Aktionen führen zu zusätzlichen Risiken, die gezielte Kontrollen erfordern.

1. Wählen Sie "Ja" oder "Nein" aus, wenn der Agent externe Tools aufruft.
   • Falls ja, ermöglicht Foundry das Überprüfen und Hervorheben von Toolantworten, um vor Prompt-Injection-Angriffen durch Toolausgaben zu schützen.
2. Kann der Agent echte oder Folgeaktionen ausführen? (z. B. E-Mails senden, Datensätze ändern oder externe Dienste anrufen), wählen Sie "Ja" oder "Nein" aus.
   • Wenn ja, werden Steuerelemente zur Einhaltung von Aufgaben und die Aktionsüberprüfung hinzugefügt, um das Risiko falsch ausgerichteter oder unbeabsichtigter Aktionen zu verringern.
3. Wählen Sie für Generiert, ändert oder führt der Agent Code aus?Ja oder Nein aus.
   • Wenn ja, sind geschützte Materialerkennungs- und Codesicherheitskontrollen aktiviert.
4. Wählen Sie "Weiter" aus, um Ihre Empfehlungen zu überprüfen.

Überprüfen und Anwenden von Guardrail-Empfehlungen

Die Gießerei zeigt eine Zusammenfassung der empfohlenen Schutzschienen basierend auf Ihren Antworten zusammen mit den Interventionspunkten an, an denen jedes Steuerelement angewendet wird.

1. Überprüfen Sie die empfohlenen Steuerelemente. Um eine Empfehlung anzupassen, wählen Sie "Bearbeiten " neben dem Steuerelement aus, und ändern Sie die Konfiguration.
2. Wenn Sie mit der Konfiguration zufrieden sind, wählen Sie "Schutzläufe erstellen" aus.
3. Bestätigen Sie die Änderungen, wenn Sie dazu aufgefordert werden.

Die Schutzschienen sind jetzt für Ihren Agenten aktiv. Sie können jederzeit zur Registerkarte "Guardrails " zurückkehren, um die Konfiguration zu aktualisieren, während sich das Szenario Ihres Agents weiterentwickelt.

Nächster Schritt