Überlegungen für mehrinstanzenfähige agentische Systeme

Agents sind KI-basierte Anwendungen, die ein Sprachmodell verwenden, um das Ziel eines Benutzers zu ermitteln, Aktionen im Namen des Benutzers auszuführen, indem Sie Tools aufrufen, auf den Zustand zugreifen und speichern und ihr Verhalten basierend auf den Ergebnissen anpassen. In einer Multi-Tenant-Umgebung müssen Agenten sorgfältig berücksichtigt werden. Wenn Sie nicht vorsichtig sind, verwenden diese möglicherweise Tools außerhalb der Mandantengrenze und greifen auf Daten auf eine Weise zu, durch die mandantenspezifische Daten unbeabsichtigt offengelegt werden.

In diesem Artikel werden einige der wichtigsten Bereiche beschrieben, die beim Entwerfen eines mehrinstanzenfähigen agentischen Systems berücksichtigt werden müssen, insbesondere im Hinblick auf die Mandantenisolation. Es handelt sich nicht um einen Entwurfsleitfaden, sondern um Überlegungen und Garantien für die Überprüfung während des Entwurfsprozesses und vor Abschluss und Freigabe eines agentischen Multitenantsystems.

Was sind Agents?

Ein Agent ist eine Anwendung, die eine iterative Reasoning-and-Action-Schleife ausführt. Der Benutzer bietet ein Ziel, das der Agent dann versucht, durch eine Kombination von Techniken zu erreichen:

  • KI-modellbasiertes Denken. Interpretiert die Ziele und Aussagen des Benutzers, entscheidet über die nächsten Aktionen und plant, wie das Gesamtziel erreicht wird.
  • Toolaufruf. Ruft Informationen aus Systemen wie Datenbanken ab, ruft Aktionen in anderen Systemen auf und generiert Inhalte oder Antworten.
  • Ausgaben beobachten. Interpretiert die Ausgaben von Tools und Begründungsschritten, vergleicht sie mit dem Ziel und plant die nächsten Schritte.
  • Wiederholen, bis eine Endbedingung erfüllt ist. Typische Endbedingungen sind:
    • Wenn der Agent zufrieden ist, dass sein Ziel erreicht wird.
    • Wenn der Agent mehr Eingaben vom Benutzer erfordert, um den Vorgang fortzusetzen.
    • Wenn die Anwendung ein vordefiniertes Limit für Gesprächsrunden, die Token-Nutzung, die verstrichene Zeit oder eine andere Ressource erreicht.

Mehrinstanzenfähigkeit und Agents

Wenn Sie Agenten in einer mandantenfähigen Lösung entwerfen, sollten Sie auf Stellen achten, an denen der Agent möglicherweise mit mandantenspezifischen Daten arbeitet oder auf andere Weise einen aktiven Mandantenkontext benötigt. Wenn Sie nicht vorsichtig sind, könnten Mandantendaten und Nutzungsdaten offengelegt werden oder sich überschneiden. Das folgende Diagramm zeigt mehrere Orte, an denen das Risiko von Mandantendatenlecks besonders hoch ist:

Diagramm von fünf Risiken bei Mandantenkontextverlusten über die Identitäts- und Agentschleife eines mehrinstanzenfähigen Agents, Toolaufrufe, Übergaben und Datenabrufe hinweg.

  1. Agentidentität: Die Identität eines mehrinstanzenfähigen Agents verfügt in der Regel über Berechtigungen für die Arbeit über mehrere Mandanten hinweg, versteht aber nicht inhärent den Mandantenkontext. Erzwingen Sie Grenzen im deterministischen Code, nicht in der Identität.

  2. Modellverhalten und Entscheidungen: Das Modellverhalten ist inhärent unvorhersehbar, und Sie können sich nicht darauf verlassen, dass das Modell Mandanten- oder Benutzerkontext verteilt, auch wenn sich das Modell bei Tests scheinbar ordnungsgemäß verhält. Wie bei anderen sicherheitskritischen Vorgängen legen und verteilen Sie die Mandanten-ID nur im deterministischen Code.

  3. Toolaufrufe: Wenn der Agent Mandantenkontext an Tools übergibt, fungiert ein Toolgateway (in diesem Fall Azure API Management) als Gatekeeper und kann konfiguriert werden, um sicherzustellen, dass der Kontext an jedes Tool in manipulationssicheren Token übergeben wird.

  4. Subagent-Aufruf und Agentenübergabe: Wenn Ihr Agent einen anderen Agent aufruft oder aushändigt, verwenden Sie deterministische Logik, um den Mandanten- und Benutzerkontext zwischen den Agents zu übergeben, und überprüfen Sie jeden Übergang von einzelmandanten zu multitenant oder umgekehrt.

  5. Datenspeicher: Stellen Sie sicher, dass jeder Datenspeicher die Mandantenisolation erzwingt, bevor der Agent Daten oder Kenntnisse liest oder schreibt.

Im restlichen Artikel werden diese Risiken und Risikominderungen ausführlicher beschrieben.

Agentplattformen

Da Agents Anwendungen sind, können Sie sie vollständig selbst erstellen und als normale Anwendungen hosten. Dieser Ansatz bietet Flexibilität, erfordert jedoch, dass Sie für eine Reihe von Bedenken verantwortlich sind, von denen viele nicht für Ihre Anwendungslogik spezifisch sind.

Agents neigen dazu, ähnliche Zuständigkeiten und Anforderungen zu haben, daher ist es üblich, ein Agent-Framework oder eine Agent-Plattform zu verwenden. Agent-Frameworks und -Plattformen behandeln einige der Verantwortlichkeiten, sodass Sie sich auf das Geschäftsproblem konzentrieren können, das Ihr Agent behandeln soll.

Agentframeworks sind SDKs, die Agentanwendungen erstellen. Das Framework bietet ein vordefiniertes Verhalten.

Gehostete Plattformen wie Foundry Agent Service tragen dazu bei, die Bereitstellung Ihrer Agents zu beschleunigen, den Umfang der Standardlogik, die Sie schreiben müssen, zu minimieren und Ihren Aufwand für Datenspeicherung und -verwaltung zu verringern. Sie müssen jedoch überprüfen, ob die Plattform Ihnen die steuerungsstufe bietet, die Sie benötigen. Viele handelsübliche Agenten-Plattformen sind nicht auf Mehrinstanzenfähigkeit ausgelegt. Sie müssen sie auswerten, um zu verstehen, ob Sie Ihre Anforderungen erfüllen können, einschließlich der Erfüllung gesetzlicher oder Complianceanforderungen.

Bereitstellungsansätze für Agenten

Es gibt zwei allgemeine Bereitstellungsansätze für Agents in einer Mehrinstanzenlösung:

  • Multitenant-Agents. Ein Mehrinstanzen-Agent wird als einzelne Anwendung mit einem einzelnen Endpunkt bereitgestellt, mit dem Benutzer aus mehreren Mandanten interagieren.

    Ein mehrinstanzenbasierter Agent muss mandantenbewusst sein. Wenn Sie geeignete Leitplanken konfigurieren, kann es mit Daten und Tools eines einzelnen Mandanten arbeiten. Erzwingen Sie Leitplanken deterministisch an wichtigen Schnittstellen, einschließlich Übergaben zwischen Agenten und beim Aufruf von Tools.

    Multitenant-Agents sind in der Regel relativ einfach bereitzustellen, sind aber aufgrund der erforderlichen Mandantenisolation schwieriger zu implementieren. Abhängig von der von Ihnen verwendeten Agentplattform haben Sie möglicherweise oder nicht die Kontrolle über die Isolation für bestimmte Aspekte, z. B. Toolaufrufe und -zustand.

  • Einzelmandanten-Agenten. Ein Single-Tenant-Agent ist auf einen einzelnen Mandanten spezialisiert. Möglicherweise erhält er einen breiten Zugriff auf die Daten oder Tools dieses bestimmten Mandanten. Die Konfiguration von Mandanten-Schutzmaßnahmen in einem Einzelmandant-Agent kann unkompliziert sein, weil sie direkt in die Konfiguration des Agenten eingebettet werden können, anstatt eine bedingte Logik zu implementieren.

    Single-Tenant-Agenten führen jedoch bei der Skalierung zu operativer Komplexität. Sie müssen eine separate Agentinstanz für jeden Mandanten definieren, bereitstellen, versionieren und verwalten. Wenn Sie gehostete Agent-Plattformen verwenden, benötigen Sie eine Strategie zum effizienten Erstellen, Aktualisieren und Verwalten mandantenspezifischer Bereitstellungen.

In einer Multitenant-Lösung ist es üblich, sowohl mandantenfähige als auch Einzelmandanten-Agenten zu verwenden. Beispielsweise kann ein Multitenant-Agent Fragen zu Mandantendaten beantworten, die in Ihrem System gespeichert sind, während Einzelmandanten-Agents in die Back-End-Systeme jedes Mandanten integriert werden.

Mandantenspezifische Konfiguration

Multitenant-Lösungen ermöglichen Mandanten häufig das Anpassen des Agentverhaltens, um ihre Geschäfts-, Compliance- und Betrieblichen Anforderungen zu erfüllen. Behandeln Sie mandantenspezifische Konfiguration als mandantenbezogene Daten. Wenden Sie dieselben Isolations-, Autorisierungs- und Lebenszyklusverwaltungskontrollen an, die Sie für andere Mandantendaten verwenden.

Die folgende Liste bietet gängige Beispiele für Bereiche, in denen die mandantenspezifische Konfiguration verwendet wird. Überlegen Sie, ob Mandanten für jedes dieser Elemente möglicherweise unterschiedliche Anforderungen haben:

  • Aktivierte Tools und Integrationen, einschließlich externer APIs, MCP-Server (Model Context Protocol) und Agent2Agent (A2A)-Endpunkte
  • Modellauswahl- oder Modellparameter
  • Wissensquellen und Abrufeinstellungen
  • Speicheraufbewahrungsrichtlinien
  • Genehmigungsworkflows für vertrauliche Aktionen
  • Experimentelle Features aktiviert

Überprüfen Sie diese Konfiguration, bevor Sie Tools oder Agents verfügbar machen, und lassen Sie das Modell nicht zu, Konfiguration, Endpunkte, Anmeldeinformationen oder Mandantenkontext auszuwählen oder zu ändern.

Vermeiden Sie, dass die Konfigurationsentscheidungen eines Mandanten das Nutzererlebnis eines anderen Mandanten beeinflussen. Stellen Sie beispielsweise sicher, dass Featurekennzeichnungen, Toolberechtigungen und Abrufeinstellungen im Kontext des aktuellen Mandanten ausgewertet werden.

Wenn die Konfiguration den Datenzugriff, Autorisierungsentscheidungen oder die Ausführung von Tools beeinflusst, erzwingen Sie die Konfiguration durch deterministische Steuerelemente, anstatt auf Eingabeaufforderungen oder Agentanweisungen zu vertrauen.

Identity

Agents können im Auftrag von Benutzern autonom oder halbautonativ funktionieren. Berücksichtigen Sie die Identität, die sie für den Zugriff auf Daten und Systeme verwenden, einschließlich Anmeldeinformationen und Autorisierung. Die beiden gängigen Ansätze sind Agentidentitäten und delegierter Zugriff.

  • Identität des Agenten: Der Agent verfügt über eine eigene, unabhängige Identität, der Sie Berechtigungen für Daten oder Systeme getrennt von Benutzeridentitäten erteilen.

    Verwenden Sie nach Möglichkeit Identitätsmodelle, die speziell für Agents entwickelt wurden. Bevorzugen Sie verwaltete oder Verbundidentitäten anstelle von langlebigen Anmeldeinformationen. Die Verringerung der Anforderungen an die Verwaltung von Anmeldeinformationen kann die Sicherheit verbessern und die Betriebliche Einfachheit erhöhen.

    Wenn Sie eine Agent-Identität mit einem mandantenfähigen Agent verwenden, gestalten Sie den gesamten Anforderungsablauf so, dass Mandanten isoliert bleiben. Eine Agentidentität legt fest, wer der Agent ist und auf welche Ressourcen sie zugreifen kann, bestimmt jedoch nicht, auf welche Mandantendaten der Agent zugreifen darf. Den Mandantenkontext im gesamten Anfragefluss durch deterministischen Code weitergeben und durchsetzen, anstatt sich auf die Identität selbst zu verlassen.

    Bevorzugen Sie Designs, die den Umfang der Berechtigungen verringern, die jeder einzelnen Agent-Identität gewährt werden. Kleinere Berechtigungsgrenzen können dazu beitragen, die Auswirkungen von Autorisierungsfehlern oder Konfigurationsfehlern zu begrenzen.

    Caution

    Eine Agentidentität verfügt möglicherweise über Berechtigungen für mehrere Mandanten oder Mandantenressourcen, sodass sie ihre Arbeit erledigen kann. Sie sind dafür verantwortlich, sicherzustellen, dass diese Berechtigungen kein Überschreiten von Mandantengrenzen ermöglichen.

    Erwägen Sie in Azure, Microsoft Entra Agentidentitäten zum Authentifizieren eines Agents zu verwenden.

  • Delegierung: Der Agent verwendet ein delegiertes Zugriffstoken, um downstreame APIs oder andere Systeme im Namen des Benutzers aufzurufen. Der Agent kann auf Daten und Systeme zugreifen, auf die der Benutzer Zugriff hat.

    Der OAuth-Fluss im Auftrag von (OBO) ist ein Beispiel für ein delegiertes Autorisierungsmodell. In anderen Delegierungsmodellen kann der Benutzer den Agent möglicherweise auf eine Teilmenge der Berechtigungen oder Daten des Benutzers beschränken.

    Dieser Identitätstyp hilft bei der Durchsetzung von Mandanten- und Benutzerzugriffskontrollen. Die Autorisierung kann vereinfacht werden, da der Mandantenkontext und die Berechtigungen des Benutzers für nachgeschaltete Systeme verfügbar sind. Die Mandantenisolierung sollte jedoch weiterhin durch explizite Autorisierung und mandantenbezogene Zugriffskontrollen für Ressourcen durchgesetzt werden.

    Erwägen Sie für die delegierte Autorisierung die Verwendung von Microsoft Entra Agentidentitäten mit dem OBO-OAuth-Fluss in Azure.

Important

Wenden Sie das Prinzip der geringsten Rechte unabhängig vom von Ihnen gewählten Identitätsmodell an. Erteilen Sie Agents nur die Berechtigungen, die zum Ausführen ihrer Aufgabe erforderlich sind, und bevorzugen Sie delegierte Autorisierungsmodelle, wenn der Zugriff durch die Berechtigungen eines Benutzers eingeschränkt werden soll.

Auswählen eines Identitätsmodells

Agentische Systeme umfassen häufig mehrere Identitäten innerhalb eines einzelnen Anforderungsflusses:

  • Benutzeridentität. Der Benutzer, der die Anforderung initiiert hat.
  • Delegierte Identität. Die berechtigungen, die im Namen des Benutzers gewährt werden, z. B. durch OAuth-Delegierung oder OBO-Flüsse.
  • Agentidentität. Die Workload-Identität, die vom Agenten selbst verwendet wird.

Diese Identitäten können innerhalb desselben Workflows koexistieren und verschiedenen Zwecken dienen.

Wählen Sie das Identitätsmodell basierend darauf aus, wer letztendlich berechtigt ist, die Aktion auszuführen.

Szenario Empfohlenes Autorisierungsmodell
Zugriff auf benutzerspezifische Mandantendaten Delegierte Autorisierung (z. B. OBO)
Ausführen von Aktionen, die die Berechtigungen des Benutzers erfordern Delegierte Autorisierung
Asynchrone oder Hintergrundverarbeitung, die die Benutzerautorisierung beibehält Delegierte Autorisierung, wenn der Fluss und die Ressource sie unterstützen
Hintergrund- oder geplante Verarbeitung, die von der Anwendung autorisiert wurde Agentidentität
Infrastrukturvorgänge Agentidentität
Gemischte Workflows Kombination aus delegierten und Agentidentitäten

Die Agentidentitäts- und Delegierungsansätze können in verschiedenen Teilen einer Lösung verwendet werden. Beispielsweise kann ein Agent mithilfe der Identität des Benutzers auf Mandantendokumente zugreifen, aber seine eigene Identität verwenden, um den Workflowstatus zu speichern oder Telemetrie auszustrahlen.

Sie sollten Autorisierungsentscheidungen erzwingen, indem Sie expliziten Mandantenkontext verwenden, anstatt den Mandanten basierend auf dem verwendeten Identitätstyp anzunehmen. Für den vom Benutzer autorisierten Zugriff auf Mandantendaten bevorzugen Sie delegierte Autorisierungsmodelle wie OAuth-Delegierung oder OBO-Flüsse, anstatt breiten Zugriff auf die eigene Identität des Agents zu gewähren.

Identitätsisolationsstrategie

Nachdem Sie ein Autorisierungsmodell ausgewählt haben, wählen Sie eine Identitätsarchitektur aus, die ihren Isolations- und Betriebsanforderungen entspricht. Verschiedene Mehrinstanzenarchitekturen verwenden unterschiedliche Identitätsisolationsmodelle. Einige Systeme verwenden eine gemeinsame Multitenant-Agent-Identität und verlassen sich auf autorisierungs- und Ressourcenpartitionierung. Andere verwenden mandantenbezogene Identitäten oder dedizierte Bereitstellungen, um die Isolation zu verbessern. Diese Ansätze können die Isolation verbessern, führen jedoch häufig zu einer zusätzlichen betrieblichen Komplexität.

Berücksichtigen Sie die folgenden Isolationsstrategien:

Identitätsarchitektur Merkmale Benefits Tradeoffs
Gemeinsame Multitenant-Agent-Identität Eine einzelne Identität wird von mehreren Mandanten verwendet. Einfachere Vorgänge und geringerer Verwaltungsaufwand Starke Autorisierungs- und Mandantenisolationskontrollen sind erforderlich.
Mandantenbezogene Agentidentitäten Separate Identität pro Mandant Reduziert den Auswirkungsbereich von Autorisierungs- oder Konfigurationsfehlern. Höhere Betriebskomplexität, da es mehr Identitäten gibt, die verwaltet werden müssen
Dedizierte Mandantenbereitstellungen Agent und Ressourcen separat pro Mandant bereitgestellt Starke Isolations- und Complianceunterstützung Höhere Bereitstellungs- und Betriebskosten
Delegierte Autorisierung (z. B. OBO) Agent fungiert mithilfe von benutzerautorisierten Berechtigungen Richtet den Zugriff mit Benutzerberechtigungen und Mandantenkontext aus. Nicht geeignet für Hintergrund- oder autonome Vorgänge, die außerhalb eines Benutzerkontexts ausgeführt werden
Hybridansatz Kombiniert delegierte und Agentidentitäten Flexibilität in verschiedenen Workloads Höhere Designkomplexität

Für alle multitenant-agentischen Systeme ist keine einzelne Identitätsarchitektur geeignet. Mit steigenden Isolationsanforderungen wechseln viele Lösungen von gemeinsam genutzten mandantenübergreifenden Identitäten zu mandantenbezogenen Identitäten oder dedizierten Bereitstellungen. Diese Ansätze können die Auswirkungen von Autorisierungsfehlern oder Konfigurationsfehlern verringern, aber sie erhöhen im Allgemeinen die Betriebskomplexität.

Berechtigungsverwaltung

Mehrinstanzenfähige Agentsysteme können eine komplexe Berechtigungsmatrix erstellen, insbesondere wenn Sie mehrere Agents bereitstellen oder eine Reihe mandantenspezifischer Agentidentitäten verwenden. Jeder Agent benötigt möglicherweise Zugriff auf verschiedene Tools und Ressourcen, und diese Berechtigungen müssen für jeden Mandanten separat erteilt werden.

Um diese Komplexität zu verwalten, befolgen Sie die folgenden Richtlinien:

  • Berücksichtigen Sie die Betriebskosten mandantenspezifischer Bereitstellungen. Wenn Sie eine Agentinstanz für jeden Mandanten bereitstellen, stellen Sie auch eine Reihe von Anmeldeinformationen oder Identitäten pro Mandant bereit. Berücksichtigen Sie diesen Betriebsaufwand in Ihre Bereitstellungsstrategie.

  • Zentralisieren Sie die Berechtigungsverwaltung. Verwenden Sie ein Toolgateway oder Identitätsanbieter, um Berechtigungen an einem Ort zu definieren und zu erzwingen, anstatt Berechtigungen über mehrere Ressourcen und Systeme hinweg zu verteilen.

  • Regelmäßiges Überwachen und Überprüfen von Berechtigungen. Mit wachsender Anzahl von Agenten und Mandanten können Berechtigungen leicht nicht mehr abgestimmt oder zu weit gefasst sein. Implementieren Sie regelmäßige Überprüfungen, um Berechtigungsabweichungen zu erkennen und zu beheben.

Prompt-Injection und Eingabevalidierung

Agents verwenden häufig vom Benutzer bereitgestellte Eingaben, um Tools auszuwählen, Informationen abzurufen und Aktionen auszuführen. In einer mehrinstanzenfähigen Lösung können böswillige oder versehentliche Eingabeaufforderungen versuchen, auf Daten zuzugreifen, die zu einem anderen Mandanten gehören. Ebenso können alle Inhalte, die einem Modell als Kontext übermittelt werden, potenziell Versuche enthalten, Mandantengrenzen zu überschreiten, einschließlich der Ergebnisse von Tool-Aufrufen, Speicher und Dokumenten, die als Grounding-Quellen verwendet werden.

Behandeln Sie Aufforderungen als nicht vertrauenswürdige Eingabe. Überprüfen Sie alle Anforderungen, die den Datenzugriff, den Abruf, den Toolaufruf oder die Aktionsausführung beeinflussen, bevor Sie den Vorgang ausführen. Verwenden Sie Eingabeaufforderungsschilde in der Inhaltssicherheit, und entwerfen Sie auch Ihre allgemeine Architektur, um sicherzustellen, dass Agents nicht auf Systeme oder Daten zugreifen können, die sie nicht benötigen.

Important

Verlassen Sie sich nicht auf Eingabeaufforderungen, Systemanweisungen oder Modellverhalten, um die Mandantenisolation zu erzwingen. Sie sind keine Sicherheitsgrenzen. Erzwingen Sie stattdessen Mandantengrenzen durch mandantenspezifische Identitäten, deterministische Autorisierungsrichtlinien, die Partitionierung von Ressourcen und Zugriffskontrollen auf Werkzeugebene.

Toolaufrufe

Tools sind in der Regel APIs, Befehlszeilenanwendungen oder andere strukturierte Schnittstellen, die Zugriff auf die Daten oder Funktionen eines anderen Systems bieten. Viele Tools werden implementiert, um deterministisch zu sein, und Sie können sie isoliert von den Agents testen, die sie verwenden. Sie können sie auch in anderen Anwendungen neben Agents verwenden.

In einer Mehrinstanzenumgebung verfügen Sie möglicherweise über einen oder beide der folgenden Tools:

  • Mandantenspezifische Tools: Einige Tools sind spezifisch für einen einzelnen Mandanten oder eine Teilmenge von Mandanten. Ein mehrinstanzenfähiges Finanzverarbeitungssystem kann z. B. ein mandantenspezifisches Tool verwenden, um Rechnungen im Namen dieses Mandanten zu generieren und zu senden. Es ist wichtig, dass die Verfügbarkeit des Tools auf den Kontext des aktuellen Mandanten beschränkt ist. Ein Agent sollte nur in der Lage sein, Tools zu ermitteln und aufzurufen, die für den aktuellen Mandanten autorisiert sind.

  • Gemeinsam genutzte Tools: Andere Tools werden mandantenübergreifend genutzt, erfordern aber über den gesamten Anfrageablauf hinweg einen gültigen Mandantenkontext. Zum Beispiel kann ein Dokumentsuchtool eine gemeinsame Wissensdatenbank durchsuchen, jedoch nach Mandanten filtern.

    Ihr Agent muss sicherstellen, dass der entsprechende Mandantenkontext bereitgestellt wird. Der Mandantenkontext sollte aus einem vertrauenswürdigen Anwendungszustand oder aus Sicherheitstoken abgeleitet werden und nicht aus modellgenerierten Inhalten. Sie können Kontext über Token ableiten, die Mandantenidentifikationsansprüche enthalten können. Oder Sie könnten eine andere Möglichkeit haben, eine Mandantenkennung über die Prozesse zum Aufrufen von Tools einzuschleusen. Überprüfen Sie, ob diese Prozesse sicher und manipulationssicher sind. Das Übergeben einer Mandanten-ID über eine Abfragezeichenfolge ist beispielsweise ein Sicherheitsrisiko, wenn Ihr Agent auf clientseitiger Anwendungslogik basiert, um Tools aufzurufen.

Werkzeugentdeckung

Die Tool-Erkennung ist der Prozess, durch den Ihre Anwendung dem Agenten mitteilt, welche Tools sie aufrufen kann. Die Toolermittlung führt Überlegungen zur Mehrinstanzenfähigkeit ein, da die Gruppe der verfügbaren Tools zu mandantenspezifischen Daten wird. Ähnliche Überlegungen gelten für die dynamische Agentenerkennung, die ebenfalls mandantenbezogenen Autorisierungskontrollen unterliegen sollte.

Ein Mandant sollte nur in der Lage sein, Tools zu ermitteln, die für diesen Mandanten verfügbar sind. Auch wenn der Aufruf später blockiert wird, kann das Verfügbarmachen von Toolmetadaten Informationen zu anderen Mandanten, Diensten oder Geschäftsprozessen anzeigen.

MCP-Server sind eine Möglichkeit, Tools und externe Datenquellen für Agents verfügbar zu machen. Wenn Mandanten MCP-Serververbindungen bereitstellen, behandeln Sie diese Verbindungen, ihre Authentifizierungskonfiguration und die Tools, die sie als mandantenweite Konfiguration bewerben. Lassen Sie nur genehmigte MCP-Server und -Tools für den aktuellen Mandanten zu.

Behandeln Sie Toolbeschreibungen, Anmerkungen und Ergebnisse von Remote-MCP-Servern als nicht vertrauenswürdige Eingaben. Die von externen Systemen bereitgestellten Toolmetadaten werden Teil des Kontexts des Modells und können das Modellverhalten beeinflussen. Überprüfen und steuern Sie Toolmetadaten auf die gleiche Weise wie jede andere Modelleingabe.

Tool-Gateways

Erwägen Sie die Verwendung eines Toolgateways wie Azure API Management als zentrale Abstraktionsebene vor einer Reihe von Tools. Tool-Gateways können als Kontrollinstanz fungieren, Governance- und Compliance-Vorgaben durchsetzen und überprüfen, ob der Mandantenkontext an jedes Tool übergeben wird, das diesen benötigt. Sie können auch Zugriffsrichtlinien erzwingen und eine eingeschränkte Funktionalität bereitstellen, die für agentische Anwendungen mit hoher Skalierung hilfreich ist.

Erwägen Sie den Einsatz eines zentralen Tool-Gateways, um:

  • Einschränken, welche Tools für jeden Mandanten auffindbar sind, und aktivieren oder deaktivieren Sie MCP-Serververbindungen für jeden Mandanten.
  • Erzwingen Sie die Autorisierung vor dem Toolaufruf.
  • Überprüfen Sie die Toolmetadaten, bevor sie für das Modell verfügbar gemacht wird.
  • Überwachen sie die Such- und Nutzungsaktivitäten des Tools.

Clientseitige und serverseitige Toolaufrufe

Wenn ein Agent ein Tool aufruft, wirkt sich das Ausführungsmodell auf ihre Fähigkeit aus, den Mandantenkontext zu erzwingen. Beim aufrufen von clientseitigen Tools ist Ihr Code für die Ausführung des Tools verantwortlich und kann den Mandantenkontext vor jedem Aufruf deterministisch einfügen. Überprüfen Sie bei serverseitigen Tools, ob die Plattform- oder Agentanwendung vertrauenswürdigen Mandantenkontext und mandantenbezogene Anmeldeinformationen oder Konfigurationen an jeden Aufruf weitergeben kann. Wenn dies nicht möglich ist, verwenden Sie dedizierte Container oder separate Toolkonfigurationen für jeden Mandanten. Unabhängig davon, welches Ausführungsmodell Sie verwenden, stellen Sie sicher, dass Ihre Tools und das Design Ihres Agenten gemeinsam die Mandantengrenzen durchsetzen. Die spezifischen Mechanismen hängen von Ihrem Agent-Framework oder Ihrer Plattform ab.

Bewerten Sie Autorisierungsentscheidungen jedes Mal, wenn ein Tool aufgerufen wird. Führen Sie die Autorisierung nicht von früheren Schritten im Workflow ab.

Caution

Verlassen Sie sich niemals auf das Modell, um einen Mandanten- oder Benutzerkontext zu verteilen, oder gehen Sie davon aus, dass das Modell dies tun wird. Das Modellverhalten ist inhärent unvorhersehbar, auch bei klaren Eingabeaufforderungen. Deterministischer Code sollte die Mandantenkontextverwaltung behandeln. Vermeiden Sie Situationen, in denen die Mandanten-ID vom Modell festgelegt oder geändert werden kann.

Zugreifen auf freigegebene Ressourcen

Wenn Sie mandantenspezifische Agents bereitstellen, benötigen Sie diese Agents möglicherweise weiterhin für den Zugriff auf freigegebene Ressourcen wie eine freigegebene Datenbank oder Wissensbasis über Tools. In diesem Szenario haben Sie mehrere Optionen, aus denen Sie wählen können, basierend auf Ihren Complianceanforderungen und Ihrem Betriebsmodell:

  • Einheitliche Agent-Identität mit mandantenbewussten Tools. Gewähren Sie der gemeinsamen Agent-Identität Zugriff auf die freigegebene Ressource und nutzen Sie Ihre Tools und Ihren deterministischen Code, um die Daten für den jeweiligen Mandanten angemessen zu filtern. Dieser Ansatz vereinfacht Berechtigungen, erfordert jedoch eine sorgfältige Implementierung, um mandantenübergreifende Datenlecks zu verhindern.

  • Mandantenspezifische Agentidentitäten mit partitionsbasiertem Zugriff. Wenn Ihre freigegebene Ressource partitionsbasierte Zugriffssteuerung unterstützt (z. B. Sicherheit auf Zeilenebene in einer Datenbank), gewähren Sie den Agent-Identitätszugriff jedes Mandanten nur auf seine Partition. Dieser Ansatz bietet eine starke Isolation, erfordert jedoch möglicherweise eine Verwaltung von Anmeldeinformationen in großem Maßstab.

  • Delegierte Autorisierung. Verwenden Sie delegierte Benutzerberechtigungen, wenn Sie im Namen eines Benutzers auf freigegebene Ressourcen zugreifen. Dieser Ansatz kann die Notwendigkeit umfassender Berechtigungen für die Agentidentität verringern und die Zugriffssteuerung mit den vorhandenen Berechtigungen des Benutzers ausrichten.

Sicherheit und Governance

Bei Risikoaktionen sollten Sie vor der Toolausführung Genehmigungsworkflows einführen. Beispiele hierfür sind Finanztransaktionen, Administrative Vorgänge, Änderungen am Kundendatensatz oder Aktionen, die sich auf externe Systeme auswirken. Workflows mit menschlicher Freigabe können dazu beitragen, die Auswirkungen von Prompt-Injection-Angriffen, Autorisierungsfehlern und unbeabsichtigtem Modellverhalten zu verringern. Genehmigungen ersetzen keine deterministischen Mandantenautorisierungsprüfungen. Beide Prüfungen sollten durchgeführt werden.

Zustand, Arbeitsspeicher und Persistenz

Agents arbeiten mit mehreren Statustypen. Jeder dieser Zustandstypen muss zwischen Mandanten voneinander isoliert werden:

Datentyp Beispiele Grund für die Mandantenisolation
Gesprächsaufzeichnungen Sitzungsmetadaten, Transkriptionen von Unterhaltungen zwischen dem Benutzer und dem Agent, Dateien, die der Benutzer hochgeladen hat, und Details zu den Aktivitäten des Agents während der Unterhaltung, einschließlich Toolanrufe, Begründung und Übergabenotizen. Könnte versehentlich mandantenspezifische Daten speichern. Die Fragen oder Anfragen von Mietern können sich auf proprietäre Daten beziehen.
Gedächtnis Benutzerprofildaten, Unterhaltungszusammenfassungen, gelernte Verfahren und andere Kenntnisse, die über Unterhaltungen hinweg aufbewahrt werden. Der Speicher speichert benutzerspezifische Fakten, die nicht für andere Benutzer oder Mandanten freigegeben werden sollten, z. B. Fragen zu Kunden oder Finanzdaten eines Mandanten.

Vermeiden Sie Speicherübergriffe, bei denen Speicher aufgrund unzureichender Isolation zwischen Mandanten gemeinsam genutzt wird. Überprüfen Sie, ob der Speicher auf eine Benutzer-, Unterhaltungs-, Mandanten- oder Agentinstanz festgelegt ist, und stellen Sie sicher, dass der Bereich ihren Isolationsanforderungen entspricht.
Generierte Artefakte Dokumente oder andere Vom Agent generierte Elemente, entweder als Endergebnis der Unterhaltung oder als Zwischenergebnisse während der Unterhaltung. Artefakte, die der Agent generiert, enthalten wahrscheinlich proprietäre Informationen, die datenverwaltungsrichtlinien unterliegen könnten. Zusätzlich dazu, dass Mandantendaten getrennt bleiben, muss der Agent möglicherweise Datensensitivitätsbezeichnungen basierend auf den Regeln des Mandanten anwenden. Wenn ein Agent vertrauliche Dokumente einnimmt, sollten alle nachgeschalteten Artefakte und Übergaben die höchste Vertraulichkeitsklassifizierung von den Quelldokumenten erben.

Bewerten Sie jeden vom Agent verwendeten Datenspeicher, und stellen Sie sicher, dass er Ihre Mandantenisolationsanforderungen erfüllt. Wenn Sie einen gehosteten Dienst verwenden, kann er die Details abstrahieren, wie einige seiner Daten gespeichert werden. Stellen Sie sicher, dass der Dienst die für die Regionsplatzierung, logische Partitionierung, den Export, die Aufbewahrung und das Löschen erforderlichen Steuerelemente bereitstellt, die der Mandant benötigt. Wählen Sie andernfalls einen anderen Dienst aus, oder platzieren Sie den Mandanten in einer regionalen oder mandantenspezifischen Bereitstellung, die die Anforderungen erzwingen kann.

Speichern Sie nach Möglichkeit Verweise auf Mandantendaten, anstatt Mandantendaten im Agentenspeicher oder im Konversationsstatus zu duplizieren.

Eine umfassendere Anleitung zum Isolieren und Verwalten von Mandantendaten während des gesamten Lebenszyklus finden Sie unter Architekturansätze für Speicherung und Daten in mehrinstanzenfähigen Lösungen.

Subagent-Aufruf und Agentenübergabe

Es ist üblich, eine Suite von spezialisierten Agents zu erstellen, die jeweils eine bestimmte Rolle oder einen bestimmten Fokus haben. Beispielsweise kann ein Agent Zugriff auf spezielle Kenntnisse oder Daten haben, die ihnen dabei helfen, Fragen zu einem Thema zu beantworten, während ein anderer Agent für die Ergreifung von Aktionen optimiert werden kann.

Um das Ziel eines Benutzers zu erreichen, ruft ein Agent möglicherweise einen Subagent auf oder übergibt Arbeit an einen anderen Agenten:

  • Wenn ein Agent einen Subagent aufruft, delegiert der aufrufende Agent eine Aufgabe, behält jedoch die Verantwortung für die Unterhaltung und den gesamten Workflow bei.
  • In einer Übergabe wird die Verantwortung für den nächsten Teil der Interaktion an den Ziel-Agent verschoben.

Beide Muster erstellen Grenzen, bei denen Sie den Mandantenkontext beibehalten und überprüfen müssen. Einige Agenten könnten mandantenspezifisch sein, andere mandantenfähig.

Agentenerkennung

Wenn Agenten dynamisch ermittelt werden, stellen Sie sicher, dass ihre Ermittlung durch eine deterministische Autorisierungslogik gesteuert wird und nicht auf Modellschlussfolgerungen beruht. Ein Mandant sollte nur in der Lage sein, Agents zu ermitteln, die installiert, lizenziert oder explizit für diesen Mandanten verfügbar sind.

Implementieren Sie die Ermittlung über ein vertrauenswürdiges Register, einen Katalog oder eine Orchestrierungsebene, die den Mandantenkontext und die Autorisierung auswertet, bevor die verfügbaren Agenten zurückgegeben werden. Behandeln Sie Agentmetadaten als mandantenbezogene Informationen. Selbst wenn der Aufruf blockiert wird, kann die Offenlegung nicht autorisierter Agenten-Metadaten Informationen über Dienste, Funktionen oder Geschäftsprozesse preisgeben.

Agent2Agent

Das Agent2Agent (A2A)-Protokoll bietet eine standardisierte Methode für die Kommunikation von Agents. Sie können A2A verwenden, wenn Sie einen Subagent aufrufen oder andere Agent-zu-Agent-Zusammenarbeitsmuster implementieren, aber das Protokoll bestimmt nicht, ob es sich bei der Interaktion um einen Aufruf oder eine Übergabe handelt.

Überlegen Sie, ob Sie A2A-Endpunkte, Authentifizierungseinstellungen und Agentmetadaten als mandantenbezogene Daten behandeln sollten. Stellen Sie vor jedem A2A-Aufruf sicher, dass der aktuelle Mandant berechtigt ist, den Ziel-Agent zu ermitteln und aufzurufen. Wählen Sie freigegebene oder individuelle Authentifizierung basierend darauf, ob der Vorgang die Identität und Berechtigungen des Benutzers erfordert, und richten Sie den Mandanten- und Benutzerkontext über deterministische Logik erneut ein.

Hinweis

Das A2A-Protokoll enthält ein optionales tenant Feld. Dieses Feld wird für das Routing verwendet und ist keine sichere Möglichkeit, den Mandantenkontext zwischen Agents zu übergeben.

Mandantenkontext und Berechtigungen

Behandeln Sie jeden Aufruf eines Agenten und jede Übergabe als Vertrauensgrenze. Verwenden Sie deterministische Logik, um Mandanten- und Benutzerkontext aus dem vertrauenswürdigen Anwendungszustand weiterzugeben und wiederherzustellen und nicht aus modellgenerierten Inhalten, dem Gesprächsverlauf oder vorherigen Prompts. Wenn ein Ablauf zwischen Single-Tenant- und Multitenant-Agents wechselt, validieren Sie jeden Übergang und validieren Sie die Autorisierung erneut.

Benutzer oder Mandanten gewähren möglicherweise verschiedenen Agents unterschiedliche Berechtigungen. Jeder Agent sollte überprüfen, ob er über die erforderlichen Berechtigungen verfügt, um seine Aufgabe auszuführen, und nicht davon ausgehen, dass berechtigungen, die einem vorherigen Agent erteilt wurden, gültig bleiben.

Lang laufende oder asynchrone Agentaufgaben ziehen nach dem ursprünglichen Aufruf Vertrauensgrenzen nach sich. Stellen Sie sicher, dass alle Agents und ihre Aufgaben ihre Arbeit mit dem Mandantenkontext verknüpfen.

Ressourcenverwaltung

Agents können viele Ressourcen verwenden. Insbesondere können die Arten von Interaktionen mit auf Schlussfolgerungen ausgerichteten Modellen, die Agenten verwenden, große Mengen an Tokens verbrauchen. Einige Modelle und Modellplattformen beschränken die Anzahl der Token, die eine einzelne Anwendung während eines definierten Zeitraums verwenden kann. Wenn Sie den Foundry Agent Service verwenden, überprüfen Sie die Grenzwerte, Kontingente und regionale Unterstützung , wenn Sie die Kapazität planen.

Da Agents eine große Anzahl von Token verbrauchen können, können sie auf laute Nachbarnprobleme stoßen, bei denen sich die Aktivitäten eines Mandanten auf die Fähigkeit eines anderen Mandanten auswirken, das System zu verwenden. Wenn eine kleine Anzahl von Mandanten das Tokenkontingent Ihres Modells aufbraucht, können andere Mandanten Ihren Agent nicht mehr nutzen.

Befolgen Sie die folgenden Richtlinien, um die Ressourcen Ihres Agenten effektiv zu verwalten:

  • Überwachen Sie die Tokenverwendung pro Mandant. Die meisten Modelle enthalten die Tokenverwendung für jede Antwort. Speichern Sie diese Informationen, und aggregieren Sie sie, damit Sie erkennen können, ob bestimmte Mandanten oder Benutzer eine wesentlich höhere Anzahl von Token verwenden als erwartet.

  • Überwachen anderer Ressourcendimensionen. Verfolgen Sie zusätzlich zum Tokenverbrauch die Aufrufhäufigkeit von Tools, die Größe des Speichers, die Ausführungsdauer von Agenten und das Volumen von Hintergrundaufgaben. Diese Ressourcen können auch zu lauten Nachbarnproblemen beitragen.

  • Wenden Sie Governance und Kostenverwaltung an. Implementieren Sie Mechanismen zur Kontingentverwaltung, die im Noisy Neighbor antipattern beschrieben werden, z. B. mandanten- oder benutzerbezogene Ratenbegrenzungen oder verhaltensbezogene Hinweise, etwa indem Benutzer gewarnt werden, wenn ihre Nutzung ungewöhnlich hoch ist.

  • Dedizierte Kapazität bereitstellen. Wenn Sie über Mandanten mit hoher Nutzung verfügen, überlegen Sie, ob Sie diese partitionieren können, um ihre eigene dedizierte Kapazität zu verwenden, und berücksichtigen Sie dies in Ihrem Preismodell.

Observability und Überwachung

Agentische Systeme können viele Entscheidungen treffen und mehrere Tools während einer einzigen Interaktion aufrufen. Verwalten Sie in einer mehrinstanzenübergreifenden Umgebung Überwachungsdatensätze für:

  • Jede wichtige durchgeführte Operation, einschließlich der Benutzeridentität, der Mandantenkennung und der Agentenidentität, die sie ausgeführt hat.
  • Toolaufrufe.
  • Subagent-Aufruf- und Agent-Übergabevorgänge.
  • Aktionen zum Datenabruf.

Wenn Sie Microsoft Foundry verwenden, finden Sie unter Ablaufverfolgungs-Agenten Hinweise zur Erfassung und Auswertung von Ablaufverfolgung von Daten.

Caution

Traces und Auditprotokolle können sensible Daten enthalten, darunter Prompts sowie Ein- und Ausgaben von Tools. Stellen Sie sicher, dass sie zwischen Mandanten isoliert sind und dass Mandantenadministratoren nur auf ihre eigenen Betriebsdaten zugreifen können.

Testen und Validieren der Mandantenisolation

Agentische Systeme führen probabilistisches Verhalten ein, da Modellausgaben nicht deterministisch sind. Ein erfolgreicher Test beweist nicht, dass die Kontrollen zur Mandantenisolation korrekt sind.

Konzentrieren Sie sich auf Tests auf deterministische Grenzen anstelle des Modellverhaltens. Erwägen Sie die Überprüfung der folgenden Szenarien:

  • Stellen Sie sicher, dass eine für einen Mandanten ausgestellte Identität nicht auf Ressourcen zugreifen kann, die zu einem anderen Mandanten gehören, auch wenn eine andere Mandanten-ID angegeben wird.
  • Testen Sie jede Unteragentenaufruf- und Agentenübergabesequenz und vergewissern Sie sich, dass der Mandantenkontext bei jedem Übergang explizit erneut hergestellt wird.
  • Versuchen Sie den direkten mandantenübergreifenden Datenzugriff unter der Agentebene, und stellen Sie sicher, dass die Steuerung der Mandantenpartitionierung den Zugriff verhindert.
  • Führen Sie automatisierte Adversarial- und Fuzz-Testsuiten wiederholt als Teil von Bereitstellungspipelines aus.

Die Mandantenisolation sollte nicht vom Modellverhalten abhängen. Die Isolierung sollte auch dann weiterhin funktionieren, wenn das Modell unerwartete Ausgaben erzeugt. Sie sollten jedoch auch adversariale Prompts ausführen, die versuchen, auf die Daten eines anderen Mandanten zuzugreifen, und überprüfen, ob Anfragen von Autorisierungs-, API- oder Kontrollmechanismen auf Datenebene zurückgewiesen werden.

Contributors

Microsoft verwaltet diesen Artikel. Die folgenden Mitwirkenden haben diesen Artikel geschrieben.

Hauptautoren:

  • Daphne Choong | Senior Partner Solution Architect, Enterprise Partner Solutions
  • John Downs | Principal Software Engineer, Azure Patterns & Practices
  • Daniel Scott-Raynsford | Senior Partner Solution Architect, Enterprise Partner Solutions

Andere Mitwirkende:

  • Mamoru Kuroda | Partner Solution Architect, Enterprise Partner Solutions
  • Kodai Sakabe | Partner Solution Architect, Enterprise Partner Solutions

Um nicht öffentliche LinkedIn-Profile zu sehen, melden Sie sich bei LinkedIn an.