Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Eine KI-Plattform ist der Ort, an dem Ihre Organisation KI-Modelle ausführt und betreibt. Es stellt den Netzwerkperimeter, das Identitätsmodell, die Datenebene und die Kontingentzuordnung bereit, die Ihre Modelle, Bereitstellungen, Indizes, Auswertungen und damit verbundenen Ressourcen umgeben. Microsoft Foundry und Azure Machine Learning sind zwei Azure KI-Plattformen. Jede Bereitstellung eines der beiden Dienste erstellt eine neue Instanz.
Ihre Organisation muss entscheiden, wie KI-Workloadumgebungen in KI-Plattforminstanzen platziert werden sollen. Sie können jede Umgebung wie Dev, Test oder Prod in einer eigenen Plattforminstanz isolieren. Sie können auch zulassen, dass mehrere Workloads oder Umgebungen dieselbe Instanz gemeinsam nutzen. Diese Entscheidung, die häufig als Colocation bezeichnet wird, wirkt sich auf den Strahlradius von Betriebs- oder Sicherheitsproblemen aus. Sie wirkt sich auch auf Compliancegrenzen und Plattformkosten aus.
Empfehlung: Richten Sie eine organisationsweite Richtlinie ein, die Standardisolationsanforderungen, genehmigte Freigabegrenzen, Ausnahmekriterien und separate Erwartungen für Produktions- und Vorproduktions-KI-Plattformumgebungen definiert.
Entscheidungsleitfaden:
1. Definieren von Grenzen für die Freigabe von KI-Plattformen
Jede Organisation benötigt Abgrenzungen, zwischen denen Workloads niemals dieselbe Instanz einer KI-Plattform gemeinsam nutzen dürfen. Diese Grenze gilt in jeder Umgebung, einschließlich Produktions- und Vorproduktionsumgebungen. Workloads innerhalb derselben Grenze können potenziell eine Plattforminstanz gemeinsam nutzen. Workloads in verschiedenen Grenzen können das nicht.
Gründe für das Zeichnen von Freigabegrenzen Ohne klare Grenzen für die gemeinsame Nutzung greifen Workload-Teams standardmäßig zu dem Muster, das in dem Moment am bequemsten ist, und die KI-Plattform häuft im Laufe der Zeit widersprüchliche Anforderungen an. Im Laufe der Zeit entstehen dadurch inkonsistente Verantwortungsmodelle, widersprüchliche Compliance-Anforderungen, eine unklare Kostenzuordnung und gemeinsam getragene Betriebsrisiken über voneinander unabhängige Workloads hinweg. Beispielsweise können nicht verwandte Geschäftsbereiche das Kontingent auf derselben Plattforminstanz teilen, um die Kosten zu senken. Das Ergebnis ist eine KI-Plattform mit inkonsistenten Governance-Grenzen, die schwer zu verstehen und zu überwachen sind.
Allgemeine Grenzen. Wählen Sie ein Abgrenzungsmodell, das sich daran orientiert, wie Ihre Organisation bereits Verantwortlichkeiten zuweist und Technologieentscheidungen regelt. Zu den gängigen Modellen gehören:
Eine Geschäftseinheitsgrenze optimiert für gemeinsame betriebswirtschaftliche Eigentümerschaft und Finanzierung
Eine Datendomänengrenze optimiert für allgemeine Compliance- und Datenverarbeitungsanforderungen
Eine Produktbesitzergrenze optimiert für einen gemeinsamen Engineering-Lebenszyklus und Plattformvorgänge
Innerhalb der Grenze können Teams weiterhin dedizierte Plattforminstanzen auswählen, wenn die Isolierung sinnvoll ist. Außerhalb des Begrenzungsbereichs ist keine Freigabe zulässig.
Finden Sie, was am besten funktioniert. Kein einzelnes Modell ist universell korrekt. Konsistenz ist wichtiger als welches Modell Sie auswählen, da ein klar erzwungenes Grenzmodell die Governance verständlich hält, wenn die KI-Plattform wächst.
2. Definieren einer KI-Plattformfreigaberichtlinie für die Produktion
Die gemeinsame Nutzung von KI-Plattformen in der Produktion bezeichnet die Praxis, mehr als eine Produktionsumgebung für KI-Workloads auf derselben Microsoft Foundry-Ressource oder in demselben Azure Machine Learning-Arbeitsbereich auszuführen. In Azure definiert die KI-Plattforminstanz die Netzwerkgrenze, die Identitätsgrenze und die Kontingentgrenze für die Workloadumgebungen, die sie verwenden. Aus diesem Grund sollten Organisationen eine bestimmte Richtlinie für die Gemeinsame Nutzung von KI-Plattformen für die Produktion definieren.
2.1 Standardeinstellung für eine einzelne AI-Plattforminstanz pro Produktionsworkload
Produktions-KI-Umgebungen sollten standardmäßig auf die Isolation der Produktionsumgebung festgelegt werden. Verlagern Sie nicht mehrere Produktionsworkloads in derselben Microsoft Foundry-Ressource oder Azure Machine Learning Arbeitsbereich, es sei denn, eine dokumentierte Ausnahme ist vorhanden. Eine dedizierte KI-Plattforminstanz für jede Produktionsworkloadumgebung sollte der Standardansatz sein. Behandeln Sie die KI-Plattformfreigabe als Ausnahme, nicht als Standardpraxis.
Warum standardmäßig Isolation verwenden? Gemeinsam genutzte KI-Plattformen schaffen auch gemeinsame Betriebsrisiken. Ein Sicherheitsproblem, eine Fehlkonfiguration, ein Dienstausfall oder ein Kontingentausschöpfungsereignis kann sich auf jede colocated Workload-Umgebung auswirken. Die Isolation verringert außerdem das Risiko einer versehentlichen workloadübergreifenden Offenlegung von Zugriffsrechten und verhindert, dass ein Workload GPU-Kapazität oder -Quote verbraucht, die ein anderer Workload benötigt. Produktionsumgebungen haben in der Regel die höchsten geschäftlichen Auswirkungen und regulatorische Gefährdungen. Die meisten Organisationen erfordern klare Besitzergrenzen und eine starke Betriebsisolation für diese Umgebungen.
Kompromiss: Isolation erhöht Kosten und Verwaltungsaufwand. Jede Plattforminstanz trägt einen eigenen Betriebsaufwand für Netzwerk, Identität, Überwachung und Vorgänge. Organisationen müssen diese Kosten gegen die betrieblichen und sicherheitsrelevanten Vorteile einer stärkeren Eindämmung ausgleichen.
2.2 Die gemeinsame Unterbringung von Produktionssystemen im Rahmen einer dokumentierten Ausnahme zulassen
Colocation reduziert den Aufwand und konsolidiert Plattformvorgänge. Wenn Anwendungsfälle beispielsweise dieselben Datenquellen als Eingabe verwenden, vermeidet Colocation, dass für jeden Anwendungsfall eine Konnektivität und Authentifizierung von der KI-Plattform zu diesen Ressourcen eingerichtet werden muss. Kompromiss: Die gemeinsame Nutzung von KI-Plattforminstanzen in der Produktion führt auch zur Zusammenlegung des Auswirkungsbereichs, der Identitätsgrenze und des Quotenpools aller Workloads, die sich die Instanz teilen.
Merkmale für die gemeinsame Nutzung: Gestatten Sie Produktionsworkloads nur dann, Instanzen von Microsoft Foundry oder Azure Machine Learning gemeinsam zu nutzen, wenn jede der folgenden Bedingungen erfüllt ist:
Alle gemeinsam untergebrachten Workloads unterliegen demselben regulatorischen Rahmen, derselben Datenklassifizierung, denselben Anforderungen an den Datenspeicherort und denselben Standards für den Umgang mit Daten.
Alle Workloads werden innerhalb derselben Netzwerkgrenze, desselben DNS-Namespaces und derselben Identitätsgrenze ausgeführt.
Die Organisation akzeptiert das geteilte Ausfallrisiko und das geteilte Risiko einer Kontingenterschöpfung, das durch Colocation entsteht.
Der Kosten- oder Betriebsaufwand separater Instanzen überwiegt erheblich den Isolationsvorteil. Kostendruck allein ist keine ausreichende Rechtfertigung.
Das Team akzeptiert, dass das Aufteilen von Arbeitslasten später kostspielig ist. Der KI-Plattformstatus wird nicht sauber zwischen Instanzen übertragen und erfordert häufig eine Wiederherstellung oder Neukonfiguration.
Kompromiss: Jede freigegebene KI-Plattforminstanz erfordert einen eindeutig identifizierten Plattformbesitzer, der für die Kontingentverwaltung, die Netzwerkkonfiguration, Zugriffsüberprüfungen, Lebenszyklusvorgänge und die Vorfallkoordination verantwortlich ist.
2.3 Segment-Produktionsanwendungsfälle innerhalb der KI-Plattforminstanz
Unabhängig davon, ob eine Plattforminstanz isoliert oder gemeinsam mit anderen Instanzen gehostet wird, verwenden Sie die Segmentierungsfunktionen im Produkt, um Anwendungsfälle zu isolieren. Behandeln Sie jeden eindeutigen Anwendungsfall, z. B. vollständig unterschiedliche Benutzeroberflächen innerhalb einer einzigen Workload, als eigene logische Bereitstellung innerhalb der Plattforminstanz. Beispiel:
Stellen Sie in Microsoft Foundry ein project pro Anwendungsfall innerhalb der Foundry-Ressource bereit.
Verwenden Sie in Azure Machine Learning einen Hub-Arbeitsbereich mit Projektarbeitsbereichen, um Anwendungsfälle zu segmentieren.
Diese Konstrukte geben jedem Anwendungsfall eigene Ressourcen und Rollenzuweisungen. Sie teilen eine gemeinsame Gruppe von Infrastrukturkomponenten für Sicherheit und Konnektivität. Sie müssen für jedes Szenario keine neue Instanz bereitstellen.
Wenn die Kolocation im Rahmen des Ausnahmevorgangs zulässig ist, erhöhen Sie diese Inprodukttrennung von einer Empfehlung auf eine erzwungene Richtlinienanforderung.
Wenn eine Arbeitsauslastung eine komplexe Segmentierung über mehrere Foundry-Projekte oder Azure Machine Learning Arbeitsbereiche erfordert, wird neu überprüft, ob das aktuelle Freigabemodell weiterhin akzeptable betriebliche Einfachheit und Isolation bietet.
Hintergrundinformationen zu den Konstrukten, die diese Entscheidungen verankern, finden Sie unter Microsoft Foundry resources und Azure Machine Learning workspaces.
3. Definieren Sie eine Richtlinie zur Freigabe einer KI-Plattform für die Vorproduktionsumgebung
Vorproduktionsumgebungen kehren die Produktionsvorgabe um. Zu den Vorproduktionsumgebungen gehören Entwicklung, Test und Phase. Diese Umgebungen unterstützen die Überprüfung von Experimenten und Vorabversionen. Dedizierte Instanzen von KI-Plattformressourcen rechtfertigen selten ihre Kosten in diesen Ebenen. Verwenden Sie standardmäßig eine freigegebene Instanz pro Umgebungsstufe.
Warum kolocate in Preproduction-Umgebungen? Eine gemeinsam genutzte Vorproduktions-KI-Plattforminstanz ermöglicht es Teams, Azure KI-Infrastruktur wiederzuverwenden, anstatt für jeden neuen Anwendungsfall eigene Instanzen bereitzustellen. Workloadteams können bereitgestellte Modelle, genehmigte Netzwerkkonnektivität, vorhandene Datenintegrationen und etablierte Sicherheitskonfigurationen wiederverwenden. Dieser Ansatz beschleunigt das Experimentieren und reduziert wiederholte Setuparbeit. Es ist am wertvollsten, wenn Geschäftsteams die Machbarkeit neuer KI-Szenarien bewerten oder frühzeitige Lösungen validieren.
Wann in der Vorproduktionsumgebung nicht zusammengelegt werden sollte. Verwenden Sie eine dedizierte Vorproduktionsinstanz pro Workload, wenn eine Workload regulierte Daten im Test verarbeitet oder die Produktionstopologie für die Leistungsüberprüfung spiegeln muss. Behandeln Sie diese Anforderung als Ausnahme, und fordern Sie vor der Bereitstellung eine explizite Genehmigung an.
Abwägung: Die Kolokation in der Vorproduktionsphase senkt die Kosten für ungenutzte Kapazitäten und hält den Plattformbestand gering. Allerdings setzt sie jeden Workload Störungen durch die Experimente eines anderen Teams aus. Ein falsch konfigurierter Fine-Tuning-Job oder ein außer Kontrolle geratener Evaluierungslauf kann gemeinsam genutztes Kontingent aufbrauchen und andere Teams ausbremsen. Testergebnisse, die in einer freigegebenen Instanz erfasst wurden, prognostizieren auch nicht immer das Produktionsverhalten. Workloads mit strengen Leistungs- oder Complianceüberprüfungsanforderungen erfordern trotz der höheren Kosten eine dedizierte Umgebung.