Notitie
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen u aan te melden of de directory te wijzigen.
Voor toegang tot deze pagina is autorisatie vereist. U kunt proberen de mappen te wijzigen.
Een AI-platform is waar uw organisatie AI-modellen uitvoert en beheert. Het biedt de netwerkperimeter, identiteitsmodel, gegevensvlak en quotumtoewijzing die uw modellen, implementaties, indexen, evaluaties en gerelateerde assets omringt. Microsoft Foundry en Azure Machine Learning zijn twee Azure AI-platforms. Elke implementatie van een van beide services maakt een nieuw exemplaar.
Uw organisatie moet bepalen hoe u AI-workloadomgevingen in AI-platformexemplaren plaatst. U kunt elke omgeving, zoals dev, test of prod, isoleren in een afzonderlijke platforminstantie. U kunt ook toestaan dat meerdere workloads of omgevingen hetzelfde exemplaar delen. Deze beslissing, vaak co-locatie genoemd, beïnvloedt de impact van operationele of beveiligingsproblemen. Het is ook van invloed op nalevingsgrenzen en platformkosten.
Aanbeveling: Stel een organisatiebreed beleid in dat standaardisolatievereisten, goedgekeurde grenzen voor delen, uitzonderingscriteria en afzonderlijke verwachtingen definieert voor productie- en preproductie-AI-platformomgevingen.
Richtlijnen voor beslissingen:
1. Grenzen voor delen van AI-platformen definiëren
Elke organisatie moet grenzen stellen waarover workloads nooit één AI-platforminstantie mogen delen. Deze grens is van toepassing in elke omgeving, inclusief productie- en preproductieomgevingen. Workloads binnen dezelfde afbakening kunnen mogelijk een platformexemplaar delen. Werkbelastingen in verschillende grenzen kunnen niet.
Waarom deelgrenzen afbakenen? Zonder grenzen te delen, zijn workloadteams standaard ingesteld op elk patroon dat op dit moment handig is en verzamelt het AI-platform conflicterende vereisten in de loop van de tijd. Na verloop van tijd ontstaan inconsistente eigendomsmodellen, conflicterende nalevingsvereisten, onduidelijke kostentoerekening en gedeelde operationele risico’s over niet-verwante workloads heen. Zo kunnen bijvoorbeeld niet-verwante bedrijfsonderdelen hetzelfde quotum delen op hetzelfde platformexemplaar om de kosten te verlagen. Het resultaat is een AI-platform met inconsistente governancegrenzen die moeilijk te begrijpen en te controleren zijn.
Gemeenschappelijke grenzen. Kies een grensmodel dat overeenkomt met de wijze waarop uw organisatie al verantwoordelijkheid toewijst en technologiebeslissingen beheert. Algemene modellen zijn onder andere:
Een bedrijfseenheidgrens optimaliseert voor algemeen operationeel eigendom en financiering
Een gegevensdomeingrens optimaliseert voor algemene nalevings- en gegevensverwerkingsvereisten
Een grens van een producteigenaar optimaliseert voor een algemene levenscyclus van engineering en platformbewerkingen
Binnen deze afbakening kunnen teams nog steeds kiezen voor dedicated platforminstanties als isolatie zinvol is. Buiten de grens is delen niet toegestaan.
Vind wat het beste werkt. Geen enkel model is universeel correct. Consistentie is belangrijker dan welk model u selecteert, omdat een duidelijk afgedwongen grensmodel governance begrijpelijk houdt naarmate het AI-platform groeit.
2. Een beleid voor het delen van een AI-platform voor productie definiëren
Het delen van een AI-platform in productie houdt in dat meerdere AI-workloadomgevingen voor productie op dezelfde Microsoft Foundry-resource of in dezelfde Azure Machine Learning-workspace worden uitgevoerd. In Azure bepaalt het AI-platformexemplaar de netwerkgrens, identiteitsgrens en quotumgrens voor de workloadomgevingen die er gebruik van maken. Daarom moeten organisaties een specifiek beleid definiëren voor het delen van ai-platforms voor productie.
2.1 Gebruik standaard één AI-platformexemplaar voor elke productieworkload
Productie-AI-omgevingen moeten standaard worden gebruikt voor isolatie van productieomgevingen. Plaats niet meerdere productieworkloads op dezelfde Microsoft Foundry-resource of Azure Machine Learning werkruimte, tenzij er een gedocumenteerde uitzondering bestaat. Een toegewezen AI-platforminstantie voor elke omgeving voor productieworkloads zou de standaardaanpak moeten zijn. Ai-platform delen behandelen als uitzondering, niet als standaardpraktijk.
Waarom standaard kiezen voor isolatie? Gedeelde AI-platforms maken ook een gedeeld operationeel risico. Een beveiligingsprobleem, een verkeerde configuratie, een serviceonderbreking of het bereiken van een quotumlimiet kan gevolgen hebben voor elke gecolokeerde workloadomgeving. Isolatie vermindert ook het risico op onbedoelde toegang tussen workloads en voorkomt dat een workload GPU-capaciteit of -quotum verbruikt die nodig zijn voor een andere workload. Productieomgevingen hebben meestal de hoogste bedrijfsimpact en blootstelling aan regelgeving. De meeste organisaties vereisen duidelijke eigendomsgrenzen en sterke operationele isolatie voor deze omgevingen.
Afweging: Isolatie verhoogt de kosten en beheeroverhead. Elke platforminstantie brengt zijn eigen operationele overhead met zich mee voor netwerkbeheer, identiteitsbeheer, monitoring en beheer. Organisaties moeten deze kosten afwegen tegen de operationele en beveiligingsvoordelen van sterkere insluiting.
2.2 Productie colocatie toestaan via een gedocumenteerde uitzondering
Colocatie vermindert overhead en consolideert platformactiviteiten. Als toepassingsscenario’s bijvoorbeeld dezelfde databronnen als invoer delen, maakt colocatie het overbodig om voor elk toepassingsscenario connectiviteit en authenticatie vanaf het AI-platform naar die bronnen in te stellen. Afweging: Het delen van AI-platforminstanties in productie combineert ook het impactgebied, de identiteitsgrenzen en de quotapool van alle workloads die dezelfde instantie delen.
Kenmerken van colocatie: Sta alleen toe dat productieworkloads gebruikmaken van dezelfde exemplaren van Microsoft Foundry of Azure Machine Learning wanneer aan elk van de volgende voorwaarden is voldaan:
Alle workloads die op dezelfde locatie zijn ondergebracht, vallen onder hetzelfde regelgevingskader, dezelfde gegevensclassificatie, vereisten voor gegevensresidentie en normen voor gegevensverwerking.
Alle workloads werken binnen dezelfde netwerkgrens, dezelfde DNS-naamruimte en dezelfde identiteitsgrens.
De organisatie accepteert het gedeelde storingsrisico en het risico voor uitputting van gedeelde quota dat colocatie introduceert.
De kosten of operationele overhead van afzonderlijke exemplaren wegen aanzienlijk op tegen het isolatievoordeel. Alleen kostendruk is niet voldoende reden.
Het team accepteert dat het splitsen van workloads later kostbaar is. De status van het AI-platform wordt niet netjes overgedragen tussen instanties en vereist vaak recreatie of herconfiguratie.
Afweging: Elke gedeelde AI-platforminstantie vereist een duidelijk geïdentificeerde platformeigenaar die verantwoordelijk is voor quotumbeheer, netwerkconfiguratie, toegangsbeoordelingen, levenscyclusbewerkingen en incidentcoördinatie.
2.3 Productietoepassingsscenario's binnen de AI-platforminstantie segmenteren
Of een platforminstantie nu geïsoleerd is of gedeeld wordt gehost, gebruik segmentatiefuncties binnen het product om gebruiksscenario’s te isoleren. Behandel elk afzonderlijk toepassingsscenario, zoals volledig verschillende gebruikerservaringen binnen één workload, als een afzonderlijke logische uitrol binnen de platforminstantie. Voorbeeld:
Richt in Microsoft Foundry in de Foundry-resource één project per toepassingsscenario in.
Gebruik in Azure Machine Learning een hub-werkruimte met projectwerkruimten om use cases te segmenteren.
Deze constructies geven elke use-case zijn eigen assets en roltoewijzingen. Ze delen een algemene set infrastructuuronderdelen voor beveiliging en connectiviteit. U hoeft geen nieuw exemplaar in te richten voor elk scenario.
Wanneer colocatie is toegestaan onder het uitzonderingsproces, kunt u deze scheiding tussen producten verhogen van een aanbeveling tot een afgedwongen beleidsvereiste.
Als voor een workload complexe segmentatie is vereist voor meerdere Foundry-projecten of Azure Machine Learning werkruimten, wordt opnieuw beoordeeld of het huidige model voor delen nog steeds acceptabele operationele eenvoud en isolatie biedt.
Zie Microsoft Foundry-resources en Azure Machine Learning werkruimten voor achtergrondinformatie over de constructies die deze beslissingen verankeren.
3. Definieer een beleid voor het delen van een preproductie-AI-platform
Preproductieomgevingen keren de productiestandaard om. Preproductieomgevingen omvatten ontwikkeling, test en fase. Deze omgevingen ondersteunen experimenten en prereleasevalidatie. Afzonderlijke exemplaren van resources van het AI-platform rechtvaardigen in die niveaus zelden hun kosten. Standaard ingesteld op een gedeeld exemplaar per omgevingslaag.
Waarom kiezen voor colocatie in preproductieomgevingen? Een gedeelde preproductie-instantie van een AI-platform stelt teams in staat om Azure AI-infrastructuur te hergebruiken in plaats van voor elke nieuwe toepassing afzonderlijke instanties beschikbaar te maken. Workloadteams kunnen geïmplementeerde modellen, goedgekeurde netwerkconnectiviteit, bestaande gegevensintegraties en tot stand gebrachte beveiligingsconfiguraties hergebruiken. Deze aanpak versnelt experimenten en vermindert herhaalde installatiewerkzaamheden. Het is het meest waardevol wanneer bedrijfsteams de haalbaarheid van nieuwe AI-scenario's evalueren of vroege oplossingen valideren.
Wanneer niet te coloceren in een preproductieomgeving. Gebruik een speciaal preproductie-exemplaar per workload wanneer een workload gereglementeerde gegevens in de test verwerkt of de productietopologie moet spiegelen voor prestatievalidatie. Behandel die vereiste als een uitzondering en vereis uitdrukkelijke goedkeuring voordat er voorzieningen worden ingericht.
Afweging: Colocatie vóór productie verlaagt de kosten van niet-actieve capaciteit en houdt de platforminventaris kleiner. Elke workload wordt echter blootgesteld aan interferentie van de experimenten van een ander team. Een onjuist geconfigureerde fine-tuningstaak of een uit de hand gelopen evaluatierun kan gedeelde quota verbruiken en andere teams vertragen. Testresultaten die zijn vastgelegd op een gedeeld exemplaar voorspellen ook niet altijd productiegedrag. Voor workloads met strikte prestaties of nalevingsvalidatie is een speciale omgeving vereist, ondanks de hogere kosten.