Kommentar
Åtkomst till den här sidan kräver auktorisering. Du kan prova att logga in eller ändra kataloger.
Åtkomst till den här sidan kräver auktorisering. Du kan prova att ändra kataloger.
En AI-plattform är den där din organisation kör och driver AI-modeller. Den tillhandahåller nätverksperimeter, identitetsmodell, dataplan och kvotallokering som omger dina modeller, distributioner, index, utvärderingar och relaterade tillgångar. Microsoft Foundry och Azure Machine Learning är två Azure AI-plattformar. Varje distribution av någon av tjänsterna skapar en ny instans.
Din organisation måste bestämma hur AI-arbetsbelastningsmiljöer ska placeras mellan AI-plattformsinstanser. Du kan isolera varje miljö, till exempel dev, test eller prod i sin egen plattformsinstans. Du kan också tillåta att flera arbetsbelastningar eller miljöer delar samma instans. Det här beslutet, som ofta kallas samlokalisering, påverkar omfattningen av drift- eller säkerhetsincidenter. Det påverkar också efterlevnadsgränser och plattformskostnader.
Rekommendation: Upprätta en organisationsomfattande princip som definierar standardisoleringskrav, godkända delningsgränser, undantagskriterier och separata förväntningar för AI-plattformsmiljöer för produktion och förproduktion.
Beslutsvägledning:
1. Definiera delningsgränser för AI-plattformen
Varje organisation behöver gränser där arbetsbelastningar aldrig får dela en instans av en AI-plattform. Den här gränsen gäller i alla miljöer, inklusive produktions- och förproduktionsmiljöer. Arbetsbelastningar inom samma gräns kan potentiellt dela en plattformsinstans. Arbetsbelastningar i olika gränser kan inte göra det.
Varför dra delningsgränser? Utan gemensamma gränsdragningar väljer arbetslasteamen det mönster som för tillfället är mest praktiskt, och AI-plattformen samlar med tiden på sig motstridiga krav. Med tiden skapar den inkonsekventa ägarskapsmodeller, motstridiga efterlevnadskrav, otydlig kostnadsallokering och delad driftsrisk för orelaterade arbetsbelastningar. Till exempel kan orelaterade affärsområden dela kvoter på samma plattformsinstans för att minska kostnaderna. Resultatet är en AI-plattform med inkonsekventa styrningsgränser som blir svåra att förstå och granska.
Gemensamma gränser. Välj en gränsmodell som överensstämmer med hur din organisation redan tilldelar ansvar och styr teknikbeslut. Vanliga modeller är:
En affärsenhetsgräns optimerar för gemensamt operativt ägande och finansiering
En datadomängräns optimerar för vanliga krav på efterlevnad och datahantering
En produktägaravgränsning optimeras för en gemensam utvecklingslivscykel och plattformsdrift
Inom gränsen kan team fortfarande välja dedikerade plattformsinstanser när isolering är motiverad. Utanför gränsen är delning inte tillåtet.
Hitta det som fungerar bäst. Ingen enskild modell är universellt korrekt. Konsekvens är viktigare än vilken modell du väljer, eftersom en tydligt framtvingad gränsmodell håller styrningen begriplig när AI-plattformen växer.
2. Definiera en delningsprincip för AI-plattformen för produktion
AI-plattformsdelning i produktion är praxis att köra mer än en AI-arbetsbelastningsmiljö för produktion på samma Microsoft Foundry-resurs eller Azure Machine Learning arbetsyta. I Azure definierar AI-plattformsinstansen nätverksgränsen, identitetsgränsen och kvotgränsen för de arbetsbelastningsmiljöer som använder den. Därför bör organisationer definiera en specifik princip för ai-plattformsdelning för produktion.
2.1 Använd som standard en enda AI-plattformsinstans för varje produktionsarbetsbelastning
AI-produktionsmiljöer bör som standard använda isolering av produktionsmiljöer. Samla inte flera produktionsarbetsbelastningar på samma Microsoft Foundry-resurs eller Azure Machine Learning arbetsyta om det inte finns ett dokumenterat undantag. En dedikerad AI-plattformsinstans för varje produktionsarbetsbelastningsmiljö bör vara standardmetoden. Behandla AI-plattformsdelning som ett undantag, inte en standardpraxis.
Varför välja isolering som standard? Delade AI-plattformar skapar också en delad driftsrisk. Ett säkerhetsproblem, felkonfiguration, tjänstavbrott eller kvotöverbelastning kan påverka varje samlokaliserad arbetsbelastningsmiljö. Isolering minskar också risken för oavsiktlig exponering för åtkomst mellan arbetsbelastningar och förhindrar att en arbetsbelastning förbrukar GPU-kapacitet eller kvot som krävs av en annan arbetsbelastning. Produktionsmiljöer har vanligtvis störst inverkan på verksamheten och regleringsexponering. De flesta organisationer kräver tydliga ägarskapsgränser och stark driftisolering för dessa miljöer.
Avvägning: Isolering ökar kostnaderna och hanteringskostnaderna. Varje plattformsinstans har sina egna driftkostnader för nätverk, identitet, övervakning och åtgärder. Organisationer måste väga dessa kostnader mot drifts- och säkerhetsfördelarna med kraftfullare isolering.
2.2 Tillåt samlokalisering av produktion genom ett dokumenterat undantag
Samlokalisering minskar omkostnaderna och konsoliderar plattformsåtgärder. Om användningsfall till exempel delar samma datakällor som indata, undviker samlokalisering att behöva konfigurera anslutning och autentisering från AI-plattformen till dessa resurser för varje användningsfall. Avvägning: Att dela AI-plattformsinstanser i produktion slår också samman påverkansområdet, identitetsgränsen och kvotpoolen för varje arbetsbelastning som delar instansen.
Characteristics for colocation: Tillåt endast produktionsarbetsbelastningar att dela instanser av Microsoft Foundry eller Azure Machine Learning när vart och ett av följande villkor gäller:
Alla samallokerade arbetsbelastningar har samma regelomfattning, dataklassificering, krav på hemvist och datahantering.
Alla arbetsbelastningar fungerar inom samma nätverksgräns, samma DNS-namnområde och samma identitetsgräns.
Organisationen accepterar den delade avbrottsrisken och den delade kvotöverbelastningsrisk som samlokaliseringen medför.
Kostnaden eller driftkostnaderna för separata instanser väger tyngre än isoleringsförmånen. Enbart kostnadstryck är inte tillräcklig motivering.
Teamet accepterar att det blir dyrt att dela upp arbetsbelastningar senare. AI-plattformstillståndet överförs inte rent mellan instanser och kräver ofta rekreation eller omkonfiguration.
Avvägning: Varje delad AI-plattformsinstans kräver en tydligt identifierad plattformsägare som ansvarar för kvothantering, nätverkskonfiguration, åtkomstgranskningar, livscykelåtgärder och incidentsamordning.
2.3 Segmentera produktionsanvändningsfall inom AI-plattformsinstansen
Oavsett om en plattformsinstans är isolerad eller samlokaliserad, använd produktens segmenteringsfunktioner för att separera användningsområden. Behandla varje distinkt användningsfall, till exempel helt distinkta användarupplevelser i en enda arbetsbelastning, som en egen logisk distribution i plattformsinstansen. Ett exempel:
I Microsoft Foundry etablerar du ett projekt per användningsfall i Foundry-resursen.
I Azure Machine Learning använder du en hub-arbetsyta med projektarbetsytor för att segmentera användningsfall.
Dessa konstruktioner ger varje användningsfall sina egna tillgångar och rolltilldelningar. De delar en gemensam uppsättning infrastrukturkomponenter för säkerhet och anslutning. Du behöver inte etablera en ny instans för varje scenario.
När samlokalisering tillåts under undantagsprocessen höjer du den här produktavgränsningen från en rekommendation till ett framtvingat principkrav.
Om en arbetsbelastning kräver komplex segmentering mellan flera Foundry-projekt eller Azure Machine Learning arbetsytor, utvärderar du om den aktuella delningsmodellen fortfarande ger acceptabel driftsmässig enkelhet och isolering.
Bakgrund om de konstruktioner som förankrar dessa beslut finns i Microsoft Foundry-resurser och Azure Machine Learning arbetsytor.
3. Definiera en delningsprincip för ai-plattformen för förproduktion
Förproduktionsmiljöer inverterar standardinställningen i produktion. Förproduktionsmiljöer omfattar utveckling, testning och fas. Dessa miljöer stöder experimentering och förhandsvalidering. Dedikerade instanser av AI-plattformsresurser motiverar sällan sina kostnader på dessa nivåer. Använd en delad instans som standard per miljönivå.
Varför samlokalisera i förproduktionsmiljöer? Med en delad AI-plattformsinstans för förproduktion kan team återanvända Azure AI-infrastruktur i stället för att etablera separata instanser för varje nytt användningsfall. Arbetsbelastningsteam kan återanvända distribuerade modeller, godkänd nätverksanslutning, befintliga dataintegreringar och etablerade säkerhetskonfigurationer. Den här metoden påskyndar experimenteringen och minskar det upprepade installationsarbetet. Det är mest värdefullt när affärsteam utvärderar genomförbarheten av nya AI-scenarier eller validerar lösningar i ett tidigt skede.
När du inte bör samlokalisera i förproduktionsmiljön. Använd en dedikerad förproduktionsinstans per arbetsbelastning när en arbetsbelastning bearbetar reglerade data i test eller måste spegla dess produktionstopologi för prestandaverifiering. Behandla detta krav som ett undantag och kräv uttryckligt godkännande innan provisionering.
Avvägning: Förproduktionssamlokalisering sänker kostnaden för inaktiv kapacitet och håller plattformsinventeringen mindre. Det utsätter dock varje arbetsbelastning för störningar från experiment från ett annat team. Ett felkonfigurerat finjusteringsjobb eller en skenande utvärderingskörning kan förbruka delad kvot och göra andra team långsamma. Testresultat som samlas in på en delad instans förutsäger inte heller alltid produktionsbeteende. Arbetsbelastningar med strikta prestanda- eller efterlevnadsverifieringsbehov kräver en dedikerad miljö trots den högre kostnaden.