Nota
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare ad accedere o modificare le directory.
L'accesso a questa pagina richiede l'autorizzazione. È possibile provare a modificare le directory.
Una piattaforma di intelligenza artificiale è la posizione in cui l'organizzazione esegue e gestisce modelli di intelligenza artificiale. Fornisce il perimetro di rete, il modello di identità, il piano dati e l'allocazione delle quote che definiscono e proteggono i tuoi modelli, le tue distribuzioni, i tuoi indici, le tue valutazioni e le risorse correlate. Microsoft Foundry e Azure Machine Learning sono due piattaforme di intelligenza artificiale Azure. Ogni distribuzione di uno dei due servizi crea una nuova istanza.
L'organizzazione deve decidere come posizionare gli ambienti del carico di lavoro di intelligenza artificiale tra le istanze della piattaforma di intelligenza artificiale. È possibile isolare ogni ambiente, ad esempio sviluppo, test o produzione, nella propria istanza della piattaforma. È anche possibile consentire a più carichi di lavoro o ambienti di condividere la stessa istanza. Questa decisione, spesso chiamata colocation, incide sulla portata dei problemi operativi o di sicurezza. Influisce anche sui limiti di conformità e sui costi della piattaforma.
Raccomandazione: Stabilire criteri a livello di organizzazione che definiscono i requisiti di isolamento predefiniti, i limiti di condivisione approvati, i criteri di eccezione e le aspettative separate per gli ambienti della piattaforma di IA di produzione e preproduzione.
Indicazioni sulle decisioni:
1. Definire i limiti di condivisione della piattaforma di intelligenza artificiale
Ogni organizzazione necessita di limiti attraverso i quali i carichi di lavoro non devono mai condividere un'istanza della piattaforma di intelligenza artificiale. Questo limite si applica in ogni ambiente, inclusi ambienti di produzione e preproduzione. I carichi di lavoro all'interno dello stesso limite possono potenzialmente condividere un'istanza della piattaforma. I carichi di lavoro in confini diversi non possono.
Perché disegnare limiti di condivisione? Senza confini chiari e condivisi, i team responsabili dei carichi di lavoro finiscono per adottare il modello che in quel momento risulta più comodo, e nel tempo la piattaforma AI accumula requisiti contrastanti. Nel corso del tempo, crea modelli di proprietà incoerenti, requisiti di conformità in conflitto, allocazione dei costi non chiari e rischio operativo condiviso tra carichi di lavoro non correlati. Ad esempio, le aree aziendali non correlate potrebbero condividere la quota nella stessa istanza della piattaforma per ridurre i costi. Il risultato è una piattaforma di intelligenza artificiale con limiti di governance incoerenti che diventano difficili da comprendere e controllare.
Limiti comuni. Scegliere un modello di limite che sia allineato al modo in cui l'organizzazione assegna già la responsabilità e regola le decisioni tecnologiche. I modelli comuni includono:
Il confine di una business unit ottimizza la responsabilità operativa e il finanziamento comune
Il confine di un dominio di dati è ottimizzato per le comuni esigenze di conformità e di gestione dei dati
Un limite del proprietario del prodotto ottimizza per un ciclo di vita di progettazione comune e operazioni della piattaforma
Entro questi limiti, i team possono comunque scegliere istanze della piattaforma dedicate quando è opportuno garantire l'isolamento. Al di fuori del limite, la condivisione non è consentita.
Trovare ciò che funziona meglio. Nessun modello singolo è universalmente corretto. La coerenza è importante più del modello selezionato, perché un modello di limite chiaramente applicato mantiene comprensibile la governance man mano che la piattaforma di intelligenza artificiale cresce.
2. Definire un criterio di condivisione della piattaforma di intelligenza artificiale di produzione
La condivisione in produzione della piattaforma di intelligenza artificiale consiste nell'eseguire più di un ambiente di carico di lavoro di IA in produzione sulla stessa risorsa Microsoft Foundry o nello stesso spazio di lavoro di Azure Machine Learning. In Azure, l'istanza della piattaforma di intelligenza artificiale definisce il limite di rete, il limite di identità e il limite di quota per gli ambienti del carico di lavoro che lo usano. Per questo motivo, le organizzazioni devono definire criteri specifici per la condivisione della piattaforma di intelligenza artificiale di produzione.
2.1 Impostare per impostazione predefinita una singola istanza della piattaforma di IA per ogni carico di lavoro di produzione
Per impostazione predefinita, gli ambienti di intelligenza artificiale di produzione devono essere isolati dall'ambiente di produzione. Non co-localizzare più workload di produzione nella stessa risorsa Microsoft Foundry o nello stesso spazio di lavoro Azure Machine Learning, a meno che non esista un'eccezione documentata. Un'istanza della piattaforma di intelligenza artificiale dedicata per ogni ambiente del carico di lavoro di produzione deve essere l'approccio standard. Considerare la condivisione della piattaforma di intelligenza artificiale come un'eccezione, non una pratica predefinita.
Perché scegliere l'isolamento come impostazione predefinita? Le piattaforme di intelligenza artificiale condivise creano anche rischi operativi condivisi. Un problema di sicurezza, una configurazione errata, un'interruzione del servizio o un evento di esaurimento della quota può influire su ogni ambiente del carico di lavoro condiviso. L'isolamento riduce anche il rischio di esposizione accidentale dell'accesso tra carichi di lavoro e impedisce a un carico di lavoro di consumare capacità o quota GPU necessarie per un altro carico di lavoro. Gli ambienti di produzione hanno in genere il massimo impatto aziendale e l'esposizione alle normative. La maggior parte delle organizzazioni richiede limiti di proprietà chiari e un forte isolamento operativo per questi ambienti.
Compromesso: L'isolamento aumenta il costo e il sovraccarico di gestione. Ogni istanza della piattaforma comporta un sovraccarico operativo specifico per la rete, l'identità, il monitoraggio e le operazioni. Le organizzazioni devono bilanciare questi costi rispetto ai vantaggi operativi e di sicurezza di un contenimento più forte.
2.2 Consentire la corilevazione di produzione tramite un'eccezione documentata
La colocation riduce i costi generali e consolida le operazioni della piattaforma. Ad esempio, se i casi d'uso condividono le stesse origini dati dell'input, la condivisione dei dati evita di dover configurare la connettività e l'autenticazione dalla piattaforma di intelligenza artificiale a tali risorse per ogni caso d'uso. Contropartita: la condivisione delle istanze della piattaforma IA nell'ambiente di produzione unisce anche il raggio d'impatto, il perimetro delle identità e il pool di quote di tutti i carichi di lavoro che condividono l'istanza.
Caratteristiche della colocation: Consentire la condivisione di istanze di Microsoft Foundry o Azure Machine Learning solo ai carichi di lavoro di produzione quando è soddisfatta ciascuna delle condizioni seguenti:
Tutti i carichi di lavoro colocati condividono lo stesso ambito normativo, la classificazione dei dati, i requisiti di residenza dei dati e gli standard di gestione dei dati.
Tutti i carichi di lavoro operano all'interno dello stesso limite di rete, dello stesso spazio dei nomi DNS e dello stesso limite di identità.
L'organizzazione accetta il rischio condiviso di interruzione e il rischio condiviso di esaurimento della quota che la colocazione comporta.
Il costo o il sovraccarico operativo di istanze separate supera materialmente il vantaggio di isolamento. La sola pressione dei costi non è una giustificazione sufficiente.
Il team accetta che la suddivisione dei carichi di lavoro in un secondo momento sia costosa. Lo stato della piattaforma di intelligenza artificiale non viene trasferito in modo pulito tra istanze e spesso richiede ricreazione o riconfigurazione.
Compromesso: Ogni istanza della piattaforma di intelligenza artificiale condivisa richiede un proprietario della piattaforma chiaramente identificato responsabile della gestione delle quote, della configurazione di rete, delle verifiche di accesso, delle operazioni del ciclo di vita e del coordinamento degli eventi imprevisti.
2.3 Segmentazione dei casi d'uso in produzione all'interno dell'istanza della piattaforma IA
Indipendentemente dal fatto che un'istanza della piattaforma sia isolata o colocalizzata, utilizzare le funzionalità di segmentazione integrate nel prodotto per isolare i casi d'uso. Considerare ogni caso d'uso distinto, ad esempio esperienze utente completamente distinte all'interno di un singolo carico di lavoro, come distribuzione logica all'interno dell'istanza della piattaforma. Per esempio:
In Microsoft Foundry, creare un project per ogni caso d'uso all'interno della risorsa di Foundry.
In Azure Machine Learning usare un'area di lavoro hub con aree di lavoro del progetto per segmentare i casi d'uso.
Questi costrutti forniscono a ogni caso d'uso i propri asset e assegnazioni di ruolo. Condividono un set comune di componenti dell'infrastruttura per la sicurezza e la connettività. Non è necessario effettuare il provisioning di una nuova istanza per ogni scenario.
Quando la co-ubicazione è consentita nell’ambito della procedura di eccezione, elevare questa separazione all’interno del prodotto da raccomandazione a requisito obbligatorio imposto dai criteri.
Se un carico di lavoro richiede una segmentazione complessa tra più progetti Foundry o aree di lavoro Azure Machine Learning, rivaluta se il modello di condivisione corrente fornisce ancora semplicità operativa e isolamento accettabili.
Per informazioni di base sui concetti alla base di queste decisioni, vedere risorse di Microsoft Foundry e aree di lavoro di Azure Machine Learning.
3. Definire un criterio di condivisione della piattaforma di IA di preproduzione
Gli ambienti di preproduzione invertono l'impostazione predefinita dell'ambiente di produzione. Gli ambienti di preproduzione includono sviluppo, test e staging. Questi ambienti supportano la sperimentazione e la convalida preliminare. Le istanze dedicate delle risorse della piattaforma di intelligenza artificiale raramente giustificano i costi in tali livelli. L'impostazione predefinita è un'istanza condivisa per ogni livello di ambiente.
Perché ricorrere alla colocation negli ambienti di preproduzione? Un'istanza condivisa della piattaforma di preproduzione di Azure AI consente ai team di riutilizzare l'infrastruttura Azure AI invece di effettuare il provisioning di istanze separate per ogni nuovo caso d'uso. I team del carico di lavoro possono riutilizzare i modelli distribuiti, la connettività di rete approvata, le integrazioni dei dati esistenti e le configurazioni di sicurezza stabilite. Questo approccio accelera la sperimentazione e riduce il lavoro di configurazione ripetuto. È molto utile quando i team aziendali valutano la fattibilità dei nuovi scenari di intelligenza artificiale o convalidano soluzioni in fase iniziale.
Quando non è necessario eseguire la colocazione nella preproduzione. Usare un'istanza di preproduzione dedicata per ogni carico di lavoro quando un carico di lavoro elabora i dati regolamentati nel test o deve eseguire il mirroring della topologia di produzione per la convalida delle prestazioni. Tratta tale requisito come un'eccezione e richiedi l'approvazione esplicita prima del provisioning.
Compromesso: La collocazione in preproduzione riduce il costo della capacità inutilizzata e mantiene più ridotto l'inventario della piattaforma. Tuttavia, espone ogni carico di lavoro all'interferenza dagli esperimenti di un altro team. Un processo di fine-tuning configurato in modo errato o un processo di valutazione fuori controllo può consumare la quota condivisa e rallentare il lavoro degli altri team. Anche i risultati dei test acquisiti in un'istanza condivisa non prevedono sempre il comportamento di produzione. I carichi di lavoro con requisiti rigorosi di convalida delle prestazioni o della conformità richiedono un ambiente dedicato nonostante i costi più elevati.