Microsoft prodotti di Intelligenza artificiale e Machine Learning

Microsoft offre diverse piattaforme per intelligenza artificiale e Machine Learning. Ogni piattaforma è destinata a una combinazione diversa del gruppo di destinatari, del carico di lavoro, del data foundation e del modello di distribuzione. Questo articolo aiuta gli architetti delle soluzioni, i tecnici di Machine Learning, i data scientist e gli sviluppatori di applicazioni a scegliere una piattaforma iniziale, comprendere le differenze tra le piattaforme e imparare a combinarle in architetture reali. La copertura include machine learning classico, machine learning integrato nell'analisi e carichi di lavoro generativi di intelligenza artificiale in Azure, Microsoft Fabric e Microsoft Foundry. Questo articolo è incentrato sulle soluzioni fornite Microsoft.

Usare questo articolo per confrontare le opzioni e progettare una soluzione end-to-end.

Note

Questo articolo è incentrato sulle piattaforme personalizzate di intelligenza artificiale e Machine Learning, non sugli assistenti SaaS (Software as a Service), sugli strumenti di creazione SaaS a basso codice o sulle esperienze degli utenti finali nel prodotto.

Scenari di carico di lavoro primari

Iniziare con la funzionalità di Intelligenza artificiale o Machine Learning che è necessario aggiungere al carico di lavoro. La tabella seguente esegue il mapping degli scenari di funzionalità comuni a una piattaforma iniziale consigliata per funzionalità personalizzate di intelligenza artificiale e Machine Learning. Usarlo come orientamento iniziale prima di esaminare le funzionalità della piattaforma e esaminare l'albero delle decisioni.

Scenario primario Punto di partenza consigliato Motivazione
Creare applicazioni di intelligenza artificiale generative o agenti di intelligenza artificiale Microsoft Foundry Fornisce l'individuazione dei modelli, l'ottimizzazione, la generazione aumentata di recupero (RAG), l'orchestrazione dell'agente, la valutazione e gli strumenti di sicurezza in un'unica piattaforma.
Aggiungere funzionalità di intelligenza artificiale tramite un'API predefinita per visione, riconoscimento vocale, lingua, ricerca o sicurezza dei contenuti Strumenti di fonderia Offre API con training preliminare che non richiedono training personalizzato. Usarli prima di creare un modello personalizzato.
Eseguire il training, distribuire e gestire un modello di Machine Learning o Deep Learning personalizzato Azure Machine Learning Illustra il ciclo di vita di Machine Learning completo, inclusi MLOps, endpoint online e batch e strumenti di intelligenza artificiale responsabili.
Eseguire l'apprendimento automatico integrato nell'analisi in una piattaforma unificata di business intelligence e dati Microsoft Fabric Fornisce una piattaforma di analisi SaaS che supporta notebook Apache Spark, AutoML e Microsoft l'integrazione basata su OneLake con Power BI.
Eseguire Machine Learning in Spark, dati lakehouse o processi di training distribuiti di grandi dimensioni Azure Databricks o Apache Spark in Azure HDInsight Azure Databricks: supporta Spark su scala lakehouse con integrazione nativa di MLflow e Catalogo Unity.

Azure HDInsight: supporta cluster Spark gestiti da Azure con l'archiviazione nativa e l'integrazione della sicurezza.
Mantenere l'apprendimento automatico all'interno di un database SQL, nei dispositivi perimetrali o nelle applicazioni desktop Applicazioni intelligenti SQL e strumenti di intelligenza artificiale, servizi Istanza gestita di SQL di Azure Machine Learning, servizi SQL Server Machine Learning o machine learning locali Fornisce un modo per mantenere i dati sul posto e aggiungere stime nel database, recupero vettoriale o integrazione degli endpoint di intelligenza artificiale.

Confrontare le funzionalità della piattaforma

La matrice seguente riepiloga dove ogni piattaforma è la soluzione principale, in cui offre supporto complementare e dove la funzionalità non è uno stato attivo. La matrice usa queste icone:

  • ✅ Funzionalità primaria
  • ⚠️ Funzionalità supportate o complementari
  • ❌ Non uno stato attivo
Capability Microsoft Foundry Azure Machine Learning (Apprendimento Automatico di Azure) Microsoft Fabric Azure Databricks Strumenti di fonderia Apprendimento Automatico SQL Edge o Machine Learning locale
Intelligenza artificiale generativa e agenti ✅ ⚠️ (piattaforma non primaria) ❌ ⚠️ (con ambito Lakehouse) ⚠️ (solo blocchi predefiniti) ❌ ⚠️ (solo su dispositivo)
Individuazione e valutazione dei modelli di base ✅ ⚠️ (piattaforma non primaria) ❌ ⚠️ (con ambito Lakehouse) ❌ ❌ ❌
Training di modelli personalizzati (apprendimento classico o avanzato) ⚠️ (solo ottimizzazione) ✅ ⚠️ (con ambito di analisi) ✅ ❌ ⚠️ (ambito database) ⚠️ (solo locale)
Calcolo di training su larga scala o distribuito ❌ ✅ ⚠️ (scala più piccola) ✅ ❌ ❌ ❌
AutoML (Automazione dell'apprendimento automatico) ❌ ✅ ✅ ✅ ❌ ❌ ⚠️ (solo .NET)
Ciclo di vita mlops (registro, pipeline, integrazione continua e recapito continuo (CI/CD)) ⚠️ (via Azure Machine Learning) ✅ ⚠️ (via Azure Machine Learning) ✅ ❌ ❌ ❌
Inferenza in tempo reale (online) ✅ ✅ ⚠️ (endpoint del modello in anteprima) ✅ ✅ ⚠️ (solo nel database) ✅
Inferenza batch (offline) ⚠️ (Online-first) ✅ ✅ ✅ ❌ ✅ ⚠️ (solo locale)
Distribuzione locale o offline ⚠️ (solo subset edge) ⚠️ (via Azure Arc) ❌ ❌ ⚠️ (solo contenitori) ✅ ✅
Strumenti di governance e sicurezza ✅ ✅ ⚠️ (governance del modello limitata) ✅ ⚠️ (ambito servizio) ⚠️ (ambito database) ❌

Le note seguenti chiarisce valutazioni specifiche nella matrice:

  • Foundry Tools è valutato come complementare per l'intelligenza artificiale generativa e gli agenti perché servizi come Azure AI Search, Content Safety in Foundry Control Plane e Azure Document Intelligence in Foundry Tools sono blocchi predefiniti comuni per le soluzioni RAG e agente. La piattaforma principale per lo sviluppo di intelligenza artificiale generativa è Microsoft Foundry.

  • Microsoft governance foundry proviene principalmente dal piano di controllo Foundry, che fornisce osservabilità, controlli di runtime, integrazione della sicurezza e gestione della flotta per agenti e applicazioni.

  • Azure Machine Learning supporta l'intelligenza artificiale generativa tramite l'accesso ai modelli Foundry, agli endpoint gestiti, alle funzionalità di valutazione e all'ottimizzazione per i modelli di base supportati. Non è la piattaforma principale per lo sviluppo di intelligenza artificiale generativa.

  • Azure Databricks ottiene una classificazione primaria per la governance perché Unity Catalog fornisce dati e governance unificati del modello con il controllo degli accessi in base al ruolo e OpenSharing.

  • Microsoft Fabric viene valutato come complementare per la governance perché OneLake, l'integrazione Microsoft Purview, le etichette di riservatezza e i controlli basati su dominio coprono bene gli asset di dati. Microsoft Fabric include un registro dei modelli basato su MLflow predefinito per l'archiviazione e il rilevamento dei modelli. Microsoft Fabric include anche una visualizzazione di derivazione predefinita per i modelli e gli esperimenti di Machine Learning, incluse le relazioni con lakehouse e elementi di codice. Ma Microsoft Fabric non include un dashboard di intelligenza artificiale responsabile. Per una governance più ampia del ciclo di vita del modello, associare Microsoft Fabric con Azure Machine Learning.

  • Microsoft Fabric viene valutato come complementare per l'inferenza in tempo reale perché Microsoft Fabric Real-Time Intelligence copre l'analisi di streaming e Microsoft Fabric endpoint del modello di Machine Learning forniscono endpoint REST online gestiti per stime in tempo reale. Gli endpoint del modello sono in anteprima e supportano un set limitato di versioni del modello. Per un'ampia distribuzione online di produzione, è anche possibile associare Microsoft Fabric con endpoint online gestiti Azure Machine Learning o Microsoft Foundry.

  • Foundry Local estende Microsoft Foundry all'inferenza sul dispositivo per scenari perimetrali e offline.

  • Azure Arc estende Azure Machine Learning ai cluster Kubernetes locali per il training o l'assegnazione di punteggi ibridi.

  • Microsoft Fabric data science include un'esperienza AutoML a basso codice. Code-first AutoML è disponibile tramite API Fast e Lightweight AutoML (FLAML) in Microsoft Fabric notebook. Per lo stato corrente, controllare la documentazione Microsoft Fabric.

Restringere la scelta della piattaforma

Usare l'albero delle decisioni seguente per restringere la scelta della piattaforma iniziale. L'albero consente di selezionare una piattaforma primaria per un carico di lavoro. La maggior parte delle soluzioni di produzione combina più di una piattaforma, quindi usare le sezioni specifiche del prodotto in questo articolo per perfezionare la propria scelta. Prendere in considerazione anche l'uso di un modello di architettura composta. Per altre informazioni, vedere Combinare le piattaforme.

Albero delle decisioni per una piattaforma di intelligenza artificiale Microsoft principale o machine learning in base allo scenario, al profilo di sviluppatore e alle posizioni di training e inferenza.

Scaricare un file Visio di questo albero delle decisioni.

Guida passo-passo

Seguire questa procedura per esaminare l'albero delle decisioni. Quando si raggiunge una scelta di piattaforma, ignorare i passaggi rimanenti.

  1. Identificare lo scenario di funzionalità.

    Scegliere la piattaforma a livello di funzionalità all'interno del carico di lavoro. Ogni funzionalità può avere requisiti funzionali e non funzionali univoci che possono essere usati da una o più tecnologie. Quando si usa questo diagramma di flusso, prendere in considerazione i requisiti del caso d'uso specifico da risolvere.

  2. Per l'intelligenza artificiale generativa e gli agenti, scegliere la piattaforma Microsoft corrispondente al profilo di sviluppo.

    • Accesso diretto all'API LLM (Direct Large Language Model): usare Azure OpenAI in Microsoft Foundry.

    • Sviluppo di agenti code-first o multi-agente: usare Microsoft Agent Framework SDK associato al servizio agente Foundry per l'hosting e l'orchestrazione.

    • Piattaforma di intelligenza artificiale generativa completa (Foundry Models, ottimizzazione, valutazione, sicurezza, osservabilità e governance): usare Microsoft Foundry.

  3. Per l'apprendimento automatico personalizzato e l'apprendimento avanzato, basare la decisione su dove deve essere eseguito il training e l'inferenza.

  4. Per l'apprendimento automatico integrato nell'analisi, scegliere la soluzione che corrisponde ai dati e al modello di business intelligence.

  5. Per il calcolo basato su Spark o distribuito, basare la decisione sull'uso di lakehouse o cluster Spark gestiti.

    • Lakehouse con governance del catalogo MLflow e Unity: usare Azure Databricks. È comunque possibile pubblicare modelli tramite Azure Machine Learning endpoint gestiti per la gestione e la governance.

    • Cluster Spark gestiti in Azure con l'archiviazione nativa e l'integrazione della sicurezza: usare Apache Spark in Azure HDInsight.

Note

Per le architetture che si estendono su ambienti cloud e locali, collegare cluster Kubernetes locali o multicloud a un'area di lavoro Azure Machine Learning tramite Azure Arc. Questa configurazione mantiene i dati locali durante l'orchestrazione del training e l'inferenza tramite Azure. Per informazioni dettagliate, vedere Configurare il cluster Kubernetes per Azure Machine Learning.

Azure Machine Learning (Apprendimento Automatico di Azure)

Azure Machine Learning è un servizio cloud completamente gestito per il training, la distribuzione e la gestione di modelli di Machine Learning su larga scala. Supporta decine di migliaia di pacchetti open source Python, tra cui TensorFlow, PyTorch e scikit-learn. Offre strumenti per il ciclo di vita di Machine Learning completo, dalla preparazione dei dati attraverso la distribuzione, MLOps e l'intelligenza artificiale responsabile.

Usare Azure Machine Learning quando sono necessarie le funzionalità seguenti:

  • Training personalizzato. Si usa il training di modelli personalizzati per l'apprendimento automatico classico, l'apprendimento avanzato o l'ottimizzazione delle macchine virtuali open source.

  • MLOps di produzione. Si usa un ciclo di vita MLOps di produzione che include il rilevamento dell'esperimento, il controllo delle versioni dei modelli, i registri regolamentati, le pipeline CI/CD e il monitoraggio della produzione.

  • Endpoint gestiti. Si usano endpoint di inferenza online o batch gestiti ospitati in un ambiente che fornisce scalabilità automatica, identità gestita e monitoraggio.

  • Calcolo ibrido. È possibile usare il training ibrido o l'inferenza nei cluster Kubernetes abilitati per Azure Arc.

La tabella seguente riepiloga le funzionalità della piattaforma offerte Azure Machine Learning nel ciclo di vita di Machine Learning.

Capability Descrizione
Aree di lavoro e archivi dati Risorsa centrale per organizzare esperimenti, calcolo, set di dati, modelli e connessioni ad archivi dati esterni. Le versioni degli asset e della cronologia di esecuzione vengono eseguite per la riproducibilità.
Calcolo di cluster e istanze Calcolo della CPU e della GPU di cui è stato effettuato il provisioning per il training distribuito (cluster di calcolo) e lo sviluppo interattivo di notebook (istanze di calcolo).
Calcolo serverless (senza server) Calcolo gestito su richiesta che Azure Machine Learning crea e ridimensiona automaticamente per i processi di training.
Machine Learning automatizzato Generazione di modelli, pipeline, ottimizzazione degli iperparametri e progettazione di funzionalità per la classificazione, la regressione, la previsione, la visione artificiale e l'elaborazione del linguaggio naturale.
Pipeline e progettazione Orchestrazione basata su codice e trascinamento della selezione per la preparazione, il training, la valutazione e la distribuzione dei dati. Si integra con gli strumenti CI/CD.
Accesso ai modelli foundry Piattaforma per l'individuazione, la valutazione, l'ottimizzazione e la distribuzione di modelli di base supportati da Microsoft, OpenAI, Meta, Hugging Face e altri provider tramite i modelli Foundry in Azure Machine Learning.
Rilevamento e gestione dei modelli dell'esperimento MLflow Rilevamento di esperimenti, esecuzioni, metriche, parametri, artefatti e modelli usando API compatibili con MLflow con un'area di lavoro Azure Machine Learning.
Endpoint online e batch Endpoint REST gestiti per l'inferenza in tempo reale e gli endpoint richiamabili per l'assegnazione dei punteggi batch, con scalabilità automatica e supporto delle identità gestite.
Strumenti di intelligenza artificiale responsabili Dashboard di equità, spiegazione e analisi degli errori.
Sicurezza e supporto ibrido Integrazione con Rete virtuale di Azure, Azure Key Vault, Registro Azure Container, controllo degli accessi in base al ruolo, identità gestite e Azure Arc.

La tabella seguente riepiloga i dettagli di base sull'adozione per Azure Machine Learning.

Aspect dettagli
TIPO Piattaforma di Machine Learning basata sul cloud.
Lingue supportate Python e R. Sono supportate anche un'interfaccia della riga di comando e le API REST.
Fasi di Machine Learning Preparazione dei dati, training, distribuzione, MLOps e intelligenza artificiale responsabile.
Vantaggi principali Flussi di lavoro dell'SDK e dell'interfaccia della riga di comando code-first. Creazione basata su Studio. Gestione centrale di script, esperimenti e cronologia di esecuzione. Training e distribuzione scalabili. Opzioni ibride tramite Azure Arc.
Considerazioni Una certa familiarità con l'area di lavoro e il modello di asset è utile prima di adottare MLOps completo.

Azure Machine Learning non è la soluzione migliore nelle situazioni seguenti:

  • È sufficiente usare le API con training preliminare per visione, riconoscimento vocale o lingua. In questo caso, usare Gli strumenti Foundry.

  • Machine Learning è una piccola estensione di un carico di lavoro di analisi. In questo caso, Microsoft Fabric o Azure Databricks potrebbe essere un punto di partenza migliore.

  • Il carico di lavoro è un'intelligenza artificiale end-to-end (selezione del modello, orchestrazione dell'agente, valutazione, distribuzione e monitoraggio). Inoltre, non è necessario il training classico di Machine Learning o l'asset Azure Machine Learning, l'esecuzione e il modello MLflow. In questo caso, Microsoft Foundry da solo può essere sufficiente. Un'area di lavoro Azure Machine Learning è necessaria solo quando è necessario Azure Machine Learning calcolo di training, ciclo di vita MLOps o endpoint online o batch gestiti per i modelli personalizzati.

Microsoft Foundry

Microsoft Foundry è la piattaforma unificata di Azure per la creazione, l'ottimizzazione e la governance di applicazioni di intelligenza artificiale generative e agenti di intelligenza artificiale. Microsoft Foundry combina il catalogo dei modelli Foundry, i servizi di orchestrazione, valutazione e sicurezza e un piano di controllo per la governance del runtime. Per lo sviluppo di agenti code-first, Microsoft coppie Foundry con Microsoft Agent Framework, l'SDK unificato Microsoft che sostituisce la suddivisione precedente tra Kernel semantico e AutoGen.

Usare Microsoft Foundry quando sono necessarie le funzionalità seguenti:

  • Intelligenza artificiale generativa o agenti. Si creano soluzioni di intelligenza artificiale generative o basate su agenti, ad esempio chatbot multimodello o flussi di lavoro LLM orchestrati.

  • Individuazione e valutazione dei modelli. È necessario essere in grado di individuare, confrontare e valutare i modelli di base da più provider.

  • Personalizzazione e governance dei modelli. Si vogliono ottimizzare, valutare e distribuire modelli di base in un ambiente gestito che fornisce controlli di osservabilità, sicurezza del contenuto e runtime predefiniti.

La tabella seguente riepiloga le funzionalità di Microsoft Foundry che supportano lo sviluppo di applicazioni di intelligenza artificiale generative e di agenti.

Capability Descrizione
Modelli di fonderia Catalogo di modelli con training preliminare da provider come Azure OpenAI, Hugging Face e Meta, oltre alla famiglia di modelli linguistici phi di piccole dimensioni Microsoft, con benchmark e opzioni di distribuzione.
Personalizzazione del modello Possibilità di ottimizzare o personalizzare modelli di base supportati sui propri dati. Le opzioni di distribuzione dipendono dal modello e includono tipi standard e di cui è stato effettuato il provisioning, se disponibili.
Servizio agente Foundry Piattaforma per l'hosting e l'orchestrazione degli agenti di intelligenza artificiale che automatizzano i processi aziendali a più passaggi. Coppie con Microsoft Agent Framework SDK per lo sviluppo di agenti code-first. Implementa l'API Risposte compatibili con OpenAI per il supporto dell'SDK client generale.
Foundry IQ Livello di conoscenza gestito che giustifica gli agenti sui dati aziendali. Compila knowledge base multisource e usa il recupero agentico per restituire risposte con riconoscimento delle autorizzazioni con citazioni. Basato su Azure AI Search. Le origini delle informazioni includono origini indicizzate (ad esempio un indice di Azure AI Search esistente, Archiviazione BLOB di Azure, file caricati direttamente, OneLake, Azure SQL e SharePoint indicizzati) e origini remote sottoposte a query in fase di esecuzione (ad esempio SharePoint remote, Microsoft Fabric ontologia, IQ di lavoro, Microsoft Bing dati Web, server MCP (Model Context Protocol) e agenti dati Microsoft Fabric). Molti di questi connettori sono attualmente in anteprima. Per lo stato dell'anteprima corrente e i connettori supportati, vedere origini delle informazioni agentiche in Azure AI Search. Per le opzioni dell'archivio dati, vedere Scegliere un servizio di Azure per la ricerca vettoriale.
Piano di controllo Foundry Interfaccia che fornisce osservabilità, controlli di runtime, integrazione della sicurezza e gestione della flotta in Microsoft agenti e applicazioni Foundry.
Sicurezza dei contenuti Un servizio di intelligenza artificiale che rileva contenuti dannosi generati dall'utente e generati dall'intelligenza artificiale. Vedere Sicurezza dei contenuti.
Fonderia Locale Una soluzione per l'inferenza di intelligenza artificiale sul dispositivo per scenari perimetrali e offline in cui le prestazioni, la privacy o i costi sono importanti.

Foundry Toolkit per Visual Studio Code

Foundry Toolkit for Visual Studio Code è l'esperienza di sviluppo principale per Microsoft Foundry. Usarlo quando si vuole un flusso di lavoro locale per le applicazioni e gli agenti di intelligenza artificiale generativi. Il toolkit supporta l'individuazione dei modelli, l'esecuzione del modello locale, lo sviluppo di richieste e agenti, l'integrazione degli strumenti, il debug, la traccia, la valutazione, l'ottimizzazione e la distribuzione di modelli in Microsoft Foundry da Visual Studio Code.

Iniziare in Foundry Toolkit quando la soluzione richiede codice, controllo del codice sorgente, iterazione locale, ispezione agente, integrazione degli strumenti MCP o test del modello prima della distribuzione. Usare il portale Foundry per l'esplorazione di modelli di verifica, la configurazione del progetto, la revisione delle risorse, la revisione della valutazione e la visibilità operativa dopo l'esecuzione di applicazioni e agenti.

Portale di Foundry e studio di Azure Machine Learning

Il portale foundry e studio di Azure Machine Learning sono esperienze Web complementari. Usarli per la creazione di prototipi, la gestione di progetti e risorse, la revisione della valutazione e la visibilità operativa.

Categoria Portale di Foundry Studio di Azure Machine Learning
Carico di lavoro più adatto Modelli di verifica, esplorazione dei modelli, revisione dell'agente, revisione della valutazione e visibilità operativa per le applicazioni e gli agenti di intelligenza artificiale generativi. Machine Learning personalizzato, Machine Learning classico, Deep Learning e flussi di lavoro più ampi della piattaforma di Machine Learning.
Trattamento dei dati Funzionalità per la connessione delle risorse del progetto e delle origini dati supportate, tra cui gestione rete virtuale di Azure, OneLake e Azure Data Lake Storage. Archiviazione dell'area di lavoro, asset di dati e account di archiviazione connessi Azure.
Esperienze di creazione Creazione di prototipi basati sul portale, playground, esplorazione dei modelli, revisione di valutazione e gestione delle risorse del progetto. Notebook, progettazione, AutoML, gestione dei modelli e flussi di lavoro dell'SDK e dell'interfaccia della riga di comando.
Linguaggi e SDK supportati Python, C#, JavaScript e Java SDK. API REST. Python, R e il interfaccia della riga di comando di Azure. API REST.
Forza di training di base Valutazione del modello e ottimizzazione supportata. AutoML e training personalizzato nell'apprendimento automatico classico, nell'apprendimento avanzato e nell'ottimizzazione LLM.
Calcolo e distribuzione Calcolo gestito e API serverless per i modelli di base supportati. Calcolo gestito, calcolo serverless, endpoint online, endpoint batch e opzioni di Azure Arc.
Superficie di intelligenza artificiale generativa Una superficie Web per l'esplorazione dei modelli foundry, la revisione di valutazione, l'osservabilità e gli strumenti di sicurezza. Foundry Modelli di accesso, endpoint gestiti, valutazione e ottimizzazione per i modelli di base supportati all'interno della piattaforma Azure Machine Learning.
Governance Piano di controllo foundry per la governance dell'agente e dell'applicazione. Dashboard di intelligenza artificiale responsabile, derivazione, gestione dei modelli e controlli MLOps.

La tabella seguente riepiloga i dettagli di base sull'adozione per Microsoft Foundry.

Aspect dettagli
TIPO Piattaforma unificata per modelli di base, agenti e applicazioni di intelligenza artificiale generative.
Lingue supportate Python, C#, JavaScript e Java SDK. API REST.
Fasi di Machine Learning Individuazione e valutazione dei modelli, sviluppo di applicazioni e agenti, ottimizzazione dei modelli supportati, distribuzione, monitoraggio e sicurezza.
Vantaggi principali Catalogo dei modelli Foundry consolidato. Valutazione integrata, sicurezza e osservabilità. Supporto di Agent e RAG. collaborazione basata su Project.

Microsoft Foundry non è la soluzione migliore nelle situazioni seguenti:

  • Si usano funzionalità di intelligenza artificiale predefinite, ad esempio il riconoscimento ottico dei caratteri (OCR), la trascrizione vocale, la traduzione o la moderazione del contenuto tramite un'API e non è necessaria la selezione del modello, l'orchestrazione o gli agenti. In questo caso, usare Gli strumenti Foundry.

  • La soluzione richiede il training di modelli personalizzati, per l'apprendimento automatico classico o l'apprendimento avanzato e le funzionalità MLOps complete. In questo caso, usare Azure Machine Learning. Microsoft Foundry non offre risorse di calcolo di training con provisioning generale o AutoML per i dati tabulari.

  • La soluzione richiede la progettazione dei dati su scala Spark. In questo caso, usare Azure Databricks o Microsoft Fabric.

Strumenti di fonderia

Foundry Tools, in precedenza Servizi di Azure AI e Servizi cognitivi, è una famiglia di funzionalità di intelligenza artificiale con training preliminare usate tramite API REST e SDK. Ogni strumento è destinato a una funzionalità specifica, in modo da poter aggiungere funzionalità intelligenti alle applicazioni senza compilare o eseguire il training di un modello personalizzato. Per informazioni sulla scelta del servizio da usare, vedere Scegliere una tecnologia di servizi di intelligenza artificiale.

Tip

Gli strumenti foundry forniscono API con training preliminare per le attività probabilistiche comuni. Per i modelli di intelligenza artificiale generativi, gli agenti e l'orchestrazione, lavorare in Microsoft Foundry invece di usare direttamente gli strumenti Foundry. Molti servizi in Foundry Tools condividono lo stesso tipo di risorsa Azure sottostante (Microsoft.CognitiveServices/accounts) di Microsoft Foundry, ma sono prodotti distinti.

Usare gli strumenti Foundry nelle situazioni seguenti:

  • Un'API con training preliminare copre lo scenario, quindi non è necessario eseguire il training di un modello personalizzato.

  • Sono necessarie API standard, gestite e integrazione basata su API con le applicazioni esistenti.

La tabella seguente raggruppa i servizi comunemente usati per area delle funzionalità. I modelli di intelligenza artificiale generativa, gli agenti e l'orchestrazione fanno parte di Microsoft Foundry e sono elencati separatamente per riferimento.

Area di funzionalità Servizi rappresentativi
Vision Azure Visione e Viso di Azure in Strumenti Foundry.
Informazioni su documenti e contenuti Azure Informazioni sui documenti e informazioni sui contenuti di Azure.
Speech Azure riconoscimento vocale per la trascrizione vocale, la generazione della voce da testo a voce e il riconoscimento del parlante.
Language Azure Lingua per il riconoscimento delle entità denominate, il rilevamento dei dati personali e il rilevamento della lingua. Traduttore di Azure in Strumenti foundry per la traduzione.
Ricerca e conoscenza Azure AI Search per il recupero rag e la ricerca basata su intelligenza artificiale.
Sicurezza dei contenuti Sicurezza dei contenuti per il rilevamento di contenuti dannosi nei contenuti generati dall'utente e generati dall'intelligenza artificiale.
Video Video Indexer di Azure AI per l'analisi e l'indicizzazione di video.
Creare modelli e agenti di intelligenza artificiale generativi Microsoft Foundry. Include il servizio agente foundry e i modelli foundry.

Per confrontare i servizi all'interno di un'area di funzionalità e sceglierne uno, vedere le guide di selezione dettagliate seguenti:

La tabella seguente riepiloga i dettagli di base sull'adozione per gli strumenti Foundry.

Aspect dettagli
TIPO API con training preliminare per la creazione di applicazioni intelligenti.
Lingue supportate C#, Java, JavaScript e SDK Python a seconda del servizio. API REST.
Fasi di Machine Learning Uso tramite LE API. Alcuni servizi supportano la personalizzazione.
Vantaggi principali Possibilità di aggiungere funzionalità di intelligenza artificiale predefinite tramite LE API. È necessaria una competenza minima per l'analisi scientifica dei dati. Scalabilità gestita.

Foundry Tools non è la soluzione migliore nella situazione seguente: lo scenario richiede architetture di modelli personalizzate o dati di training oltre alle opzioni di personalizzazione supportate. In questi casi, usare Azure Machine Learning per modelli classici o di Deep Learning o usare Microsoft Foundry per l'ottimizzazione dell'intelligenza artificiale generativa.

Microsoft Fabric

Microsoft Fabric è una piattaforma di analisi unificata basata su SaaS. Integra data engineering, data science, data warehousing, intelligence in tempo reale e Power BI su una base di dati OneLake condivisa. Data engineer, data scientist e business analyst che usano Microsoft Fabric collaborare nello stesso ambiente gestito.

Il carico di lavoro di data science Microsoft Fabric è la parte più rilevante per l'apprendimento automatico. Offre notebook Spark, AutoML, un'esperienza MLflow predefinita per il rilevamento degli esperimenti e un registro dei modelli. Per informazioni dettagliate, vedere Informazioni sull'analisi scientifica dei dati in Microsoft Fabric?.

Usare Microsoft Fabric quando sono necessarie le funzionalità seguenti:

  • Machine Learning integrato nell'analisi. Machine Learning fa parte di un flusso di lavoro di analisi più ampio nella soluzione, ad esempio la creazione di un modello sui dati in un lakehouse e la gestione delle stime per Power BI.

  • SaaS completamente gestito. Si vuole un'esperienza SaaS completamente gestita con un'infrastruttura minima da gestire.

  • Base dati condivisa. Il team lavora in progettazione dei dati, data science e BI nella stessa base di OneLake.

La tabella seguente riepiloga Microsoft Fabric funzionalità più rilevanti per l'apprendimento automatico integrato nell'analisi.

Capability Descrizione
Base di OneLake Un singolo data lake logico condiviso da carichi di lavoro Microsoft Fabric, tra cui Ingegneria dei dati, Data Science, Data Warehouse e Power BI.
Carico di lavoro di data science Runtime spark gestito con notebook per Python, R, SQL e Scala per l'analisi e il training del modello. Include un'esperienza MLflow predefinita per il rilevamento dell'esperimento e un registro dei modelli. È anche possibile registrare esperimenti e modelli MLflow tra aree di lavoro e piattaforme, inclusi in Microsoft Fabric da un'area di lavoro Azure Machine Learning.
AutoML (Automazione dell'apprendimento automatico) AutoML con poco codice per la classificazione, la regressione e la previsione. Il code-first AutoML è disponibile tramite le API FLAML nei notebook di Microsoft Fabric.
Real-Time Intelligence e Activator di Fabric Analisi di streaming e rilevamento di eventi senza codice che possono attivare Microsoft Fabric pipeline, notebook o azioni downstream.
Endpoint del modello di Machine Learning Endpoint REST online gestiti che gestiscono stime in tempo reale da modelli di Microsoft Fabric registrati. Questa funzionalità è disponibile in anteprima e limitata a un set di versioni del modello, ma sono supportati i modelli con training automatico. Per informazioni dettagliate, vedere Gestire stime in tempo reale con gli endpoint del modello di Machine Learning.
Integrazione di Power BI Un mezzo per esporre gli output di Machine Learning a Power BI tramite modelli e report semantici, tra cui Direct Lake quando Microsoft Fabric dati rimangono in OneLake e importare o usare modelli DirectQuery quando necessario. Usare questa integrazione per incorporare stime, punteggi di anomalie e metriche di previsione nei dashboard aziendali e nei flussi di lavoro delle decisioni.
Integrazione di Microsoft Foundry Un modo per inserire Microsoft Fabric dati o output del modello in un'applicazione o un agente basato su Foundry Microsoft, ad esempio un copilota a terra, un flusso di lavoro di riepilogo o un'esperienza RAG. In pratica, Microsoft Foundry può connettersi ai dati Microsoft Fabric tramite un agente dati Microsoft Fabric o un'altra connessione dati supportata. Quindi Microsoft Foundry può usare tale contesto durante la generazione di risposte dell'agente. Se il carico di lavoro necessita solo di Machine Learning classico all'interno di Microsoft Fabric e non richiede LLMs o agenti, questa integrazione in genere non è necessaria.

La tabella seguente riepiloga i dettagli di base sull'adozione per Microsoft Fabric.

Aspect dettagli
TIPO Piattaforma di analisi SaaS unificata.
Lingue supportate Python, R, SQL e Scala.
Fasi di Machine Learning Preparazione dei dati, training, registrazione, assegnazione dei punteggi batch, gestione in tempo reale (anteprima), analisi in tempo reale e consumo di BUSINESS Intelligence.
Vantaggi principali Una base condivisa di OneLake. Sovraccarico operativo ridotto. Integrazione con Power BI e il patrimonio di dati Microsoft più ampio.

Microsoft Fabric non è la soluzione migliore nella situazione seguente: è necessario un apprendimento avanzato su larga scala, mlops completo con registri regolamentati o un controllo di calcolo con granularità fine. In questi casi, integrare Microsoft Fabric con Azure Machine Learning o Azure Databricks. Microsoft Fabric copre bene l'apprendimento automatico integrato nell'analisi, ma non è una sostituzione per una piattaforma di Machine Learning dedicata.

Note

Microsoft Fabric è la piattaforma consigliata per i nuovi investimenti di Machine Learning integrati nell'analisi. Per gli investimenti esistenti in Azure Synapse Analytics, vedere Machine Learning in Azure Synapse Analytics. Per la migrazione di pool SQL dedicati a Microsoft Fabric Data Warehouse, vedere Fabric Migration Assistant per Data Warehouse.

Azure Databricks

Azure Databricks è una piattaforma unificata di analisi aperta per la creazione, la distribuzione, la condivisione e la gestione di dati, analisi e soluzioni di intelligenza artificiale. Combina le funzionalità di data warehousing e data lake in un'architettura lakehouse e si integra con Azure archiviazione e sicurezza.

Usare Azure Databricks quando sono necessarie le funzionalità seguenti:

  • Machine Learning su scala Spark. È necessario eseguire Machine Learning in set di dati di grandi dimensioni o cluster Spark distribuiti.

  • Flusso di lavoro unified lakehouse. È possibile combinare progettazione dei dati, progettazione di funzionalità, sperimentazione e sviluppo di modelli in un flusso di lavoro di lakehouse.

  • Operazioni di Machine Learning di produzione. Si vuole distribuire, gestire e monitorare le soluzioni di Machine Learning nell'ambiente di produzione usando endpoint gestiti, flussi di lavoro automatizzati e pipeline MLOps.

  • Governance del catalogo Unity. Si vogliono gestire dati, funzionalità, modelli e funzioni in Unity Catalog, che fornisce controllo di accesso centralizzato e derivazione.

  • Intelligenza artificiale generativa e agenti. È possibile creare carichi di lavoro generativi dell'agente di intelligenza artificiale e intelligenza artificiale in Azure Databricks, inclusi scenari di modelli personalizzati e di base.

Nella tabella seguente sono elencate le funzionalità di Azure Databricks rilevanti:

Capability Descrizione
Integrazione gestita con progetti open source Include Delta Lake, OpenSharing, MLflow, Spark, Apache Spark Structured Streaming e il catalogo Unity.
Azure Databricks Runtime per Apprendimento Automatico Offre librerie preinstallate per l'apprendimento automatico classico e l'apprendimento avanzato, tra cui Hugging Face Transformers.
Rilevamento e modelli MLflow nel catalogo unity Supporta il rilevamento dell'esperimento, la gestione del ciclo di vita dei modelli e l'individuazione di modelli regolamentati.
Progettazione delle funzionalità e modelli di gestione delle funzionalità Supporta funzionalità di training e inferenza riutilizzabili.
servizio Azure Databricks modello Offre endpoint di inferenza in tempo reale gestiti con scalabilità automatica, distribuzioni con controllo delle versioni, controlli del traffico e monitoraggio della produzione.
Gateway di intelligenza artificiale Fornisce la governance dell'accesso al modello, il rilevamento dell'utilizzo e la registrazione del payload tra modelli gestiti ed esterni. Supporta lo sviluppo, la valutazione e la gestione di modelli personalizzati o aperti in un ambiente lakehouse.
Funzioni di intelligenza artificiale in SQL Offre agli analisti un modo per chiamare IMS dalle pipeline di dati.
API del modello di base Integra modelli esterni e fornisce modelli di accesso unificato tra provider di modelli.
Governance del catalogo Unity Fornisce una governance unificata di dati, funzionalità, modelli e funzioni tramite funzionalità quali il controllo degli accessi in base al ruolo e OpenSharing.
Analisi di streaming Offre analisi in tempo reale e di streaming tramite Structured Streaming e Delta Lake.
Processi Lakeflow e MLOps Fornisce processi e flussi di lavoro per pipeline di training, valutazione, distribuzione e ripetizione del training automatizzati.

La tabella seguente riepiloga i dettagli di base sull'adozione per Azure Databricks.

Aspect dettagli
TIPO Piattaforma lakehouse basata su Spark.
Lingue supportate Python, R, Scala e SQL.
Fasi di Machine Learning Preparazione dei dati, training, ottimizzazione, valutazione, gestione dei modelli e governance.
Vantaggi principali Ciclo di vita di Machine Learning end-to-end in una lakehouse. Integrazione nativa di MLflow. Gestione e operazioni. Governance del catalogo Unity. Machine Learning su scala Spark e supporto per intelligenza artificiale generativa.
Considerazioni La gestione dei modelli serverless può ridurre il sovraccarico dell'infrastruttura di inferenza, ma il costo della preparazione dei dati basata su Spark, la progettazione delle funzionalità e il training dei modelli rimane una considerazione importante. Per i carichi di lavoro non Spark, gli strumenti di Azure Machine Learning o Foundry potrebbero essere più semplici.

Azure Databricks non è la soluzione migliore nelle situazioni seguenti:

  • Il team non necessita dell'elaborazione su larga scala di Spark. In questo caso, il sovraccarico del cluster potrebbe non essere giustificato.

  • Lo scenario usa esclusivamente l'intelligenza artificiale basata su API. In questo caso, Foundry Tools o Microsoft Foundry offre un percorso più diretto.

  • È necessario Azure Machine Learning controlli di governance specifici, funzionalità degli endpoint o un livello endpoint standardizzato tra i team. In questi casi, usare Azure Machine Learning endpoint gestiti in una progettazione ibrida.

Applicazioni intelligenti SQL e Machine Learning

L'intelligenza artificiale nel database SQL mantiene i dati relazionali regolati in cui si trova già e aggiunge la stima, il recupero vettoriale e l'integrazione degli endpoint di intelligenza artificiale direttamente in Transact-SQL (T-SQL).

Usare l'intelligenza artificiale nel database SQL nelle situazioni seguenti:

  • I dati devono rimanere all'interno del database relazionale per motivi di sicurezza, privacy, latenza o normative.

  • È necessario un punteggio a bassa latenza vicino alle transazioni, ad esempio controlli di frode o decisioni sulle azioni migliori successive.

  • Si vuole eseguire la ricerca e il recupero di vettori direttamente nel database per i modelli di ricerca e corrispondenza semantica.

  • È necessaria una chiamata nativa del database degli endpoint di intelligenza artificiale esterni da T-SQL per l'orchestrazione o i flussi di lavoro chiamabili tramite agente.

La tabella seguente elenca le piattaforme e gli strumenti correnti:

Capability Ruolo nell'architettura
PREDICT in T-SQL Esegue l'assegnazione dei punteggi nel database nativa per i modelli supportati, inclusi i modelli di runtime basati su ONNX, se disponibili.
Tipo di dati vettoriale e funzioni vettoriali Archivia gli incorporamenti ed esegue operazioni di somiglianza vettoriale all'interno del motore relazionale.
sp_invoke_external_rest_endpoint Chiama endpoint di intelligenza artificiale esterni da T-SQL con credenziali, intestazioni, opzioni di ripetizione dei tentativi e controlli in uscita regolamentati.
Funzioni di intelligenza artificiale (Transact-SQL), tra cui AI_GENERATE_EMBEDDINGS Aggiunge operazioni di intelligenza artificiale native del database per la suddivisione in blocchi, la generazione di incorporamento e i flussi di lavoro di intelligenza artificiale SQL correlati.
Servizi Istanza gestita di SQL di Azure Machine Learning Supporta l'esecuzione nel database di codice Python e R per i carichi di lavoro esistenti in stile Machine Learning Services.

La tabella seguente riepiloga i dettagli di base sull'adozione per Azure SQL Machine Learning.

Aspect dettagli
TIPO Funzionalità di intelligenza artificiale relazionale nel database per la stima, il recupero vettoriale e l'integrazione degli endpoint di intelligenza artificiale.
Lingue supportate T-SQL per primo. Python e R sono disponibili tramite Istanza gestita di SQL di Azure Machine Learning Services.
Fasi di Machine Learning Preparazione dei dati nel database, training, inferenza, recupero vettoriale ed orchestrazione degli endpoint.
Vantaggi principali Mantiene i dati transazionali regolati sul posto. Riduce lo spostamento dei dati. Abilita l'arricchimento di intelligenza artificiale a bassa latenza nei flussi di lavoro SQL esistenti.
Considerazioni La disponibilità delle funzionalità varia in base alla piattaforma e alla versione di SQL. Il training e l'apprendimento avanzato distribuito su larga scala sono in genere gestiti meglio in Azure Machine Learning, Azure Databricks o Microsoft Fabric.

Combinare Azure SQL Machine Learning con un'altra piattaforma quando si vuole adottare l'approccio seguente:

  • Eseguire il training esternamente, assegnare punteggi in SQL. Per il training su larga scala o deep learning, usare Azure Machine Learning, Azure Databricks o Microsoft Fabric per il training. Riportare quindi gli artefatti di inferenza in SQL per l'assegnazione dei punteggi nel database.

  • Training del cloud, distribuzione di database, stima SQL. Eseguire il training esterno, esportare un artefatto di assegnazione dei punteggi supportato dalla piattaforma SQL di destinazione e quindi usare PREDICT per eseguire stime in SQL vicino ai dati transazionali.

  • Generare incorporamenti in SQL, chiamare endpoint per la generazione. Per gli scenari RAG e agent, generare incorporamenti e recupero vettoriale in SQL. Quindi, se è necessaria la generazione di risposte, usare sp_invoke_external_rest_endpoint per chiamare gli endpoint del modello esterno da SQL.

Machine Learning edge, locale e locale

Per l'apprendimento automatico eseguito all'esterno del cloud, nei dispositivi locali, in ambienti offline, incorporati nelle applicazioni o all'interno dell'infrastruttura locale, Microsoft offre diverse opzioni.

Usare Machine Learning edge, locale e locale quando sono necessarie le funzionalità seguenti:

  • Inferenza locale. Per soddisfare i requisiti di latenza, operazione offline o privacy dei dati, lo scenario deve essere inferenza per l'esecuzione in locale. Ad esempio, le soluzioni di manutenzione predittiva in ambienti con connettività intermittente richiedono inferenza locale.

  • Possibilità di incorporare Machine Learning nelle applicazioni. È possibile creare applicazioni desktop o per dispositivi mobili che necessitano di funzionalità di Machine Learning incorporate.

  • Esecuzione locale. Lo scenario richiede l'esecuzione di Machine Learning per rimanere all'interno di un ambiente locale, ad esempio una distribuzione locale SQL Server.

Microsoft offre queste opzioni:

  • Microsoft Foundry in Windows include Windows ML per l'inferenza locale nei dispositivi Windows con accelerazione hardware tra CPU, GPU e NPU. Usare Windows ML per i nuovi carichi di lavoro di inferenza di app e dispositivi Windows.

  • ML.NET è un framework di Machine Learning multipiattaforma open source per sviluppatori .NET. Supporta il caricamento dei dati, il training (incluso AutoML per .NET) e l'inferenza locale. Usare ML.NET quando l'applicazione richiede il training o l'inferenza del modello nativo .NET, inclusa l'integrazione del modello ONNX.

  • SQL Server Machine Learning Services supporta il training e l'assegnazione dei punteggi all'interno di SQL Server locali quando i dati devono rimanere nel livello dati locale.

  • Foundry Local è una soluzione di inferenza di intelligenza artificiale su dispositivo che estende Microsoft Foundry agli scenari perimetrali e offline.

  • Azure Locale fornisce un'infrastruttura gestita da Azure per macchine virtuali e contenitori locali. Usarlo per ospitare componenti di intelligenza artificiale perimetrale vicini ai dati, ad esempio carichi di lavoro locali foundry, componenti di recupero RAG o modelli ONNX esportati da Azure Machine Learning.

  • Il calcolo Kubernetes per Azure Machine Learning collega cluster Kubernetes abilitati per Azure Arc a un'area di lavoro Azure Machine Learning in modo che i cluster locali o multicloud eseguano il training e l'inferenza mentre l'orchestrazione rimane in Azure.

  • Azure IoT Edge distribuisce modelli di Machine Learning in contenitori nei dispositivi perimetrali in modo che l'inferenza venga eseguita localmente.

  • Azure Stack Edge fornisce appliance perimetrali gestite da Microsoft che è possibile usare per l'apprendimento automatico accelerato dall'hardware e per i carichi di lavoro in contenitori o macchine virtuali. I dispositivi sono disponibili solo per carichi di lavoro o distribuzioni partner convalidati di almeno 100 nodi.

Un modello tipico esegue il training di un modello esportabile nel cloud usando Azure Machine Learning o Azure Databricks. Il modello viene quindi convertito in ONNX quando il modello e il runtime di destinazione supportano tale formato. Infine, il modello viene distribuito per l'inferenza perimetrale tramite Windows ML, ML.NET, un modulo Azure IoT Edge, Foundry Local o Azure Locale infrastruttura.

Combinare le piattaforme

Le soluzioni di produzione possono combinare più di una piattaforma. Il diagramma di flusso riportato in precedenza in questo articolo consente di scegliere una piattaforma iniziale principale . Usare la tabella seguente per pianificare architetture composte e identificare i componenti Microsoft di supporto richiesti in genere da ogni scenario.

Scenario combinato Piattaforma primaria Supporto dei componenti Microsoft Pattern
Enterprise RAG o chat-with-your-data Microsoft Foundry Azure AI Search (e IQ di Foundry per l'archiviazione), Azure Document Intelligence (inserimento), Microsoft Fabric o Azure Cosmos DB (archivio dati), Content Safety Inserire contenuto aziendale, indicizzarlo per il recupero vettoriale e ibrido e terra un Microsoft'agente ospitato da Foundry o un'applicazione LLM su di esso. Per le opzioni dell'archivio dati, vedere Scegliere un servizio di Azure per la ricerca vettoriale.
Intelligenza artificiale generativa oltre all'analisi regolamentata Microsoft Fabric Microsoft Foundry (agenti, modelli), Power BI (consumo), Azure AI Search Usare Microsoft Fabric per inserire e archiviare dati regolati in OneLake. Creare quindi agenti o applicazioni RAG in Microsoft Foundry su tali dati. Visualizzare i risultati in Power BI.
Machine Learning personalizzato arricchito con funzionalità di intelligenza artificiale predefinite Azure Machine Learning (Apprendimento Automatico di Azure) visione Azure, intelligence Azure documenti, riconoscimento vocale Azure, lingua Azure, Azure AI Search Usare gli strumenti foundry per la pre-elaborazione, l'estrazione di funzionalità o il recupero e usare Azure Machine Learning per eseguire il training, la distribuzione e la governance del modello personalizzato basato su tali funzionalità.
Training su scala Spark con gestione gestita Azure Databricks Azure Databricks Model Serving, MLflow, Unity Catalog, optional Azure Machine Learning (governance o standardizzazione degli endpoint) Eseguire la progettazione delle funzionalità e il training distribuito in Azure Databricks. Usare quindi Azure Databricks Model Serving per distribuire e gestire i modelli sottoposti a training. Aggiungere Azure Machine Learning endpoint gestiti quando è necessario Azure Machine Learning governance o standardizzazione degli endpoint specifici tra i team.
Training del cloud, distribuzione perimetrale Azure Machine Learning o Azure Databricks ONNX (scambio di modelli), Windows ML, ML.NET, Foundry Local, Azure IoT Edge, Azure Locale, Azure Stack Edge Eseguire il training di un modello esportabile nel cloud, convertirlo in ONNX quando supportato e distribuirlo in dispositivi, gateway locali o appliance perimetrali con accelerazione hardware per inferenza offline o a bassa latenza.
Machine Learning locale e cloud ibrido Azure Machine Learning su Azure Arc cluster Kubernetes abilitati per Azure Arc, un'area di lavoro Azure Machine Learning, registro contenitori Key Vault Mantenere i dati in locale durante l'uso di un'area di lavoro Azure Machine Learning collegata a Kubernetes Azure Arc per orchestrare il training e l'inferenza.
Assegnazione dei punteggi nel database con modelli con training cloud Apprendimento Automatico SQL Azure Machine Learning o Azure Databricks (training), ONNX, Istanza gestita di SQL o SQL Server Eseguire il training nel cloud, esportare in ONNX e usare la funzione SQL PREDICT per l'assegnazione dei punteggi nel database a bassa latenza accanto ai dati operativi.
Automazione multi-agente Microsoft Agent Framework e servizio agente Foundry Foundry Models, Foundry IQ, Azure AI Search, Funzioni di Azure o App per la logica di Azure (strumenti), Gestione API di Azure Creare flussi di lavoro multi-agente nel codice usando Microsoft Agent Framework, usare il servizio agente Foundry per ospitarli e orchestrarli e integrare strumenti e API aziendali.

Piattaforme e strumenti di sviluppo

La maggior parte dei team usa strumenti di sviluppo trasversali e servizi di supporto insieme alla piattaforma selezionata come principale. Questi strumenti influiscono sulla posizione in cui viene sviluppata, testata e inserita nel pacchetto il lavoro di Intelligenza artificiale e Machine Learning prima dell'esecuzione. I servizi di supporto influiscono sulla posizione in cui l'inferenza è ospitata o in cui il calcolo si collega ai dati che non possono passare a una piattaforma cloud gestita.

Questa sezione separa gli strumenti di sviluppo principali, ovvero le piattaforme operative e di sviluppo quotidiane, dai servizi di supporto adiacenti che ospitano l'inferenza autogestito, accelerano l'apprendimento automatico basato su Spark o estendono il training e l'assegnazione dei punteggi all'infrastruttura locale.

Gli strumenti seguenti supportano lo sviluppo tra le piattaforme cloud e locali.

Tool Descrizione
Foundry Toolkit per Visual Studio Code Esperienza di sviluppo in VS Code per la compilazione, il test, il debug, la valutazione e la distribuzione di applicazioni e agenti di intelligenza artificiale generativi. Supporta modelli locali, cataloghi di modelli, sviluppo di agenti, integrazione degli strumenti, traccia e valutazione.
Portale di Foundry Un ambiente Web per operazioni di verifica, esplorazione di modelli, gestione delle risorse del progetto, revisione della valutazione e visibilità operativa in Microsoft applicazioni e agenti Foundry.
Studio di Azure Machine Learning Interfaccia utente Web per la piattaforma Azure Machine Learning. Include notebook, progettazione pipeline, AutoML, gestione dei modelli e etichettatura dei dati.
Macchina virtuale di data science di Azure Immagine di macchina virtuale preconfigurata con strumenti di data science come Jupyter, R e Python preinstallati.
ML.NET Framework di Machine Learning multipiattaforma open source per le applicazioni .NET.
Microsoft Foundry in Windows Windows ML per l'inferenza del modello locale con accelerazione hardware nei dispositivi Windows.
SynapseML Framework di Machine Learning e microservizi distribuiti open source per Spark.

I servizi di supporto adiacenti sono utili per la sperimentazione, l'hosting di inferenze autogestito, l'apprendimento automatico basato su Spark o l'operazione ibrida, ma non sono le scelte principali della piattaforma nel flusso decisionale.

Servizio Ruolo nell'ecosistema di Machine Learning e intelligenza artificiale
Servizio Azure Kubernetes (AKS) e App contenitore di Azure Soluzioni per l'hosting di contenitori di inferenza autogestito in Azure. Usare App contenitore per l'hosting di contenitori gestiti più semplice o il servizio Azure Kubernetes quando è necessario un maggiore controllo sul runtime di gestione e sull'ambiente del cluster. Gli esempi comuni includono stack di gestione open source, ad esempio vLLM, Server inferenza Di Xaml o BentoML.
SynapseML Framework open source e distribuito di Machine Learning e microservizi per Spark. Funziona su Azure Databricks, Microsoft Fabric e altri cluster Spark.
Machine Learning abilitato per Azure Arc Soluzione per collegare cluster Kubernetes locali o multicloud a un'area di lavoro Azure Machine Learning per il training e l'inferenza ibridi.

Contributori

Microsoft mantiene questo articolo. I seguenti collaboratori hanno scritto questo articolo.

Autore principale:

Per visualizzare i profili LinkedIn non pubblici, accedere a LinkedIn.

Passaggi successivi

  • Last updated on