Microsoft AI- och maskininlärningsprodukter

Microsoft erbjuder flera plattformar för AI och maskininlärning. Varje plattform riktar sig mot en annan kombination av målgrupp, arbetsbelastning, datagrund och distributionsmodell. Den här artikeln hjälper lösningsarkitekter, maskininlärningstekniker, dataforskare och programutvecklare att välja en startplattform, förstå hur plattformarna skiljer sig åt och lära sig att kombinera dem i verkliga arkitekturer. Täckningen omfattar klassisk maskininlärning, analysintegrerad maskininlärning och generativa AI-arbetsbelastningar i Azure, Microsoft Fabric och Microsoft Foundry. Den här artikeln fokuserar på Microsoft lösningar som tillhandahålls.

Använd den här artikeln om du vill jämföra alternativ och utforma en lösning från slutpunkt till slutpunkt.

Note

Den här artikeln fokuserar på anpassade AI- och maskininlärningsplattformar, inte paketerade SaaS-assistenter (programvara som en tjänst), saaS-redigeringsverktyg med låg kod eller slutanvändarupplevelser i produkten.

Primära arbetsbelastningsscenarier

Börja med den AI- eller maskininlärningsfunktion som du behöver lägga till i din arbetsbelastning. I följande tabell mappas vanliga funktionsscenarier till en rekommenderad startplattform för anpassade AI- och maskininlärningsfunktioner. Använd den som en inledande orientering innan du granskar plattformsfunktionerna och går igenom beslutsträdet.

Primärt scenario Rekommenderad utgångspunkt Motivering
Skapa generativa AI-program eller AI-agenter Microsoft Foundry Tillhandahåller modellidentifiering, finjustering, hämtningsförhöjd generation (RAG), agentorkestrering, utvärdering och säkerhetsverktyg på en plattform.
Lägga till AI-funktioner via ett fördefiniert API för vision, tal, språk, sökning eller innehållssäkerhet Gjuteri Verktyg Erbjuder förtränad API:er som inte kräver någon anpassad utbildning. Använd dem innan du skapar en anpassad modell.
Träna, distribuera och hantera en anpassad maskininlärnings- eller djupinlärningsmodell Azure Machine Learning Omfattar hela livscykeln för maskininlärning, inklusive MLOps, slutpunkter online och batch samt ansvarsfull AI-verktyg.
Köra analysintegrerad maskininlärning på en enhetlig data- och business intelligence-plattform (BI) Microsoft Fabric Tillhandahåller en SaaS-analysplattform som stöder Apache Spark-notebook-filer, AutoML och Microsoft OneLake-backad integrering med Power BI.
Köra maskininlärning på Spark, lakehouse-data eller stora distribuerade träningsjobb Azure Databricks eller Apache Spark i Azure HDInsight Azure Databricks: Stöder Spark i lakehouse-skala med inbyggd MLflow- och Unity Catalog-integrering.

Azure HDInsight: Stöder Azure hanterade Spark-kluster med intern lagring och säkerhetsintegrering.
Behåll maskininlärning i en SQL-databas, på gränsenheter eller i skrivbordsprogram SQL-intelligenta program och AI, Azure SQL Managed Instance strojové učenie Services, SQL Server strojové učenie Services eller lokala machine learning verktyg Ger ett sätt att hålla data på plats och lägga till förutsägelse i databasen, vektorhämtning eller AI-slutpunktsintegrering.

Jämföra plattformsfunktioner

Följande matris sammanfattar var varje plattform är den primära passformen, där den erbjuder kompletterande stöd och där funktionen inte är i fokus. Matrisen använder följande ikoner:

  • ✅ Primär kapacitet
  • ⚠️ Funktioner som stöds eller kompletterar varandra
  • ❌ Inte i fokus
Capability Microsoft Foundry Azure Machine Learning Microsoft Fabric Azure Databricks Gjuteriverktyg SQL-maskininlärning Edge eller lokal maskininlärning
Generativ AI och agenter ✅ ⚠️ (Inte primär plattform) ❌ ⚠️ (Lakehouse-scoped) ⚠️ (Endast byggblock) ❌ ⚠️ (endast på enheten)
Identifiering och utvärdering av grundmodell ✅ ⚠️ (Inte primär plattform) ❌ ⚠️ (Lakehouse-scoped) ❌ ❌ ❌
Anpassad modellträning (klassisk eller djupinlärning) ⚠️ (endast finjustering) ✅ ⚠️ (Analysomfång) ✅ ❌ ⚠️ (Databasomfattning) ⚠️ (endast lokalt)
Storskalig eller distribuerad träningsberäkning ❌ ✅ ⚠️ (Mindre skala) ✅ ❌ ❌ ❌
Automatisk maskininlärning (AutoML) ❌ ✅ ✅ ✅ ❌ ❌ ⚠️ (endast .NET)
MLOps-livscykel (register, pipelines, kontinuerlig integrering och kontinuerlig leverans (CI/CD)) ⚠️ (Via Azure Machine Learning) ✅ ⚠️ (Via Azure Machine Learning) ✅ ❌ ❌ ❌
Slutsatsdragning i realtid (online) ✅ ✅ ⚠️ (Modellslutpunkter i förhandsversion) ✅ ✅ ⚠️ (endast i databasen) ✅
Batchinferens (offline) ⚠️ (Online-first) ✅ ✅ ✅ ❌ ✅ ⚠️ (endast lokalt)
Lokal eller offlinedistribution ⚠️ (Endast Edge-delmängd) ⚠️ (via Azure Arc) ❌ ❌ ⚠️ (endast containrar) ✅ ✅
Styrnings- och säkerhetsverktyg ✅ ✅ ⚠️ (Begränsad modellstyrning) ✅ ⚠️ (Tjänstomfattning) ⚠️ (Databasomfattning) ❌

Följande kommentarer klargör specifika klassificeringar i matrisen:

  • Foundry Tools klassificeras som kompletterande för generativ AI och agenter eftersom tjänster som Azure AI-sökning, Innehållssäkerhet i Foundry Control Plane och Azure Document Intelligence i Foundry Tools är vanliga byggstenar för RAG- och agentlösningar. Den primära plattformen för generativ AI-utveckling är Microsoft Foundry.

  • Microsoft Foundry-styrningen kommer främst från Foundry Control Plane, som tillhandahåller observerbarhet, körningskontroller, säkerhetsintegrering och vagnparkshantering för agenter och program.

  • Azure Machine Learning stöder generativ AI via åtkomst till Foundry-modeller, hanterade slutpunkter, utvärderingsfunktioner och finjustering för grundmodeller som stöds. Det är inte den primära plattformen för generativ AI-utveckling.

  • Azure Databricks får ett primärt omdöme för styrning eftersom Unity Catalog tillhandahåller enhetlig data- och modellstyrning med rollbaserad åtkomstkontroll (RBAC) och OpenSharing.

  • Microsoft Fabric klassificeras som kompletterande för styrning eftersom OneLake, Microsoft Purview integrering, känslighetsetiketter och domänbaserade kontroller täcker datatillgångar väl. Microsoft Fabric innehåller ett inbyggt MLflow-baserat modellregister för lagring och spårning av modeller. Microsoft Fabric har också en inbyggd ursprungsvy för maskininlärningsmodeller och experiment, inklusive relationer till sjöhus och kodobjekt. Men Microsoft Fabric innehåller inte någon ansvarsfull AI-instrumentpanel. För bredare modelllivscykelstyrning, parkoppla Microsoft Fabric med Azure Machine Learning.

  • Microsoft Fabric klassificeras som kompletterande för realtidsinferens eftersom Microsoft Fabric Real-Time Intelligence omfattar strömningsanalys och Microsoft Fabric slutpunkter för maskininlärningsmodellen tillhandahåller hanterade REST-slutpunkter online för realtidsförutsägelser. Modellslutpunkter finns i förhandsversion och har stöd för en begränsad uppsättning modellsmaker. För bred onlineservering i produktion kan du även koppla Microsoft Fabric med Azure Machine Learning hanterade onlineslutpunkter eller Microsoft Foundry.

  • Foundry Local utökar Microsoft Foundry till slutsatsdragning på enheten för scenarier med gränsen och offline.

  • Azure Arc utökar Azure Machine Learning till lokala Kubernetes-kluster för hybridträning eller bedömning.

  • Microsoft Fabric Data Science innehåller en autoML-upplevelse med låg kod. Code-first AutoML är tillgängligt via FLAML-API:er (Fast and Lightweight AutoML) i Microsoft Fabric notebook-filer. Om du vill ha aktuell status kontrollerar du dokumentationen för Microsoft Fabric.

Begränsa ditt plattformsalternativ

Använd följande beslutsträd för att begränsa ditt val av startplattform. Trädet hjälper dig att välja en primär plattform för en arbetsbelastning. De flesta produktionslösningar kombinerar mer än en plattform, så använd de produktspecifika avsnitten i den här artikeln för att förfina ditt val. Överväg också att använda ett sammansatt arkitekturmönster. Mer information finns i Kombinera plattformar.

Beslutsträd för en primär Microsoft AI- eller maskininlärningsplattform baserat på scenariot, utvecklarprofilen och utbildnings- och slutsatsdragningsplatserna.

Ladda ned en Visio fil i det här beslutsträdet.

Stegvis genomgång

Följ stegen nedan för att gå igenom beslutsträdet. När du når ett plattformsalternativ hoppar du över de återstående stegen.

  1. Identifiera funktionsscenariot.

    Gör plattformsalternativ på funktionsnivå i din arbetsbelastning. Varje funktion kan ha unika funktionella och icke-funktionella krav som en eller flera tekniker kan hantera. När du använder det här flödesschemat bör du överväga kraven för det specifika användningsfall som du vill lösa.

    • Om fördefinierade AI-funktioner som syn, tal, språk, sökning, dokumenttolkning eller innehållssäkerhet uppfyller dina arbetsbelastningsbehov använder du Foundry Tools. Många tjänster i Foundry Tools stöder anpassning, till exempel anpassad textklassificering i Azure Language eller anpassade modeller i Azure Document Intelligence. Tänk på dessa tjänster innan du genomför fullständig anpassad utbildning eller en bredare metod som att använda en språkmodell för att simulera en specialiserad tjänst. Tjänstspecifik dokumentation finns i följande artiklar:
    • Om din arbetsbelastning kräver generativ AI eller anpassade AI-agenter för att lägga till icke-terministiskt beteende fortsätter du till steg 2.
    • Om funktionen kräver anpassad maskininlärning eller djupinlärningsfunktioner, till exempel klassisk maskininlärning, visuellt innehåll, prognostisering eller finjustering av dina egna modeller, fortsätter du till steg 3.
    • Om du behöver integrera maskininlärning i ett bredare data- och BI-arbetsflöde fortsätter du till steg 4.

  2. För generativ AI och agenter väljer du den Microsoft plattform som matchar din utvecklarprofil.

    • Direkt åtkomst till API:et för stor språkmodell (LLM): Använd Azure OpenAI i Microsoft Foundry.

    • Kod-första agent eller utveckling av flera agenter: Använd Microsoft Agent Framework SDK i kombination med Foundry Agent Service för värd- och orkestrering.

    • Fullständig generativ AI-plattform (Foundry Models, finjustering, utvärdering, säkerhet, observerbarhet och styrning): Använd Microsoft Foundry.

  3. För anpassad maskininlärning och djupinlärning kan du basera ditt beslut på var träning och slutsatsdragning måste köras.

  4. För analysintegrerad maskininlärning väljer du den lösning som matchar dina data och BI-mönster.

  5. För Spark-baserad eller distribuerad beräkning baserar du ditt beslut på om du använder lakehouse- eller hanterade Spark-kluster.

    • Lakehouse med styrning av MLflow och Unity Catalog: Använd Azure Databricks. Du kan fortfarande publicera modeller via Azure Machine Learning hanterade slutpunkter för servering och styrning.

    • Hanterade Spark-kluster på Azure med intern lagring och säkerhetsintegrering: Använd Apache Spark i Azure HDInsight.

Note

För arkitekturer som sträcker sig över molnmiljöer och lokala miljöer kopplar du lokala eller flera kubernetes-kluster till en Azure Machine Learning arbetsyta via Azure Arc. Den här konfigurationen behåller data lokalt samtidigt som träning och slutsatsdragning dirigeras via Azure. Detaljerad information finns i Konfigurera Kubernetes-kluster för Azure Machine Learning.

Azure Machine Learning

Azure Machine Learning är en fullständigt hanterad molntjänst för utbildning, distribution och hantering av maskininlärningsmodeller i stor skala. Det stöder tiotusentals Python paket med öppen källkod, inklusive TensorFlow, PyTorch och scikit-learn. Den tillhandahåller verktyg för hela maskininlärningslivscykeln, från förberedelse av data till distribution, MLOps och ansvarsfull AI.

Använd Azure Machine Learning när du behöver följande funktioner:

  • Anpassad träning. Du använder anpassad modellträning för klassisk maskininlärning, djupinlärning eller finjustering av LLM:er med öppen källkod.

  • MlOps för produktion. Du använder en mlops-livscykel för produktion som omfattar experimentspårning, modellversionshantering, reglerade register, CI/CD-pipelines och produktionsövervakning.

  • Hanterade slutpunkter. Du använder hanterade slutpunkter för online- eller batchinferenser som finns i en miljö som tillhandahåller automatisk skalning, hanterad identitet och övervakning.

  • Hybridberäkning. Du använder hybridträning eller slutsatsdragning i Azure Arc-aktiverade Kubernetes-kluster.

I följande tabell sammanfattas de plattformsfunktioner som Azure Machine Learning tillhandahåller under maskininlärningslivscykeln.

Capability Beskrivning
Arbetsytor och datalager En central resurs för att organisera experiment, beräkning, datauppsättningar, modeller och anslutningar till externa datalager. Tillgångar och körningshistorik är versionshanterade för reproducerbarhet.
Beräkningskluster och instanser Etablerad CPU- och GPU-beräkning för distribuerad träning (beräkningskluster) och interaktiv utveckling av notebook-filer (beräkningsinstanser).
Serverlös beräkning Hanterad beräkning på begäran som Azure Machine Learning skapar och skalar automatiskt för träningsjobb.
Automatiserad maskininlärning Generering av modeller, pipelines, justering av hyperparametrar och funktionsutveckling för klassificering, regression, prognostisering, visuellt innehåll och bearbetning av naturligt språk.
Pipelines och designer Kodbaserad orkestrering och dra och släpp-orkestrering för förberedelse, träning, utvärdering och distribution av data. Integreras med CI/CD-verktyg.
Foundry Models-åtkomst En plattform för att upptäcka, utvärdera, finjustera och distribuera grundmodeller som stöds från Microsoft, OpenAI, Meta, Hugging Face och andra leverantörer via Foundry Models i Azure Machine Learning.
Spårning av MLflow-experiment och modellhantering Spårning av experiment, körningar, mått, parametrar, artefakter och modeller med hjälp av MLflow-kompatibla API:er med en Azure Machine Learning arbetsyta.
Online- och batchslutpunkter Hanterade REST-slutpunkter för slutsatsdragning i realtid och anropande slutpunkter för batchbedömning, med stöd för automatisk skalning och hanterad identitet.
Ansvarsfulla AI-verktyg Instrumentpaneler för rättvise-, förklarings- och felanalys.
Stöd för säkerhet och hybrid Integrering med Azure Virtual Network, Azure Key Vault, Azure Container Registry, RBAC, hanterade identiteter och Azure Arc.

I följande tabell sammanfattas grundläggande implementeringsinformation för Azure Machine Learning.

Aspect Detaljer
Typ Molnbaserad maskininlärningsplattform.
Språk som stöds Python och R. Ett kommandoradsgränssnitt (CLI) och REST-API:er stöds också.
Maskininlärningsfaser Förberedelse av data, utbildning, distribution, MLOps och ansvarsfull AI.
Viktiga fördelar Kod-första SDK- och CLI-arbetsflöden. Studiobaserad redigering. Central hantering av skript, experiment och körningshistorik. Skalbar utbildning och distribution. Hybridalternativ via Azure Arc.
Considerations Viss kunskap om arbetsytan och tillgångsmodellen är användbar innan du börjar använda fullständiga MLOps.

Azure Machine Learning passar inte bäst i följande situationer:

  • Du behöver bara använda förtränad API:er för vision, tal eller språk. I det här fallet använder du Foundry Tools.

  • Maskininlärning är ett litet tillägg för en analysarbetsbelastning. I det här fallet kan Microsoft Fabric eller Azure Databricks vara en bättre utgångspunkt.

  • Din arbetsbelastning är generativ AI från slutpunkt till slutpunkt (modellval, agentorkestrering, utvärdering, distribution och övervakning). Dessutom behöver du inte klassisk maskininlärningsträning eller Azure Machine Learning tillgångs-, körnings- och MLflow-modell. I det här fallet kan bara Microsoft Foundry vara tillräckligt. En Azure Machine Learning arbetsyta krävs endast när du behöver Azure Machine Learning träningsberäkning, MLOps-livscykel eller hanterade online- eller batchslutpunkter för anpassade modeller.

Microsoft Foundry

Microsoft Foundry är den enhetliga Azure-plattformen för att skapa, optimera och styra generativa AI-program och AI-agenter. Microsoft Foundry kombinerar Foundry-modellkatalogen, agent- och orkestreringstjänster, utvärderings- och säkerhetsverktyg och ett kontrollplan för körningsstyrning. För utveckling av kod första agenten Microsoft Foundry-par med Microsoft Agent Framework, den enhetliga Microsoft SDK som ersätter den tidigare uppdelningen mellan Semantic Kernel och AutoGen.

Använd Microsoft Foundry när du behöver följande funktioner:

  • Generativ AI eller agenter. Du skapar generativa AI- eller agentbaserade lösningar, till exempel chattrobotar med flera modeller eller orkestrerade LLM-arbetsflöden.

  • Modellidentifiering och utvärdering. Du måste kunna identifiera, jämföra och utvärdera grundmodeller från flera leverantörer.

  • Modellanpassning och styrning. Du vill finjustera, utvärdera och distribuera grundmodeller i en hanterad miljö som tillhandahåller inbyggda kontroller för observerbarhet, innehållssäkerhet och körning.

I följande tabell sammanfattas funktionerna Microsoft Foundry som stöder generativa AI-program och agentutveckling.

Capability Beskrivning
Gjuterimodeller En katalog med förtränad modeller från leverantörer som Azure OpenAI, Hugging Face och Meta, plus den Microsoft phi-modellfamiljen för småspråk, med benchmarks och distributionsalternativ.
Modellanpassning Möjligheten att finjustera eller anpassa grundmodeller som stöds på dina egna data. Distributionsalternativen är beroende av modellen och inkluderar standardtyper och etablerade typer där det är tillgängligt.
Foundry Agent-tjänst En plattform för att vara värd för och orkestrera AI-agenter som automatiserar affärsprocesser med flera steg. Parar ihop med Microsoft Agent Framework SDK för kod-första agentutveckling. Implementerar OpenAI-kompatibelt svars-API för bred klient-SDK-support.
Foundry IQ Ett hanterat kunskapslager som grundar agenter på företagsdata. Skapar kunskapsbaser för flera källor och använder agentisk hämtning för att returnera behörighetsmedvetna svar med citat. Byggd på Azure AI-sökning. Kunskapskällor inkluderar indexerade källor (till exempel ett befintligt Azure AI-sökning index, Azure Blob Storage, direktuppladdade filer, OneLake, Azure SQL och indexerade SharePoint) och fjärrkällor som efterfrågas vid körning (till exempel fjärr-SharePoint, Microsoft Fabric ontologi, Work IQ, Bing webbdata, MCP-servrar (Model Context Protocol) och Microsoft Fabric dataagenter). Flera av dessa anslutningsappar är för närvarande i förhandsversion. Aktuell förhandsversionsstatus och anslutningsappar som stöds finns i agentiska kunskapskällor i Azure AI-sökning. Information om datalageralternativ finns i Välj en Azure tjänst för vektorsökning.
Kontrollplan för gjuteri Ett gränssnitt som tillhandahåller observerbarhet, körningskontroller, säkerhetsintegrering och hantering av flottan i Microsoft Foundry-agenter och program.
Innehållssäkerhet En AI-tjänst som identifierar skadligt användargenererat och AI-genererat innehåll. Se Innehållssäkerhet.
Gjuteriet Local En lösning för AI-slutsatsdragning på enheten för scenarier med gränsen och offline där prestanda, sekretess eller kostnad är viktig.

Foundry Toolkit för Visual Studio Code

Foundry Toolkit för Visual Studio Code är den primära utvecklarupplevelsen för Microsoft Foundry. Använd det när du vill ha ett lokalt första arbetsflöde för generativa AI-program och agenter. Verktygslådan stöder modellidentifiering, lokal modellkörning, prompt- och agentutveckling, verktygsintegrering, felsökning, spårning, utvärdering, finjustering och distribution för att Microsoft Foundry från Visual Studio Code.

Starta i Foundry Toolkit när lösningen behöver kod, källkodskontroll, lokal iteration, agentinspektion, MCP-verktygsintegrering eller modelltestning före distributionen. Använd Foundry-portalen för koncepttestutforskning, projektkonfiguration, resursgranskning, utvärderingsgranskning och driftssynlighet när program och agenter körs.

Foundry-portalen och Azure Machine Learning Studio

Foundry-portalen och Azure Machine Learning Studio är kompletterande webbupplevelser. Använd dem för prototyper, projekt- och resurshantering, utvärderingsgranskning och driftssynlighet.

Kategori Foundry-portalen Azure Machine Learning Studio
Arbetsbelastning som passar bäst Konceptbevis, modellutforskning, agentgranskning, utvärderingsgranskning och driftssynlighet för generativa AI-program och agenter. Anpassad maskininlärning, klassisk maskininlärning, djupinlärning och bredare arbetsflöden för maskininlärningsplattform.
Datahantering Funktioner för att ansluta projektresurser och datakällor som stöds, inklusive Blob Storage, OneLake och Azure Data Lake Storage. Lagring av arbetsytor, datatillgångar och anslutna Azure lagringskonton.
Redigeringsupplevelser Portalbaserad prototyper, lekplatser, modellutforskning, utvärderingsgranskning och projektresurshantering. Notebook-, designer-, AutoML-, modellhanterings- och SDK- och CLI-arbetsflöden.
Språk och SDK:er som stöds Python, C#, JavaScript och Java SDK:er. REST-API:er. Python, R och Azure CLI. REST-API:er.
Grundläggande träningsstyrka Modellutvärdering och finjustering stöds. AutoML och anpassad träning i klassisk maskininlärning, djupinlärning och LLM-finjustering.
Beräkning och distribution Hanterade beräknings- och serverlösa API:er för grundmodeller som stöds. Hanterad beräkning, serverlös beräkning, onlineslutpunkter, batchslutpunkter och Azure Arc alternativ.
Generativ AI-yta En webbyta för Foundry Models-utforskning, utvärderingsgranskning, observerbarhet och säkerhetsverktyg. Foundry Models-åtkomst, hanterade slutpunkter, utvärdering och finjustering för grundmodeller som stöds i Azure Machine Learning-plattformen.
Governance Foundry Control Plane för agent- och programstyrning. Ansvarsfull AI-instrumentpanel, ursprung, modellhantering och MLOps-kontroller.

I följande tabell sammanfattas grundläggande implementeringsinformation för Microsoft Foundry.

Aspect Detaljer
Typ En enhetlig plattform för grundmodeller, agenter och generativa AI-program.
Språk som stöds Python, C#, JavaScript och Java SDK:er. REST-API:er.
Maskininlärningsfaser Modellidentifiering och utvärdering, program- och agentutveckling, finjustering av modeller som stöds, distribution, övervakning och säkerhet.
Viktiga fördelar En konsoliderad Foundry-modellkatalog. Integrerad utvärdering, säkerhet och observerbarhet. Agent- och RAG-stöd. Project samarbete.

Microsoft Foundry passar inte bäst i följande situationer:

  • Du använder fördefinierade AI-funktioner som optisk teckenigenkänning (OCR), tal-till-text-transkription, översättning eller innehållsmoderering via ett API, och du behöver inte välja modell, orkestrering eller agenter. I det här fallet använder du Foundry Tools.

  • Din lösning kräver anpassad modellträning för klassisk maskininlärning eller djupinlärning och fullständiga MLOps-funktioner. I det här fallet använder du Azure Machine Learning. Microsoft Foundry erbjuder inte bred etablerad träningsberäkning eller AutoML för tabelldata.

  • Din lösning kräver datateknik i Spark-skala. I det här fallet använder du Azure Databricks eller Microsoft Fabric.

Gjuteriverktyg

Foundry Tools, tidigare Azure AI services och Cognitive Services, är en familj med förtränad AI-funktioner som du använder via REST-API:er och SDK:er. Varje verktyg har en specifik funktion som mål, så att du kan lägga till intelligenta funktioner i program utan att skapa eller träna en anpassad modell. Hjälp med att bestämma vilken tjänst som ska användas finns i Välja en AI-tjänstteknik.

Tip

Foundry Tools tillhandahåller förträade API:er för vanliga probabilistiska uppgifter. För generativa AI-modeller, agenter och orkestrering arbetar du i Microsoft Foundry i stället för att använda Foundry Tools direkt. Många tjänster i Foundry Tools delar samma underliggande Azure resurstyp (Microsoft.CognitiveServices/accounts) som Microsoft Foundry, men de är distinkta produkter.

Använd Foundry Tools i följande situationer:

  • Ett förtränat API täcker scenariot, så du behöver inte träna en anpassad modell.

  • Du behöver standardhanterade API:er och API-baserad integrering med befintliga program.

I följande tabell grupperas vanliga tjänster efter kapacitetsområde. Generativa AI-modeller, agenter och orkestrering ingår i Microsoft Foundry och listas separat som referens.

Kapacitetsområde Representativa tjänster
Vision Azure Vision och Azure Face i Foundry Tools.
Dokument- och innehållstolkning Azure Dokumentinformation och Azure Content Understanding.
Tal Azure Tal för tal-till-text-transkription, text-till-tal-röstgenerering och talarigenkänning.
Language Azure Språk för namngiven entitetsigenkänning, identifiering av personliga data och språkidentifiering. Azure Translator i Foundry Tools för översättning.
Sök och kunskap Azure AI-sökning för AI-baserad sökning och RAG-hämtning.
Innehållssäkerhet Innehållssäkerhet för identifiering av skadligt innehåll i användargenererat och AI-genererat innehåll.
Videofilm Azure AI Video Indexer för videoanalys och indexering.
Generativa AI-modeller och agenter Microsoft Foundry. Innehåller Foundry Agent Service och Foundry Models.

Om du vill jämföra tjänsterna inom ett kapacitetsområde och välja ett finns följande detaljerade urvalsguider:

I följande tabell sammanfattas grundläggande implementeringsinformation för Foundry Tools.

Aspect Detaljer
Typ Förtränad API:er för att skapa intelligenta program.
Språk som stöds C#, Java, JavaScript och Python SDK:er beroende på tjänsten. REST-API:er.
Maskininlärningsfaser Förbrukning via API:er. Vissa tjänster stöder anpassning.
Viktiga fördelar Möjligheten att lägga till fördefinierade AI-funktioner via API:er. Minimal datavetenskapsexpertis krävs. Hanterad skalning.

Foundry Tools passar inte bäst i följande situation: Ditt scenario kräver anpassade modellarkitekturer eller träningsdata utöver de anpassningsalternativ som stöds. I dessa fall använder du Azure Machine Learning för klassiska modeller eller djupinlärningsmodeller, eller använder Microsoft Foundry för generativ AI-finjustering.

Microsoft Fabric

Microsoft Fabric är en enhetlig, SaaS-baserad analysplattform. Den integrerar datateknik, datavetenskap, datalagerhantering, realtidsinformation och Power BI på en delad OneLake-datagrund. Datatekniker, dataforskare och affärsanalytiker som använder Microsoft Fabric samarbeta i samma hanterade miljö.

Arbetsbelastningen Microsoft Fabric Data Science är den del som är mest relevant för maskininlärning. Den tillhandahåller Spark-notebook-filer, AutoML, en inbyggd MLflow-upplevelse för experimentspårning och ett modellregister. Detaljerad information finns i Vad är datavetenskap i Microsoft Fabric?.

Använd Microsoft Fabric när du behöver följande funktioner:

  • Analysintegrerad maskininlärning. Maskininlärning är en del av ett bredare analysarbetsflöde i din lösning, till exempel att skapa en modell för data i ett lakehouse och leverera förutsägelser till Power BI.

  • Fullständigt hanterad SaaS. Du vill ha en fullständigt hanterad SaaS-upplevelse med minimal infrastruktur att hantera.

  • Grund för delade data. Ditt team arbetar inom datateknik, datavetenskap och BI på samma OneLake-grund.

I följande tabell sammanfattas Microsoft Fabric funktioner som är mest relevanta för analysintegrerad maskininlärning.

Capability Beskrivning
OneLake foundation En enda logisk datasjö som delas av Microsoft Fabric arbetsbelastningar, inklusive datateknik, datavetenskap, Data Warehouse och Power BI.
Data science-arbetsbelastning En hanterad Spark-körning med notebook-filer för Python, R, SQL och Scala för analys och modellträning. Innehåller en inbyggd MLflow-upplevelse för experimentspårning och ett modellregister. Du kan också logga MLflow-experiment och modeller på arbetsytor och plattformar, inklusive till Microsoft Fabric från en Azure Machine Learning arbetsyta.
Automatisk maskininlärning (AutoML) AutoML med låg kod för klassificering, regression och prognostisering. Code-first AutoML är tillgängligt via FLAML-API:er i Microsoft Fabric notebook-filer.
Real-Time Intelligence och Fabric Activator Strömningsanalys och händelseidentifiering utan kod som kan utlösa Microsoft Fabric pipelines, notebook-filer eller underordnade åtgärder.
Slutpunkter för maskininlärningsmodell Hanterade REST-slutpunkter online som hanterar realtidsförutsägelser från registrerade Microsoft Fabric modeller. Den här funktionen är i förhandsversion och begränsad till en uppsättning modellsmaker, men AutoML-tränade modeller stöds. Detaljerad information finns i Hantera realtidsförutsägelser med slutpunkter för maskininlärningsmodeller.
Integrering med Power BI Ett sätt att exponera maskininlärningsutdata för att Power BI via semantiska modeller och rapporter, inklusive Direct Lake när Microsoft Fabric data finns kvar i OneLake och importera eller DirectQuery-mönster vid behov. Använd den här integreringen för att inkludera förutsägelser, avvikelsepoäng och prognosmått i affärsinstrumentpaneler och beslutsarbetsflöden.
Microsoft Foundry-integrering Ett sätt att mata in Microsoft Fabric data eller modellutdata till ett Microsoft Foundry-baserat program eller agent, till exempel en grundad andrepilot, sammanfattningsarbetsflöde eller RAG-upplevelse. I praktiken kan Microsoft Foundry ansluta till Microsoft Fabric data via en Microsoft Fabric dataagent eller en annan dataanslutning som stöds. Sedan kan Microsoft Foundry använda den kontexten när agentsvar genereras. Om din arbetsbelastning bara behöver klassisk maskininlärning i Microsoft Fabric och inte kräver LLM:er eller agenter, är den här integreringen vanligtvis onödig.

I följande tabell sammanfattas grundläggande implementeringsinformation för Microsoft Fabric.

Aspect Detaljer
Typ En enhetlig SaaS-analysplattform.
Språk som stöds Python, R, SQL och Scala.
Maskininlärningsfaser Förberedelse av data, träning, registrering, batchbedömning, realtidstjänst (förhandsversion), realtidsanalys och BI-förbrukning.
Viktiga fördelar En delad OneLake-grund. Låg driftsbelastning. Integrering med Power BI och den bredare Microsoft dataegendomen.

Microsoft Fabric passar inte bäst i följande situation: Du behöver djupinlärning i stor skala, omfattande MLOps med reglerade register eller detaljerad beräkningskontroll. I dessa fall kompletterar du Microsoft Fabric med Azure Machine Learning eller Azure Databricks. Microsoft Fabric omfattar analysintegrerad maskininlärning, men det ersätter inte en dedikerad maskininlärningsplattform.

Note

Microsoft Fabric är den rekommenderade plattformen för nya analysintegrerade maskininlärningsinvesteringar. Information om befintliga investeringar i Azure Synapse Analytics finns i Maskininlärning i Azure Synapse Analytics. Information om migrering av dedikerad SQL-pool till Microsoft Fabric Data Warehouse finns i Fabric Migration Assistant för Data Warehouse.

Azure Databricks

Azure Databricks är en enhetlig, öppen analysplattform för att skapa, distribuera, dela och underhålla data, analys och AI-lösningar. Den kombinerar datalagerhantering och datasjöfunktioner i en lakehouse-arkitektur och integreras med Azure lagring och säkerhet.

Använd Azure Databricks när du behöver följande funktioner:

  • Maskininlärning i Spark-skala. Du måste köra maskininlärning på mycket stora datamängder eller distribuerade Spark-kluster.

  • Unified Lakehouse-arbetsflöde. Du kombinerar datateknik, funktionsutveckling, experimentering och modellutveckling i ett lakehouse-arbetsflöde.

  • Maskininlärningsåtgärder för produktion. Du vill distribuera, hantera och övervaka maskininlärningslösningar i produktion med hjälp av hanterade serverdelsslutpunkter, automatiserade arbetsflöden och MLOps-pipelines.

  • Styrning av Unity Catalog. Du vill styra data, funktioner, modeller och funktioner i Unity Catalog, som ger centraliserad åtkomstkontroll och ursprung.

  • Generativ AI och agenter. Du skapar generativa AI- och AI-agentarbetsbelastningar i Azure Databricks, inklusive scenarier med anpassade modeller och grundmodeller.

I följande tabell visas viktiga Azure Databricks funktioner:

Capability Beskrivning
Hanterad integrering med projekt med öppen källkod Innehåller Delta Lake, OpenSharing, MLflow, Spark, Apache Spark Structured Streaming och Unity Catalog.
Azure Databricks Runtime för strojové učenie Erbjuder förinstallerade bibliotek för klassisk maskininlärning och djupinlärning, inklusive Hugging Face Transformers.
MLflow-spårning och modeller i Unity Catalog Stöder experimentspårning, modelllivscykelhantering och styrning av modellidentifiering.
Funktionstekniker och funktionsserveringsmönster Stöder återanvändbara funktioner för träning och slutsatsdragning.
Azure Databricks modellservering Erbjuder hanterade slutpunkter för slutsatsdragning i realtid med automatisk skalning, versionsdistributioner, trafikkontroller och produktionsövervakning.
AI Gateway Tillhandahåller styrning av modellåtkomst, användningsspårning och nyttolastloggning mellan hanterade och externa modeller. Stöder utveckling, utvärdering och servering av anpassade eller öppna modeller i en sjöhusmiljö.
AI-funktioner i SQL Ger ett sätt för analytiker att anropa LLM:er från datapipelines.
API:er för grundmodell Integrerar externa modeller och ger enhetliga åtkomstmönster mellan modellleverantörer.
Styrning av Unity-katalog Ger enhetlig styrning av data, funktioner, modeller och funktioner via funktioner som RBAC och OpenSharing.
Strömningsanalys Erbjuder realtids- och strömningsanalyser via strukturerad direktuppspelning och Delta Lake.
Lakeflow-jobb och MLOps Tillhandahåller jobb och arbetsflöden för automatiserad träning, utvärdering, distribution och omträning av pipelines.

I följande tabell sammanfattas grundläggande implementeringsinformation för Azure Databricks.

Aspect Detaljer
Typ En sjöhusplattform byggd på Spark.
Språk som stöds Python, R, Scala och SQL.
Maskininlärningsfaser Dataförberedelse, träning, finjustering, utvärdering, modellhantering och styrning.
Viktiga fördelar Maskininlärningslivscykel från slutpunkt till slutpunkt på ett sjöhus. Intern MLflow-integrering. Hanterad servering och åtgärder. Styrning av Unity Catalog. Stöd för maskininlärning i Spark-skala och generativ AI.
Considerations Serverlös modellservering kan minska kostnaderna för inferensinfrastruktur, men kostnaden för Spark-baserad dataförberedelse, funktionsutveckling och modellträning är fortfarande en viktig faktor. För icke-Spark-arbetsbelastningar kan Azure Machine Learning eller Foundry Tools vara enklare.

Azure Databricks passar inte bäst i följande situationer:

  • Ditt team behöver inte bearbetning i Spark-skala. I det här fallet kan det hända att klusterkostnaderna inte är motiverade.

  • Ditt scenario använder enbart API-driven AI. I det här fallet erbjuder Foundry Tools eller Microsoft Foundry en mer direkt sökväg.

  • Du behöver Azure Machine Learning specifika styrningskontroller, slutpunktsfunktioner eller ett standardiserat slutpunktslager mellan team. I dessa fall använder du Azure Machine Learning hanterade slutpunkter i en hybriddesign.

SQL-intelligenta program och maskininlärning

SQL in-database AI behåller reglerade relationsdata där de redan finns och lägger till förutsägelse, vektorhämtning och AI-slutpunktsintegrering direkt i Transact-SQL (T-SQL).

Använd SQL in-database AI i följande situationer:

  • Data måste finnas kvar i relationsdatabasen av säkerhets-, sekretess-, svarstids- eller regelskäl.

  • Du behöver poängsättning med låg latens nära transaktioner, till exempel bedrägerikontroller eller beslut om nästa bästa åtgärd.

  • Du vill ha vektorsökning och hämtning direkt i databasen för RAG- och semantiska matchningsmönster.

  • Du behöver databasinbyggt anrop av externa AI-slutpunkter från T-SQL för orkestrering eller agentanropbara arbetsflöden.

I följande tabell visas aktuella plattformar och verktyg:

Capability Roll i arkitektur
PREDICT i T-SQL Utför intern bedömning i databasen för modeller som stöds, inklusive ONNX-baserade körningsmönster där det är tillgängligt.
Vektordatatyp och vektorfunktioner Lagrar inbäddningar och utför vektorlikhetsåtgärder i relationsmotorn.
sp_invoke_external_rest_endpoint Anropar externa AI-slutpunkter från T-SQL med autentiseringsuppgifter, rubriker, återförsöksalternativ och reglerade utgående kontroller.
AI-funktioner (Transact-SQL), inklusive AI_GENERATE_EMBEDDINGS Lägger till databasbaserade AI-åtgärder för segmentering, inbäddningsgenerering och relaterade SQL AI-arbetsflöden.
Azure SQL Managed Instance strojové učenie Services Stöder körning i databasen av Python- och R-kod för befintliga arbetsbelastningar i strojové učenie Services-stil.

I följande tabell sammanfattas grundläggande implementeringsinformation för Azure SQL maskininlärning.

Aspect Detaljer
Typ Ai-funktioner i databasen för förutsägelse, vektorhämtning och AI-slutpunktsintegrering.
Språk som stöds T-SQL först. Python och R är tillgängliga via Azure SQL Managed Instance strojové učenie Services.
Maskininlärningsfaser Förberedelse, träning, slutsatsdragning, vektorhämtning och slutpunktsorkestrering i databasen.
Viktiga fördelar Håller reglerade transaktionsdata på plats. Minskar dataförflyttningen. Möjliggör AI-berikande med kort svarstid i befintliga SQL-arbetsflöden.
Considerations Tillgängligheten för funktioner varierar beroende på SQL-plattform och version. Storskalig modellträning och distribuerad djupinlärning hanteras vanligtvis bättre i Azure Machine Learning, Azure Databricks eller Microsoft Fabric.

Kombinera Azure SQL maskininlärning med en annan plattform när du vill använda följande metod:

  • Träna externt, poängsätta i SQL. För storskalig eller djupinlärningsträning använder du Azure Machine Learning, Azure Databricks eller Microsoft Fabric för träning. Ta sedan tillbaka slutsatsdragningsartefakter till SQL för bedömning i databasen.

  • Cloud-train, database-deploy, SQL-predict. Träna externt, exportera en bedömningsartefakt som stöds av SQL-målplattformen och använd PREDICT sedan för att köra förutsägelser i SQL nära transaktionsdata.

  • Generera inbäddningar i SQL, anropa slutpunkter för generering. För RAG- och agentscenarier genererar du inbäddningar och vektorhämtning i SQL. Om du sedan behöver svarsgenerering använder sp_invoke_external_rest_endpoint du för att anropa externa modellslutpunkter från SQL.

Edge, lokal och lokal maskininlärning

För maskininlärning som körs utanför molnet, på lokala enheter, i offlinemiljöer, inbäddade i program eller i lokal infrastruktur Microsoft finns flera alternativ.

Använd kantbaserad, lokal och lokal maskininlärning när du behöver följande funktioner:

  • Lokal slutsatsdragning. För att uppfylla kraven på svarstid, offlineåtgärder eller datasekretess behöver ditt scenario slutsatsdragning för att köras lokalt. Till exempel kräver förutsägande underhållslösningar i miljöer med tillfälliga anslutningar lokal slutsatsdragning.

  • Möjligheten att bädda in maskininlärning i program. Du skapar skrivbords- eller mobilprogram som behöver inbäddade maskininlärningsfunktioner.

  • Lokal körning. Ditt scenario behöver maskininlärningskörning för att stanna kvar i en lokal miljö, till exempel en lokal SQL Server distribution.

Microsoft innehåller följande alternativ:

  • Microsoft Foundry på Windows innehåller Windows ML för lokal slutsatsdragning på Windows enheter med maskinvaruacceleration över processorer, GPU:er och NPU:er. Använd Windows ML för nya Windows app- och enhetsinferensarbetsbelastningar.

  • ML.NET är ett plattformsoberoende ramverk för maskininlärning med öppen källkod för .NET utvecklare. Den stöder datainläsning, träning (inklusive AutoML för .NET) och lokal slutsatsdragning. Använd ML.NET när programmet behöver .NET intern modellträning eller slutsatsdragning, inklusive ONNX-modellintegrering.

  • SQL Server strojové učenie Services stöder träning och bedömning i lokala SQL Server när data måste finnas kvar på den lokala datanivån.

  • Foundry Local är en AI-slutsatsdragningslösning på enheten som utökar Microsoft Foundry till scenarier med gränsen och offline.

  • Azure Local tillhandahåller Azure hanterad infrastruktur för lokala virtuella datorer och containrar. Använd den för att vara värd för EDGE AI-komponenter nära data, till exempel Foundry Local-arbetsbelastningar, RAG-hämtningskomponenter eller ONNX-modeller som exporteras från Azure Machine Learning.

  • Kubernetes-beräkning för Azure Machine Learning kopplar Azure Arc-aktiverade Kubernetes-kluster till en Azure Machine Learning arbetsyta så att lokala kluster eller multimolnkluster kör träning och slutsatsdragning medan orkestreringen förblir i Azure.

  • Azure IoT Edge distribuerar maskininlärningsmodeller i containrar till gränsenheter så att slutsatsdragningen körs lokalt.

  • Azure Stack Edge tillhandahåller Microsoft hanterade gränsinstallationer som du kan använda för maskinvaruaccelererad maskininlärning och virtuella datorer eller containerbaserade arbetsbelastningar. Enheter är endast tillgängliga för verifierade partnerarbetsbelastningar eller distributioner av minst 100 noder.

Ett typiskt mönster tränar en exporterbar modell i molnet med hjälp av Azure Machine Learning eller Azure Databricks. Modellen konverteras sedan till ONNX när modellen och målkörningen stöder det formatet. Slutligen distribueras modellen för gränsinferens via Windows ML, ML.NET, en Azure IoT Edge-modul, Foundry Local eller Azure Local infrastruktur.

Kombinera plattformar

Produktionslösningar kan kombinera mer än en plattform. Flödesschemat tidigare i den här artikeln hjälper dig att välja en primär startplattform. Använd följande tabell för att planera sammansatta arkitekturer och identifiera de Microsoft komponenter som varje scenario vanligtvis kräver.

Kombinerat scenario Primär plattform Stöd för Microsoft komponenter Pattern
Enterprise RAG eller chatta med dina data Microsoft Foundry Azure AI-sökning (och Foundry IQ för jordning), Azure Document Intelligence (inmatning), Microsoft Fabric eller Azure Cosmos DB (datalager), Content Safety Mata in företagsinnehåll, indexera det för vektor- och hybridhämtning och jorda en Microsoft Foundry-värdbaserad agent eller LLM-program mot det. Information om datalageralternativ finns i Välj en Azure tjänst för vektorsökning.
Generativ AI ovanpå styrd analys Microsoft Fabric Microsoft Foundry (agenter, modeller), Power BI (förbrukning), Azure AI-sökning Använd Microsoft Fabric för att mata in och lagra reglerade data i OneLake. Skapa sedan agenter eller RAG-program i Microsoft Foundry över dessa data. Visa resultat i Power BI.
Anpassad maskininlärning berikad med fördefinierade AI-funktioner Azure Machine Learning Azure Vision, Azure Document Intelligence, Azure Speech, Azure Language, Azure AI-sökning Använd Foundry Tools för förbearbetning, extrahering av funktioner eller hämtning och använd Azure Machine Learning för att träna, distribuera och styra den anpassade modell som bygger på dessa funktioner.
Spark-skalningsträning med hanterad servering Azure Databricks Azure Databricks Modellservering, MLflow, Unity Catalog, valfri Azure Machine Learning (styrning eller slutpunktsstandardisering) Kör funktionsutveckling och distribuerad utbildning i Azure Databricks. Använd sedan Azure Databricks Model Serving för att distribuera och hantera tränade modeller. Lägg till Azure Machine Learning hanterade slutpunkter när du behöver Azure Machine Learning specifik styrning eller slutpunktsstandardisering mellan team.
Cloud-train, edge-deploy Azure Machine Learning eller Azure Databricks ONNX (modellutbyte), Windows ML, ML.NET, Foundry Local, Azure IoT Edge, Azure Local, Azure Stack Edge Träna en exporterbar modell i molnet, konvertera den till ONNX när den stöds och distribuera den till enheter, lokala gatewayer eller maskinvaruaccelererade gränsenheter för offline- eller låg latensinferens.
Hybrid lokal maskininlärning och molnbaserad maskininlärning Azure Machine Learning på Azure Arc Azure Arc-aktiverade Kubernetes-kluster, en Azure Machine Learning arbetsyta, Container Registry, Key Vault Behåll data lokalt när du använder en Azure Machine Learning arbetsyta som är kopplad till Azure Arc-aktiverade Kubernetes för att orkestrera träning och slutsatsdragning.
Bedömning i databasen med molntränade modeller SQL-maskininlärning Azure Machine Learning eller Azure Databricks (träning), ONNX, SQL Managed Instance eller SQL Server Träna i molnet, exportera till ONNX och använd SQL-funktionen PREDICT för låg svarstid och bedömning i databasen bredvid driftdata.
Automatisering med flera agenter Microsoft Agent Framework och Foundry Agent Service Foundry Models, Foundry IQ, Azure AI-sökning, Azure Functions eller Azure Logic Apps (verktyg), Azure API Management Skapa arbetsflöden för flera agenter i kod med hjälp av Microsoft Agent Framework, använd Foundry Agent Service för att vara värd för och samordna dem och integrera företagsverktyg och API:er.

Utvecklingsplattformar och verktyg

De flesta team använder övergripande utvecklingsverktyg och stödtjänster tillsammans med den plattform de väljer som den primära. Dessa verktyg påverkar var AI- och maskininlärningsarbetet utvecklas, testas och paketeras innan det körs. Stödtjänsterna påverkar var slutsatsdragningen finns eller där beräkning kopplas till data som inte kan flyttas till en hanterad molnplattform.

Det här avsnittet separerar de primära utvecklarverktygen, som är de dagliga utvecklings- och driftsplattformarna, från de närliggande stödtjänster som är värdar för självhanterad slutsatsdragning, påskyndar Spark-baserad maskininlärning eller utökar utbildning och bedömning till lokal infrastruktur.

Följande verktyg stöder utveckling i molnet och lokala plattformar.

Tool Beskrivning
Foundry Toolkit för Visual Studio Code En utvecklarupplevelse i VS Code för att skapa, testa, felsöka, utvärdera och distribuera generativa AI-program och agenter. Stöder lokala modeller, modellkataloger, agentutveckling, verktygsintegrering, spårning och utvärdering.
Foundryportal En webbmiljö för proof-of-concept-arbete, modellutforskning, projektresurshantering, utvärderingsgranskning och driftssynlighet i Microsoft Foundry-program och agenter.
Azure Machine Learning Studio Ett webbgränssnitt för Azure Machine Learning-plattformen. Innehåller notebook-filer, pipelinedesignern, AutoML, modellhantering och dataetiketter.
Azure Data Science Virtual Machine En förkonfigurerad VM-avbildning med datavetenskapsverktyg som Jupyter, R och Python förinstallerade.
ML.NET Ett plattformsoberoende ramverk för maskininlärning med öppen källkod för .NET program.
Microsoft Foundry i Windows Windows ML för maskinvaruaccelererad lokal modellinferens på Windows enheter.
SynapseML Ett ramverk för distribuerad maskininlärning och mikrotjänster med öppen källkod för Spark.

Närliggande stödtjänster hjälper till med experimentering, självhanterad slutsatsdragning, Spark-baserad maskininlärning eller hybriddrift, men de är inte de primära plattformsalternativen i beslutsflödet.

Tjänster Roll i maskininlärnings- och AI-ekosystemet
Azure Kubernetes Service (AKS) och Azure Container Apps Lösningar för att hantera självhanterade slutsatsdragningscontainrar i Azure. Använd Container Apps för enklare hanterad containervärd eller AKS när du behöver mer kontroll över serveringsmiljön och klustermiljön. Vanliga exempel är serverstaplar med öppen källkod, till exempel vLLM, Triton Inference Server eller BentoML.
SynapseML Ett ramverk för distribuerad maskininlärning och mikrotjänster med öppen källkod för Spark. Fungerar på Azure Databricks, Microsoft Fabric och andra Spark-kluster.
Azure Arc–aktiverad maskininlärning En lösning för att koppla lokala eller molnbaserade Kubernetes-kluster till en Azure Machine Learning arbetsyta för hybridträning och slutsatsdragning.

Bidragsgivare

Microsoft ansvarar för den här artikeln. Följande bidragsgivare skrev den här artikeln.

Huvudförfattare:

Om du vill se linkedin-profiler som inte är offentliga loggar du in på LinkedIn.

Nästa steg

  • Last updated on