Microsoft AI- en machinelearningproducten

Microsoft biedt verschillende platforms voor AI en machine learning. Ieder platform is gericht op een andere combinatie van het publiek, de workload, de gegevensbasis en het implementatiemodel. Dit artikel helpt oplossingsarchitecten, machine learning-technici, gegevenswetenschappers en toepassingsontwikkelaars een startplatform te kiezen, inzicht te krijgen in hoe de platforms verschillen en hoe ze kunnen worden gecombineerd in echte architecturen. Dekking omvat klassieke machine learning, met analyse geïntegreerde machine learning en generatieve AI-workloads in Azure, Microsoft Fabric en Microsoft Foundry. Dit artikel richt zich op door Microsoft geleverde oplossingen.

Gebruik dit artikel om opties te vergelijken en een end-to-end-oplossing te ontwerpen.

Primaire workloadscenario’s

Begin met de AI- of machine learning-functie die u moet toevoegen aan uw workload. De volgende tabel koppelt veelvoorkomende functiescenario's aan een aanbevolen startplatform voor aangepaste AI- en machine learning-mogelijkheden. Gebruik deze als eerste oriëntatie voordat u de platformmogelijkheden bekijkt en de beslisboom doorloopt.

Platformmogelijkheden vergelijken

De volgende matrix geeft een overzicht van waar elk platform het meest geschikt is, waar het aanvullende ondersteuning biedt en waar de functionaliteit geen focus heeft. In de matrix worden deze pictogrammen gebruikt:

• ✅ Primaire functionaliteit
• ⚠️ Ondersteunde of aanvullende functionaliteit
• ❌ Geen focuspunt

In de volgende opmerkingen worden specifieke beoordelingen in de matrix verduidelijkt:

• Foundry Tools wordt beoordeeld als aanvulling op generatieve AI en agents, omdat services zoals Azure AI Zoeken, Content Safety in Foundry Control Plane en Azure Document Intelligence in Foundry Tools veelvoorkomende bouwstenen zijn voor RAG- en agentoplossingen. Het primaire platform voor generatieve AI-ontwikkeling is Microsoft Foundry.

• Microsoft Foundry-governancebeheer is voornamelijk afkomstig van Foundry Control Plane, dat waarneembaarheid, runtime-controles, beveiligingsintegratie en vlootbeheer biedt voor agents en toepassingen.

• Azure Machine Learning ondersteunt generatieve AI via toegang tot Foundry-modellen, beheerde eindpunten, evaluatiemogelijkheden en fijnafstemming voor ondersteunde foundation-modellen. Het is niet het primaire platform voor generatieve AI-ontwikkeling.

• Azure Databricks verdient een primaire classificatie voor governance omdat Unity Catalog geïntegreerde gegevens en modelbeheer biedt met op rollen gebaseerd toegangsbeheer (RBAC) en OpenSharing.

• Microsoft Fabric wordt als aanvulling op governance beoordeeld, omdat OneLake, Microsoft Purview integratie, vertrouwelijkheidslabels en besturingselementen op basis van domeinen gegevensassets goed dekken. Microsoft Fabric bevat een ingebouwd modelregister op basis van MLflow voor het opslaan en bijhouden van modellen. Microsoft Fabric heeft ook een ingebouwde afstammingsweergave voor machine learning-modellen en -experimenten, waaronder relaties met lakehouses en code-items. Maar Microsoft Fabric bevat geen dashboard voor verantwoorde AI. Koppel Microsoft Fabric met Azure Machine Learning voor breder beheer van de levenscyclus van modellen.

• Microsoft Fabric wordt beoordeeld als complementair voor realtime-inferentie, omdat Microsoft Fabric Real-Time Intelligence streaminganalyses omvat en Microsoft Fabric machine learning-modeleindpunten beheerde online REST-eindpunten bieden voor realtime voorspellingen. Modeleindpunten zijn in preview en ondersteunen een beperkte set modelvarianten. Voor grootschalige online serving in productie kunt u ook Microsoft Fabric koppelen aan Azure Machine Learning beheerde online-eindpunten of Microsoft Foundry.

• Foundry Local breidt Microsoft Foundry uit naar inferentie op het apparaat voor edge- en offlinescenario's.

• Azure Arc breidt Azure Machine Learning uit naar on-premises Kubernetes-clusters voor hybride training of scoren.

• Microsoft Fabric Data Science bevat een AutoML-ervaring met weinig code. Code-first AutoML is beschikbaar via Fast and Lightweight AutoML (FLAML) API's in Microsoft Fabric notebooks. Raadpleeg de Microsoft Fabric documentatie voor de huidige status.

Uw platformkeuze verfijnen

Gebruik de volgende beslissingsstructuur om uw keuze voor een startplatform te verfijnen. De beslisboom helpt u bij het selecteren van een primair platform voor een workload. De meeste productieoplossingen combineren meer dan één platform, dus gebruik de productspecifieke secties in dit artikel om uw keuze te verfijnen. Overweeg ook het gebruik van een compound architecture pattern. Zie Platformen combineren voor meer informatie.

Download een Visio bestand van deze beslissingsstructuur.

Stapsgewijze doorloop

Gebruik de volgende stappen om de beslissingsstructuur te doorlopen. Wanneer u een platformkeuze hebt bereikt, slaat u de resterende stappen over.

1. Identificeer het featurescenario.

   Maak platformkeuzen op onderdeelniveau binnen uw workload. Elke functie kan unieke functionele en niet-functionele vereisten hebben waaraan een of meer technologieën kunnen voldoen. Wanneer u dit stroomdiagram gebruikt, moet u rekening houden met de vereisten van de specifieke use case die u wilt oplossen.

   • Als vooraf gemaakte AI-functies zoals vision, spraak, taal, zoeken, documentbegrip of inhoudsveiligheid voldoen aan de behoeften van uw workload, gebruikt u Foundry Tools. Veel services in Foundry Tools ondersteunen aanpassingen, zoals aangepaste tekstclassificatie in Azure Language of aangepaste modellen in Azure Document Intelligence. Overweeg deze services voordat u kiest voor een volledige aangepaste training of een bredere benadering, zoals het gebruik van een taalmodel om een gespecialiseerde service te simuleren. Zie de volgende artikelen voor servicespecifieke documentatie:
     • Azure Vision in Foundry Tools
     • Azure Speech in Foundry Tools
     • Azure Language in Foundry Tools
     • Azure AI Zoeken
     • Azure Document Intelligence in Foundry Tools
     • Azure Content Understanding in Foundry Tools
     • Inhoudsveiligheid in Foundry Control Plane
   • Als uw workload generatieve AI of aangepaste AI-agents vereist om niet-deterministisch gedrag toe te voegen, gaat u verder met stap 2.
   • Als voor de functie aangepaste machine learning- of deep learning-mogelijkheden zijn vereist, zoals klassieke machine learning, computer vision, prognoses of het afstemmen van uw eigen modellen, gaat u verder met stap 3.
   • Als u machine learning wilt integreren in een bredere gegevens- en BI-werkstroom, gaat u verder met stap 4.

2. Kies voor generatieve AI en agents het Microsoft-platform dat overeenkomt met uw ontwikkelaarsprofiel.

   • Alleen toegang tot de directe LLM-API (Large Language Model): gebruik Azure OpenAI in Microsoft Foundry.

   • Code-first agentontwikkeling of multi-agentontwikkeling: Gebruik de Microsoft Agent Framework SDK die is gekoppeld aan de Foundry Agent Service voor hosting en orkestratie.

   • Volledig generatief AI-platform (Foundry-modellen, fine-tuning, evaluatie, veiligheid, waarneembaarheid en governance): Gebruik Microsoft Foundry.

3. Voor aangepaste machine learning en deep learning moet u uw beslissing baseren op waar training en inferentie moet worden uitgevoerd.

   • Op een Windows-app of apparaat: gebruik Microsoft Foundry op Windows en Windows ML voor lokale modelinferentie met hardwareversnelling. Gebruik ML.NET wanneer een .NET-toepassing lokale, klassieke machine learning-, AutoML- of Open Neural Network Exchange-modelintegratie (ONNX) nodig heeft.

   • Op een IoT-gateway of edge-apparaat: gebruik Azure IoT Edge, Foundry Local, Azure Lokaal of Azure Stack Edge voor lokale of hardwareversnelde inferentie.

   • Binnen een SQL-database: gebruik intelligente SQL-toepassingen en AI voor in-databasevoorspelling, vector ophalen en AI-eindpuntintegratie. Gebruik SQL Server Machine Learning Services of Azure SQL Managed Instance Machine Learning Services wanneer u Python of R-uitvoering in de database nodig hebt.

   • In een on-premises of multicloud Kubernetes-cluster: koppel het cluster aan Azure Machine Learning via Azure Arc, zodat gegevens aanwezig blijven terwijl training en inferentie worden gecoördineerd via Azure.

   • Op spark-gebaseerde of gedistribueerde rekenkracht: ga verder met stap 5.

   • Op cloudbeheerde compute met volledige MLOps: gebruik Azure Machine Learning.

4. Voor machine learning met geïntegreerde analyse kiest u de oplossing die overeenkomt met uw gegevens- en BI-patroon.

   • Geïntegreerde SaaS met Power BI op OneLake: gebruik de Microsoft Fabric Data Science-workload.

   • Bestaande Azure Synapse Analytics investering: Machine learning gebruiken in Azure Synapse Analytics. Voor nieuwe investeringen geeft u de voorkeur aan Microsoft Fabric.

   • Spark- en machine learning op Lakehouse-schaal: gebruik Azure Databricks.

5. Voor op Spark gebaseerde of gedistribueerde berekeningen moet u uw beslissing baseren op of u lakehouse of beheerde Spark-clusters gebruikt.

   • Lakehouse met MLflow- en Unity Catalog-governance: gebruik Azure Databricks. U kunt nog steeds modellen publiceren via door Azure Machine Learning beheerde eindpunten voor levering en governance.

   • Beheerde Spark-clusters op Azure met systeemeigen opslag- en beveiligingsintegratie: Apache Spark gebruiken in Azure HDInsight.

Azure Machine Learning

Azure Machine Learning is een volledig beheerde cloudservice voor het trainen, implementeren en beheren van machine learning-modellen op schaal. Het ondersteunt tienduizenden opensource-Python pakketten, waaronder TensorFlow, PyTorch en scikit-learn. Het biedt hulpprogramma's voor de volledige levenscyclus van machine learning, van gegevensvoorbereiding tot implementatie, MLOps en verantwoorde AI.

Gebruik Azure Machine Learning wanneer u de volgende mogelijkheden nodig hebt:

• Aangepaste training. U gebruikt aangepaste modeltraining voor klassieke machine learning, deep learning of het verfijnen van opensource-LLM's.

• MLOps in productie. U gebruikt een MLOps-levenscyclus voor productie met experimenten bijhouden, modelversiebeheer, governed modelregisters, CI/CD-pijplijnen en productiebewaking.

• Beheerde eindpunten. U gebruikt beheerde online- of batchinferentie-eindpunten die worden gehost in een omgeving die automatische schaalaanpassing, beheerde identiteit en bewaking biedt.

• Hybride rekenkracht. U gebruikt hybride training of inferentie voor kubernetes-clusters met Azure Arc.

De volgende tabel bevat een overzicht van de platformmogelijkheden die Azure Machine Learning biedt in de levenscyclus van machine learning.

De volgende tabel bevat een overzicht van de details over de basisadoptie voor Azure Machine Learning.

Azure Machine Learning is niet het meest geschikt in de volgende situaties:

• U hoeft alleen vooraf getrainde API's te gebruiken voor vision, spraak of taal. Gebruik in dit geval Foundry Tools.

• Machine learning is een kleine uitbreiding van een analyseworkload. In dit geval is Microsoft Fabric of Azure Databricks mogelijk een beter uitgangspunt.

• Uw takenpakket is end-to-end generatieve AI (modelselectie, agentorkestratie, evaluatie, implementatie en bewaking). U hebt ook geen klassieke machine learning-training of het Azure Machine Learning-asset, run en MLflow-model nodig. In dit geval kan alleen Microsoft Foundry voldoende zijn. Een Azure Machine Learning-werkruimte is alleen vereist wanneer u Azure Machine Learning trainings compute, MLOps-levenscyclus of beheerde online- of batcheindpunten nodig hebt voor aangepaste modellen.

Microsoft Foundry

Microsoft Foundry is het geïntegreerde Azure platform voor het bouwen, optimaliseren en beheren van generatieve AI-toepassingen en AI-agents. Microsoft Foundry combineert de Foundry-modelcatalogus, agent- en orchestrationservices, evaluatie- en veiligheidshulpprogramma's en een besturingsvlak voor runtime-governance. Voor het ontwikkelen van code-first agents wordt Microsoft Foundry gekoppeld aan het Microsoft Agent Framework, de geïntegreerde Microsoft SDK die de voorgaande splitsing tussen Semantic Kernel en AutoGen vervangt.

Gebruik Microsoft Foundry wanneer u de volgende mogelijkheden nodig hebt:

• Generatieve AI of agents. U ontwikkelt generatieve AI- of op agents gebaseerde oplossingen, zoals multimodel-chatbots of georkestreerde LLM-workflows.

• Modeldetectie en -evaluatie. U moet basismodellen van meerdere providers kunnen ontdekken, vergelijken en evalueren.

• Modelaanpassing en governance. U wilt foundation-modellen verfijnen, evalueren en implementeren in een beheerde omgeving die ingebouwde observeerbaarheid, inhoudsveiligheid en runtime-besturingselementen biedt.

De volgende tabel bevat een overzicht van de Microsoft Foundry-mogelijkheden die ondersteuning bieden voor generatieve AI-toepassingen en agentontwikkeling.

Foundry Toolkit voor Visual Studio Code

Foundry Toolkit voor Visual Studio Code is de belangrijkste ontwikkelomgeving voor Microsoft Foundry. Gebruik dit als u een lokale-eerste workflow wilt voor generatieve AI-toepassingen en agents. De toolkit ondersteunt modelverkenning, uitvoering van lokale modellen, prompt- en agentontwikkeling, hulpprogramma-integratie, foutopsporing, tracering, evaluatie, fine-tuning en implementatie naar Microsoft Foundry vanuit Visual Studio Code.

Begin in Foundry Toolkit wanneer de oplossing code, broncodebeheer, lokale iteratie, agentinspectie, INTEGRATIE van MCP-hulpprogramma's of modeltests nodig heeft vóór de implementatie. Gebruik de Foundry-portal voor proof-of-concept-verkenning, projectinstelling, resourcecontrole, evaluatiecontrole en operationele zichtbaarheid nadat toepassingen en agents actief zijn.

Foundry-portal en Azure Machine Learning Studio

De Foundry-portal en Azure Machine Learning Studio zijn complementaire webervaringen. Gebruik deze voor het maken van prototypen, project- en resourcebeheer, evaluatie en beoordeling, en operationele zichtbaarheid.

De volgende tabel bevat een overzicht van de kerndetails over adoptie voor Microsoft Foundry.

Microsoft Foundry is niet de beste oplossing in de volgende situaties:

• U gebruikt vooraf gemaakte AI-mogelijkheden zoals optische tekenherkenning (OCR), transcriptie van spraak-naar-tekst, vertaling of inhoudsmoderatie via een API en u hebt geen modelselectie, orkestratie of agents nodig. In dit geval gebruikt u Foundry Tools.

• Uw oplossing vereist aangepaste modeltraining, voor klassieke machine learning of deep learning en volledige MLOps-mogelijkheden. Gebruik in dit geval Azure Machine Learning. Microsoft Foundry biedt geen grootschalig ingerichte trainingscompute of AutoML voor tabellaire gegevens.

• Uw oplossing vereist data-engineering op Spark-schaal. In dit geval gebruikt u Azure Databricks of Microsoft Fabric.

Gieterijgereedschappen

Foundry Tools, voorheen Azure AI-services en Cognitive Services, is een familie van vooraf getrainde AI-mogelijkheden die u gebruikt via REST API's en SDK's. Elke tool is gericht op een specifieke functie, zodat u intelligente functies aan toepassingen kunt toevoegen zonder een aangepast model te bouwen of te trainen. Zie Een AI-servicestechnologie kiezen voor hulp bij het bepalen welke service u wilt gebruiken.

Gebruik Foundry Tools in de volgende situaties:

• Een vooraf getrainde API behandelt het scenario, dus u hoeft geen aangepast model te trainen.

• U hebt standaard, beheerde API's en api-gebaseerde integratie met bestaande toepassingen nodig.

In de volgende tabel worden veelgebruikte services per capaciteitsgebied gegroepeerd. Generatieve AI-modellen, agents en orkestratie maken deel uit van Microsoft Foundry en worden afzonderlijk vermeld ter referentie.

Als u de services in een capaciteitsgebied wilt vergelijken en er een wilt kiezen, raadpleegt u de volgende gedetailleerde selectiehandleidingen:

• Beeld- en videoverwerking
• Gerichte taalverwerking
• Spraakherkenning en -generatie
• Vectoren zoeken
• Technologie voor AI-services

De volgende tabel bevat een overzicht van de kerngegevens over adoptie voor Foundry Tools.

Foundry Tools is niet het beste in de volgende situatie: uw scenario vereist aangepaste modelarchitecturen of trainingsgegevens buiten de ondersteunde aanpassingsopties. In deze gevallen gebruikt u Azure Machine Learning voor klassieke of deep learning-modellen of gebruikt u Microsoft Foundry voor fine-tuning van generatieve AI.

Microsoft Fabric

Microsoft Fabric is een geïntegreerd, op SaaS gebaseerd analyseplatform. Het integreert data engineering, data science, datawarehousing, realtime intelligentie en Power BI op een gedeelde OneLake-gegevensbasis. Data engineers, gegevenswetenschappers en bedrijfsanalisten die gebruikmaken van Microsoft Fabric, werken samen in dezelfde beheerde omgeving.

De Microsoft Fabric Data Science-workload is het onderdeel dat het meest relevant is voor machine learning. Het biedt Spark-notebooks, AutoML, een ingebouwde MLflow-ervaring voor het bijhouden van experimenten en een modelregister. Zie Wat is Data Science in Microsoft Fabric? voor gedetailleerde informatie.

Gebruik Microsoft Fabric wanneer u de volgende mogelijkheden nodig hebt:

• Machine learning geïntegreerd met analytics. Machine learning maakt deel uit van een bredere analysewerkstroom in uw oplossing, zoals het bouwen van een model op gegevens in een lakehouse en het leveren van voorspellingen aan Power BI.

• Volledig beheerde SaaS-oplossing. U wilt een volledig beheerde SaaS-ervaring met minimale infrastructuur om te beheren.

• Gedeelde gegevensbasis. Uw team werkt over data engineering, data science en BI heen op dezelfde OneLake-basis.

De volgende tabel bevat een overzicht van Microsoft Fabric mogelijkheden die het meest relevant zijn voor machine learning met geïntegreerde analyse.

De volgende tabel bevat een overzicht van de kernacceptatiedetails voor Microsoft Fabric.

Microsoft Fabric is minder geschikt in de volgende situatie: u hebt deep learning op schaal nodig, uitgebreide MLOps met beheerde registers of fijnmazige controle over rekenresources. Vul Microsoft Fabric in deze gevallen aan met Azure Machine Learning of Azure Databricks. Microsoft Fabric ondersteunt machine learning met geïntegreerde analyse goed, maar het is geen vervanging voor een toegewezen machine learning-platform.

Azure Databricks

Azure Databricks is een geïntegreerd open analyseplatform voor het bouwen, implementeren, delen en onderhouden van data-, analyse- en AI-oplossingen. Het combineert datawarehousing en data lake-mogelijkheden in een lakehouse-architectuur en integreert met Azure opslag en beveiliging.

Gebruik Azure Databricks wanneer u de volgende mogelijkheden nodig hebt:

• Machine learning op Spark-schaal. U moet machine learning uitvoeren op zeer grote gegevenssets of gedistribueerde Spark-clusters.

• Geünificeerde lakehouse-workflow. U combineert data engineering, feature-engineering, experimenten en modelontwikkeling in één lakehouse-werkstroom.

• Machine learning-activiteiten in productie. U wilt machine learning-oplossingen in productie implementeren, beheren en bewaken met behulp van beheerde serving-eindpunten, geautomatiseerde werkstromen en MLOps-pijplijnen.

• Unity Catalog governance. U wilt gegevens, kenmerken, modellen en functies beheren in Unity Catalog, die gecentraliseerd toegangsbeheer en herkomst biedt.

• Generatieve AI en agents. Je bouwt generatieve AI- en AI-agentworkloads in Azure Databricks, inclusief aangepaste en basismodelscenario's.

De volgende tabel somt opmerkelijke Azure Databricks-mogelijkheden op:

De volgende tabel bevat een overzicht van de kernacceptatiedetails voor Azure Databricks.

Azure Databricks is niet de beste keuze in de volgende situaties:

• Uw team heeft geen verwerking op Spark-schaal nodig. In dit geval is de clusteroverhead mogelijk niet gerechtvaardigd.

• Uw situatie gebruikt uitsluitend API-gestuurde AI. In dit geval biedt Foundry Tools of Microsoft Foundry een meer direct pad.

• U hebt Azure Machine Learning-specifieke besturingselementen voor governance, eindpuntmogelijkheden of een gestandaardiseerde eindpuntlaag voor teams nodig. In deze gevallen gebruikt u Azure Machine Learning beheerde eindpunten in een hybride ontwerp.

Intelligente SQL-toepassingen en machine learning

SQL in-database AI bewaart beheerde relationele gegevens waar deze zich al bevindt en voegt voorspelling, vector ophalen en AI-eindpuntintegratie rechtstreeks in Transact-SQL (T-SQL) toe.

Gebruik SQL in-database AI in de volgende situaties:

• Gegevens moeten in uw relationele database blijven om redenen van beveiliging, privacy, latentie of regelgeving.

• U hebt scoring met lage latentie nodig dicht bij transacties, zoals fraudecontroles of beslissingen over de beste actie.

• U wilt vectorzoekopdrachten en opvraging rechtstreeks in de database voor RAG en patronen voor semantische overeenkomst.

• U hebt database-native aanroepen van externe AI-eindpunten vanuit T-SQL nodig voor orkestratie of werkstromen die door agents kunnen worden aangeroepen.

De volgende tabel bevat de huidige platforms en hulpprogramma's:

De volgende tabel geeft een overzicht van de belangrijkste adoptiedetails voor Azure SQL machine learning.

Combineer Azure SQL machine learning met een ander platform als u de volgende benadering wilt gebruiken:

• Train extern, score in SQL. Voor grootschalige of deep learning-training gebruikt u Azure Machine Learning, Azure Databricks of Microsoft Fabric voor training. Breng vervolgens inferentieartefacten terug naar SQL voor scoren in de database.

• Cloud-trainen, database-implementeren, SQL-voorspellen. Train extern, exporteer een score-artefact dat wordt ondersteund door het SQL-doelplatform en gebruik PREDICT vervolgens om voorspellingen uit te voeren in SQL dicht bij transactiegegevens.

• Genereer embeddings in SQL, roep endpoints aan voor het genereren. Voor RAG- en agentscenario's genereert u embeddings en voert u vector retrieval uit in SQL. Als u vervolgens antwoordgeneratie nodig hebt, gebruikt u sp_invoke_external_rest_endpoint om externe modeleindpunten aan te roepen vanuit SQL.

Edge, lokaal en on-premises machine learning

Voor machine learning die buiten de cloud wordt uitgevoerd, op lokale apparaten, in offlineomgevingen, ingesloten in toepassingen of binnen een on-premises infrastructuur, biedt Microsoft verschillende opties.

Gebruik edge-, lokale en on-premises machine learning wanneer u de volgende mogelijkheden nodig hebt:

• Lokale inferentie. Om te voldoen aan de vereisten voor latentie, offlinewerking of gegevensprivacy, heeft uw scenario inferentie nodig om lokaal te kunnen worden uitgevoerd. Voor predictive maintenance-oplossingen in omgevingen met onregelmatige connectiviteit is bijvoorbeeld lokale inferentie vereist.

• De mogelijkheid om machine learning te integreren in toepassingen. U bouwt desktop- of mobiele toepassingen waarvoor ingesloten machine learning-mogelijkheden nodig zijn.

• Lokale uitvoering. Uw scenario heeft machine learning-uitvoering nodig om te worden uitgevoerd binnen een on-premises omgeving, zoals een lokale SQL Server-implementatie.

Microsoft biedt deze opties:

• Microsoft Foundry op Windows omvat Windows ML voor lokale inferentie op Windows-apparaten met hardwareversnelling op CPU's, GPU's en NPU's. Gebruik Windows ML voor nieuwe Windows-app- en apparaatinferentieworkloads.

• ML.NET is een open-source, platformoverschrijdend machine learning-framework voor .NET ontwikkelaars. Het ondersteunt het laden van gegevens, training (inclusief AutoML voor .NET) en lokale inferentie. Gebruik ML.NET wanneer de toepassing .NET-systeemeigen modeltraining of inferentie nodig heeft, met inbegrip van ONNX-modelintegratie.

• SQL Server Machine Learning Services ondersteunt training en scoren binnen on-premises SQL Server wanneer gegevens in de lokale gegevenslaag moeten blijven.

• Foundry Local is een AI-inferentieoplossing op apparaat die Microsoft Foundry uitbreidt naar edge- en offlinescenario's.

• Azure Lokaal biedt Azure beheerde infrastructuur voor lokale virtuele machines (VM's) en containers. Gebruik deze om edge AI-onderdelen dicht bij gegevens te hosten, zoals Foundry Local-workloads, RAG-ophaalonderdelen of ONNX-modellen die zijn geëxporteerd uit Azure Machine Learning.

• Kubernetes-rekenkracht voor Azure Machine Learning koppelt kubernetes-clusters met Azure Arc-functionaliteit aan een Azure Machine Learning werkruimte, zodat on-premises of multicloudclusters training en inferentie uitvoeren terwijl orkestratie in Azure blijft.

• Azure IoT Edge implementeert machine learning-modellen in containers op edge-apparaten, zodat inferentie lokaal wordt uitgevoerd.

• Azure Stack Edge biedt door Microsoft beheerde edge-apparaten die u kunt gebruiken voor machine learning en met hardwareversnelling uitgevoerde VM- of gecontaineriseerde workloads. Apparaten zijn alleen beschikbaar voor gevalideerde partnerworkloads of implementaties van ten minste 100 knooppunten.

Een typisch patroon traint een exporteerbaar model in de cloud met behulp van Azure Machine Learning of Azure Databricks. Het model wordt vervolgens geconverteerd naar ONNX wanneer het model en de doelruntime die indeling ondersteunen. Ten slotte wordt het model geïmplementeerd voor edge-inferentie via Windows ML, ML.NET, een Azure IoT Edge-module, Foundry Local of Azure Lokaal-infrastructuur.

Platforms combineren

Productieoplossingen kunnen meer dan één platform combineren. De beslisboom in Narrow your platform choice helpt u bij het kiezen van een primair startplatform. Gebruik de volgende tabel om samengestelde architecturen te plannen en de ondersteunende Microsoft onderdelen te identificeren die voor elk scenario doorgaans nodig zijn.

Ontwikkelplatforms en hulpprogramma's

De meeste teams gebruiken overkoepelende ontwikkeltools en ondersteunende services naast het platform dat ze als primaire platform kiezen. Deze hulpprogramma's beïnvloeden waar werk op het gebied van AI en machine learning wordt ontwikkeld, getest en verpakt voordat het wordt uitgevoerd. De ondersteunende services beïnvloeden waar inferentie wordt gehost of waar rekenkracht aan gegevens wordt gekoppeld die niet kunnen worden verplaatst naar een beheerd cloudplatform.

In deze sectie worden de primaire ontwikkelhulpprogramma's, de dagelijkse ontwikkelings- en operationele platformen, gescheiden van de aangrenzende ondersteunende services die zelfbeheerde inferentie hosten, machine learning op basis van Spark versnellen of training en scoring uitbreiden naar een on-premises infrastructuur.

De volgende hulpprogramma's ondersteunen ontwikkeling op cloud- en on-premisesplatforms.

Aangrenzende ondersteunende services helpen bij experimenten, zelfbeheerde hosting van inferentie, machine learning op basis van Spark of hybride werking, maar ze zijn niet de primaire platformkeuzen in de beslisstroom.

Medewerkers

Microsoft onderhoudt dit artikel. De volgende inzenders hebben dit artikel geschreven.

Hoofdauteur:

• Mahdi Setayesh | Hoofd Software Ingenieur

Als u niet-openbare LinkedIn-profielen wilt zien, meldt u zich aan bij LinkedIn.

Volgende stappen

• Wat is Azure Machine Learning?
• Documentatie voor Microsoft Foundry
• Wat is Microsoft Fabric?
• Wat zijn Foundry Tools?
• Hoe Azure Machine Learning werkt
• Microsoft AI
• Microsoft Learn-training voor AI-technici en gegevenswetenschappers

Verwante bronnen

• Een TECHNOLOGIE voor AI-services kiezen
• Een Azure-service kiezen voor vectorzoekopdrachten
• Overzicht van AI-technologie