ai- en machine learning-producten Microsoft

Microsoft biedt verschillende platforms voor AI en machine learning. Elk platform is gericht op een andere combinatie van het publiek, de workload, de gegevensbasis en het implementatiemodel. Dit artikel helpt oplossingsarchitecten, machine learning-technici, gegevenswetenschappers en toepassingsontwikkelaars een startplatform te kiezen, inzicht te krijgen in hoe de platforms verschillen en hoe ze kunnen worden gecombineerd in echte architecturen. Dekking omvat klassieke machine learning, met analyse geïntegreerde machine learning en generatieve AI-workloads in Azure, Microsoft Fabric en Microsoft Foundry. Dit artikel is gericht op Microsoft geleverde oplossingen.

Gebruik dit artikel om opties te vergelijken en een end-to-end-oplossing te ontwerpen.

Note

Dit artikel is gericht op aangepaste AI- en machine learning-platforms, niet op verpakte SaaS-assistenten (Software as a Service), saaS-ontwerphulpprogramma's met weinig code of in-productervaringen voor eindgebruikers.

Primaire workloadscenario's

Begin met de AI- of machine learning-functie die u moet toevoegen aan uw workload. De volgende tabel wijst algemene functiescenario's toe aan een aanbevolen startplatform voor aangepaste AI- en machine learning-mogelijkheden. Gebruik deze als eerste oriëntatie voordat u de platformmogelijkheden bekijkt en de beslissingsstructuur doorloopt.

Primaire situatie Aanbevolen uitgangspunt Onderbouwing
Generatieve AI-toepassingen of AI-agents bouwen Microsoft Foundry Biedt modeldetectie, fine-tuning, retrieval-augmented generation (RAG), agentindeling, evaluatie en veiligheidshulpprogramma's in één platform.
AI-functies toevoegen via een vooraf gedefinieerde API voor vision, spraak, taal, zoeken of inhoudsveiligheid Gieterijgereedschappen Biedt vooraf getrainde API's waarvoor geen aangepaste training is vereist. Gebruik deze voordat u een aangepast model bouwt.
Een aangepast machine learning- of Deep Learning-model trainen, implementeren en beheren Azure Machine Learning Behandelt de volledige levenscyclus van machine learning, waaronder MLOps, online- en batch-eindpunten en verantwoorde AI-hulpprogramma's.
Analyse-geïntegreerde machine learning uitvoeren op een geïntegreerd bi-platform (data and business intelligence) Microsoft Fabric Biedt een SaaS-analyseplatform dat ondersteuning biedt voor Apache Spark-notebooks, AutoML en Microsoft integratie met OneLake met Power BI.
Machine learning uitvoeren op Spark-, Lakehouse-gegevens of grote gedistribueerde trainingstaken Azure Databricks of Apache Spark in Azure HDInsight Azure Databricks: ondersteunt Spark op lakehouse-schaal met systeemeigen MLflow- en Unity Catalog-integratie.

Azure HDInsight: ondersteunt Azure beheerde Spark-clusters met systeemeigen opslag- en beveiligingsintegratie.
Machine learning in een SQL-database, op edge-apparaten of in bureaubladtoepassingen houden Intelligente SQL-toepassingen en AI, Azure SQL Managed Instance Machine Learning Services, SQL Server Machine Learning Services of lokale machine learning-hulpprogramma's Biedt een manier om gegevens op hun plaats te houden en in-databasevoorspelling, vectorherhaling of AI-eindpuntintegratie toe te voegen.

Platformmogelijkheden vergelijken

De volgende matrix geeft een overzicht van waar elk platform de primaire fit is, waar het aanvullende ondersteuning biedt en waar de mogelijkheid geen focus heeft. In de matrix worden deze pictogrammen gebruikt:

  • ✅ Primaire mogelijkheid
  • ⚠⋃ Ondersteunde of complementaire mogelijkheid
  • ❌ Geen focus
Capability Microsoft Foundry Azure Machine Learning Microsoft Fabric Azure Databricks Gieterijgereedschappen SQL machinaal leren Edge of lokale machine learning
Generatieve AI en agents ✅ ⚠(*) (Niet primair platform) ❌ ⚠(*) (Lakehouse-scoped) ⚠ϑ (alleen bouwstenen) ❌ ⚠(*) (alleen apparaat)
Detectie en evaluatie van Foundation-modellen ✅ ⚠(*) (Niet primair platform) ❌ ⚠(*) (Lakehouse-scoped) ❌ ❌ ❌
Aangepaste modeltraining (klassiek of deep learning) ⚠(*) (alleen afstemmen) ✅ ⚠(*) (analysebereik) ✅ ❌ ⚠(*) (databasebereik) ⚠(*) (alleen lokaal)
Grootschalige of gedistribueerde trainingsreken ❌ ✅ ⚠(*) (kleinere schaal) ✅ ❌ ❌ ❌
AutoML (Automated Machine Learning) ❌ ✅ ✅ ✅ ❌ ❌ ⚠(*) (alleen .NET)
MLOps-levenscyclus (register, pijplijnen, continue integratie en continue levering (CI/CD)) ⚠(*) (Via Azure Machine Learning) ✅ ⚠(*) (Via Azure Machine Learning) ✅ ❌ ❌ ❌
Realtime (online) deductie ✅ ✅ ⚠(*) (Modeleindpunten in preview) ✅ ✅ ⚠(*) (alleen in database) ✅
Batchdeductie (offline) ⚠(*) (Online-first) ✅ ✅ ✅ ❌ ✅ ⚠(*) (alleen lokaal)
On-premises of offline implementatie ⚠(*) (alleen edge-subset) ⚠(*) (Via Azure Arc) ❌ ❌ ⚠(*) (alleen containers) ✅ ✅
Hulpprogramma's voor governance en beveiliging ✅ ✅ ⚠(*) (Beperkte modelgovernance) ✅ ⚠(*) (servicebereik) ⚠(*) (databasebereik) ❌

In de volgende opmerkingen worden specifieke beoordelingen in de matrix verduidelijkt:

  • Foundry Tools wordt beoordeeld als aanvulling op generatieve AI en agents, omdat services zoals Azure AI Zoeken, Content Safety in Foundry Control Plane en Azure Document Intelligence in Foundry Tools veelvoorkomende bouwstenen zijn voor RAG- en agentoplossingen. Het primaire platform voor generatieve AI-ontwikkeling is Microsoft Foundry.

  • Microsoft Foundry governance komt voornamelijk van Foundry Control Plane, dat waarneembaarheid, runtime-controles, beveiligingsintegratie en vlootbeheer biedt voor agents en toepassingen.

  • Azure Machine Learning ondersteunt generatieve AI via toegang tot Foundry-modellen, beheerde eindpunten, evaluatiemogelijkheden en afstemming voor ondersteunde basismodellen. Het is niet het primaire platform voor generatieve AI-ontwikkeling.

  • Azure Databricks verdient een primaire classificatie voor governance omdat Unity Catalog geïntegreerde gegevens en modelbeheer biedt met op rollen gebaseerd toegangsbeheer (RBAC) en OpenSharing.

  • Microsoft Fabric als aanvulling op governance wordt beoordeeld, omdat OneLake, Microsoft Purview integratie, vertrouwelijkheidslabels en besturingselementen op basis van domeinen gegevensassets goed dekken. Microsoft Fabric bevat een ingebouwd modelregister op basis van MLflow voor het opslaan en bijhouden van modellen. Microsoft Fabric heeft ook een ingebouwde herkomstweergave voor machine learning-modellen en -experimenten, waaronder relaties met lakehouses en code-items. Maar Microsoft Fabric bevat geen verantwoordelijk AI-dashboard. Koppel Microsoft Fabric met Azure Machine Learning voor een bredere levenscyclus van modellen.

  • Microsoft Fabric wordt beoordeeld als complementair voor realtime deductie, omdat Microsoft Fabric Real-Time Intelligence streaminganalyses omvat en Microsoft Fabric machine learning-modeleindpunten beheerde online REST-eindpunten bieden voor realtime voorspellingen. Modeleindpunten zijn in preview en ondersteunen een beperkte set modelaroma's. Voor een brede online productie kunt u ook Microsoft Fabric koppelen aan Azure Machine Learning beheerde online-eindpunten of Microsoft Foundry.

  • Foundry Local breidt Microsoft Foundry uit naar deductie op het apparaat voor edge- en offlinescenario's.

  • Azure Arc breidt Azure Machine Learning uit naar on-premises Kubernetes-clusters voor hybride training of scoren.

  • Microsoft Fabric Data Science bevat een AutoML-ervaring met weinig code. Code-first AutoML is beschikbaar via Fast and Lightweight AutoML (FLAML) API's in Microsoft Fabric notebooks. Raadpleeg de Microsoft Fabric documentatie voor de huidige status.

Uw platformkeuze verfijnen

Gebruik de volgende beslissingsstructuur om uw keuze voor het startplatform te beperken. De structuur helpt u bij het selecteren van een primair platform voor een workload. De meeste productieoplossingen combineren meer dan één platform, dus gebruik de productspecifieke secties in dit artikel om uw keuze te verfijnen. Overweeg ook het gebruik van een patroon voor samengestelde architectuur. Zie Platformen combineren voor meer informatie.

Beslissingsstructuur voor een primair Microsoft AI- of machine learning-platform op basis van het scenario, ontwikkelaarsprofiel en trainings- en deductielocaties.

Download een Visio bestand van deze beslissingsstructuur.

Stapsgewijze doorloop

Gebruik de volgende stappen om de beslissingsstructuur te doorlopen. Wanneer u een platformkeuze hebt bereikt, slaat u de resterende stappen over.

  1. Identificeer het functiescenario.

    Maak platformkeuzen op functieniveau binnen uw workload. Elke functie kan unieke functionele en niet-functionele vereisten hebben die een of meer technologieën kunnen dienen. Wanneer u dit stroomdiagram gebruikt, moet u rekening houden met de vereisten van de specifieke use case die u wilt oplossen.

    • Als vooraf gemaakte AI-functies zoals vision, spraak, taal, zoeken, documentbegrip of inhoudsveiligheid voldoen aan de behoeften van uw workload, gebruikt u Foundry Tools. Veel services in Foundry Tools ondersteunen aanpassingen, zoals aangepaste tekstclassificatie in Azure Taal of aangepaste modellen in Azure Document Intelligence. Overweeg deze services voordat u een volledige aangepaste training of een bredere benadering doorvoert, zoals het gebruik van een taalmodel om een gespecialiseerde service te simuleren. Zie de volgende artikelen voor servicespecifieke documentatie:
    • Als uw workload generatieve AI of aangepaste AI-agents vereist om niet-deterministisch gedrag toe te voegen, gaat u verder met stap 2.
    • Als voor de functie aangepaste machine learning- of deep learning-mogelijkheden zijn vereist, zoals klassieke machine learning, computer vision, prognoses of het afstemmen van uw eigen modellen, gaat u verder met stap 3.
    • Als u machine learning wilt integreren in een bredere gegevens- en BI-werkstroom, gaat u verder met stap 4.

  2. Kies voor generatieve AI en agents het Microsoft-platform dat overeenkomt met uw ontwikkelaarsprofiel.

    • Alleen directe LLM-API-toegang (Large Language Model): gebruik Azure OpenAI in Microsoft Foundry.

    • Code-first agent- of multiagentontwikkeling: gebruik de Microsoft Agent Framework SDK die is gekoppeld aan de Foundry Agent Service voor hosting en indeling.

    • Volledig generatief AI-platform (Foundry-modellen, fine-tuning, evaluatie, veiligheid, waarneembaarheid en governance): Gebruik Microsoft Foundry.

  3. Voor aangepaste machine learning en deep learning moet u uw beslissing baseren op waar training en deductie moet worden uitgevoerd.

  4. Voor machine learning met geïntegreerde analyse kiest u de oplossing die overeenkomt met uw gegevens- en BI-patroon.

  5. Voor op Spark gebaseerde of gedistribueerde berekeningen moet u uw beslissing baseren op het gebruik van Lakehouse- of beheerde Spark-clusters.

    • Lakehouse met MLflow- en Unity Catalog-governance: gebruik Azure Databricks. U kunt nog steeds modellen publiceren via Azure Machine Learning beheerde eindpunten voor de service en governance.

    • Beheerde Spark-clusters op Azure met systeemeigen opslag- en beveiligingsintegratie: Apache Spark gebruiken in Azure HDInsight.

Note

Voor architecturen die cloud- en on-premises omgevingen omvatten, koppelt u on-premises of multicloud Kubernetes-clusters aan een Azure Machine Learning werkruimte via Azure Arc. Met deze installatie blijven gegevens on-premises bij het organiseren van training en deductie via Azure. Zie Kubernetes-cluster configureren voor Azure Machine Learning voor gedetailleerde informatie.

Azure Machine Learning

Azure Machine Learning is een volledig beheerde cloudservice voor het trainen, implementeren en beheren van machine learning-modellen op schaal. Het ondersteunt tienduizenden opensource-Python pakketten, waaronder TensorFlow, PyTorch en scikit-learn. Het biedt hulpprogramma's voor de volledige levenscyclus van machine learning, van gegevensvoorbereiding tot implementatie, MLOps en verantwoorde AI.

Gebruik Azure Machine Learning wanneer u de volgende mogelijkheden nodig hebt:

  • Aangepaste training. U gebruikt aangepaste modeltraining voor klassieke machine learning, deep learning of het verfijnen van opensource-LLM's.

  • Productie-MLOps. U gebruikt een MLOps-levenscyclus voor productie met experimenten bijhouden, modelversiebeheer, beheerde registers, CI/CD-pijplijnen en productiebewaking.

  • Beheerde eindpunten. U gebruikt beheerde online- of batchdeductie-eindpunten die worden gehost in een omgeving die automatische schaalaanpassing, beheerde identiteit en bewaking biedt.

  • Hybride rekenkracht. U gebruikt hybride training of deductie voor kubernetes-clusters met Azure Arc.

De volgende tabel bevat een overzicht van de platformmogelijkheden die Azure Machine Learning biedt in de levenscyclus van machine learning.

Capability Beschrijving
Werkruimten en gegevensarchieven Een centrale resource voor het organiseren van experimenten, berekeningen, gegevenssets, modellen en verbindingen met externe gegevensarchieven. Assets en uitvoeringsgeschiedenis zijn versiebeheer voor reproduceerbaarheid.
Rekenclusters en exemplaren Ingerichte CPU- en GPU-rekenkracht voor gedistribueerde training (rekenclusters) en interactieve notebookontwikkeling (rekeninstanties).
Serverloze rekenkracht Beheerde berekeningen op aanvraag die Azure Machine Learning automatisch maakt en schaalt voor trainingstaken.
Geautomatiseerde machine learning Het genereren van modellen, pijplijnen, afstemming van hyperparameters en functie-engineering voor classificatie, regressie, prognoses, computer vision en verwerking van natuurlijke taal.
Pijplijnen en ontwerpfunctie Indeling op basis van code en slepen en neerzetten voor gegevensvoorbereiding, training, evaluatie en implementatie. Kan worden geïntegreerd met CI/CD-hulpprogramma's.
Toegang tot Foundry Models Een platform voor het detecteren, evalueren, verfijnen en implementeren van ondersteunde basismodellen van Microsoft, OpenAI, Meta, Hugging Face en andere providers via Foundry-modellen in Azure Machine Learning.
MLflow-experimenttracking en modelbeheer Het bijhouden van experimenten, uitvoeringen, metrische gegevens, parameters, artefacten en modellen met behulp van MLflow-compatibele API's met een Azure Machine Learning werkruimte.
Online- en batch-eindpunten Beheerde REST-eindpunten voor realtime deductie en aanroepbare eindpunten voor batchgewijs scoren, met ondersteuning voor automatische schaalaanpassing en beheerde identiteit.
Verantwoorde AI-hulpprogramma's Dashboards voor getrouwheid, uitleg en foutanalyse.
Beveiliging en hybride ondersteuning Integratie met Azure Virtual Network, Azure Key Vault, Azure Container Registry, RBAC, beheerde identiteiten en Azure Arc.

De volgende tabel bevat een overzicht van de kernacceptatiedetails voor Azure Machine Learning.

Aspect Details
Type Machine Learning-platform in de cloud.
Ondersteunde talen Python en R. Een opdrachtregelinterface (CLI) en REST API's worden ook ondersteund.
Machine learning-fasen Gegevensvoorbereiding, training, implementatie, MLOps en verantwoorde AI.
Belangrijkste voordelen Code-first SDK- en CLI-werkstromen. Ontwerpen op basis van Studio. Centraal beheer van scripts, experimenten en uitvoeringsgeschiedenis. Schaalbare training en implementatie. Hybride opties via Azure Arc.
Overwegingen Enige bekendheid met de werkruimte en het assetmodel is nuttig voordat u volledige MLOps gaat gebruiken.

Azure Machine Learning is niet het meest geschikt in de volgende situaties:

  • U hoeft alleen vooraf getrainde API's te gebruiken voor vision, spraak of taal. In dit geval gebruikt u Foundry Tools.

  • Machine learning is een kleine uitbreiding van een analyseworkload. In dit geval is Microsoft Fabric of Azure Databricks mogelijk een beter uitgangspunt.

  • Uw workload is end-to-end generatieve AI (modelselectie, agentindeling, evaluatie, implementatie en bewaking). U hebt ook geen klassieke machine learning-training of het Azure Machine Learning-asset, run- en MLflow-model nodig. In dit geval kan alleen Microsoft Foundry voldoende zijn. Een Azure Machine Learning-werkruimte is alleen vereist wanneer u Azure Machine Learning trainings compute, MLOps-levenscyclus of beheerde online- of batcheindpunten nodig hebt voor aangepaste modellen.

Microsoft Foundry

Microsoft Foundry is het geïntegreerde Azure platform voor het bouwen, optimaliseren en beheren van generatieve AI-toepassingen en AI-agents. Microsoft Foundry combineert de Foundry-modelcatalogus, agent- en indelingsservices, evaluatie- en veiligheidshulpprogramma's en een besturingsvlak voor runtime-governance. Voor het ontwikkelen van code-first agents Microsoft Foundry paren met het Microsoft Agent Framework, de geïntegreerde Microsoft SDK die de voorgaande splitsing tussen Semantic Kernel en AutoGen vervangt.

Gebruik Microsoft Foundry wanneer u de volgende mogelijkheden nodig hebt:

  • Generatieve AI of agents. U bouwt generatieve AI- of op agents gebaseerde oplossingen, zoals chatbots met meerdere modellen of georganiseerde LLM-werkstromen.

  • Modeldetectie en -evaluatie. U moet basismodellen van meerdere providers kunnen detecteren, vergelijken en evalueren.

  • Modelaanpassing en governance. U wilt basismodellen verfijnen, evalueren en implementeren in een beheerde omgeving die ingebouwde waarneembaarheid, inhoudsveiligheid en runtime-besturingselementen biedt.

De volgende tabel bevat een overzicht van de Microsoft Foundry-mogelijkheden die ondersteuning bieden voor generatieve AI-toepassingen en agentontwikkeling.

Capability Beschrijving
Gieterijmodellen Een catalogus met vooraf getrainde modellen van providers zoals Azure OpenAI, Hugging Face en Meta, plus de Microsoft Phi small language model family, met benchmarks en implementatieopties.
Model Aanpassing De mogelijkheid om ondersteunde basismodellen op uw eigen gegevens af te stemmen of aan te passen. Implementatieopties zijn afhankelijk van het model en bevatten standaard- en ingerichte typen, indien beschikbaar.
Foundry Agent-dienst Een platform voor het hosten en organiseren van AI-agents waarmee bedrijfsprocessen met meerdere taken worden geautomatiseerd. Paren met de Microsoft Agent Framework SDK voor het ontwikkelen van code-first agent. Implementeert de OpenAI-compatibele Antwoorden-API voor brede client-SDK-ondersteuning.
Foundry IQ Een beheerde kennislaag die agents op ondernemingsgegevens afdingt. Bouwt kennisdatabases met meerdere bronnen en maakt gebruik van agentisch ophalen om machtigingsbewuste antwoorden met bronvermeldingen te retourneren. Gebouwd op Azure AI Zoeken. Kennisbronnen omvatten geïndexeerde bronnen (zoals een bestaande Azure AI Zoeken-index, Azure Blob Storage, rechtstreeks geüploade bestanden, OneLake, Azure SQL en geïndexeerde SharePoint) en externe bronnen die tijdens runtime worden opgevraagd (zoals externe SharePoint, Microsoft Fabric ontology, Work IQ, Microsoft Bing webgegevens, MCP-servers (Model Context Protocol) en Microsoft Fabric gegevensagenten). Verschillende van deze connectors zijn momenteel beschikbaar als preview-versie. Zie voor de huidige preview-status en ondersteunde connectors agentische kennisbronnen in Azure AI Zoeken. Zie Een Azure-service kiezen voor vectorzoekopdrachten voor opties voor gegevensopslag.
Controlevlak van Foundry Een interface die waarneembaarheid, runtime-controles, beveiligingsintegratie en vlootbeheer biedt voor Microsoft Foundry-agents en -toepassingen.
Inhoudsveiligheid Een AI-service die schadelijke door de gebruiker gegenereerde en DOOR AI gegenereerde inhoud detecteert. Zie Inhoudsveiligheid.
Gieterij Lokaal Een oplossing voor AI-deductie op het apparaat voor edge- en offlinescenario's waarbij prestaties, privacy of kosten belangrijk zijn.

Foundry Toolkit voor Visual Studio Code

Foundry Toolkit voor Visual Studio Code is de primaire ontwikkelaarservaring voor Microsoft Foundry. Gebruik deze als u een lokale-eerste werkstroom wilt voor generatieve AI-toepassingen en -agents. De toolkit ondersteunt modeldetectie, uitvoering van lokale modellen, prompt- en agentontwikkeling, hulpprogramma-integratie, foutopsporing, tracering, evaluatie, afstemming en implementatie voor Microsoft Foundry vanuit Visual Studio Code.

Begin in Foundry Toolkit wanneer de oplossing code, broncodebeheer, lokale iteratie, agentinspectie, INTEGRATIE van MCP-hulpprogramma's of modeltests nodig heeft vóór de implementatie. Gebruik de Foundry-portal voor proof-of-concept-verkenning, projectinstallatie, resourcebeoordeling, evaluatiebeoordeling en operationele zichtbaarheid nadat toepassingen en agents zijn uitgevoerd.

Foundry-portal en Azure Machine Learning Studio

De Foundry-portal en Azure Machine Learning Studio zijn complementaire webervaringen. Gebruik deze voor het maken van prototypen, project- en resourcebeheer, evaluatiebeoordeling en operationele zichtbaarheid.

Categorie Foundryportaal Azure Machine Learning Studio
Meest geschikte workload Proofs of concept, model exploration, agent review, evaluation review, and operational visibility for generatieve AI applications and agents. Aangepaste machine learning, klassieke machine learning, deep learning en bredere machine learning-platformwerkstromen.
Gegevensverwerking Functionaliteit voor het verbinden van projectbronnen en ondersteunde gegevensbronnen, waaronder Blob Storage, OneLake en Azure Data Lake Storage. Werkruimteopslag, gegevensassets en verbonden Azure opslagaccounts.
Ontwerpervaringen Op portal gebaseerde prototypen, speeltuinen, modelverkenning, evaluatiebeoordeling en projectresourcebeheer. Notebooks, designer, AutoML, modelbeheer en SDK- en CLI-werkstromen.
Ondersteunde talen en SDK's Python, C#, JavaScript en Java SDK's. REST API's. Python, R en de Azure CLI. REST API's.
Basistrainingssterkte Modelevaluatie en ondersteunde afstemming. AutoML en aangepaste training voor klassieke machine learning, deep learning en LLM-afstemming.
Berekening en implementatie Beheerde compute- en serverloze API's voor ondersteunde basismodellen. Beheerde berekeningen, serverloze berekeningen, online-eindpunten, batcheindpunten en Azure Arc opties.
Generatief AI-oppervlak Een weboppervlak voor Foundry Models-verkenning, evaluatiebeoordeling, waarneembaarheid en veiligheidsprogramma's. Foundry Models-toegang, beheerde eindpunten, evaluatie en afstemming voor ondersteunde basismodellen binnen het Azure Machine Learning-platform.
Governance Foundry Control Plane voor agent- en toepassingsbeheer. Verantwoorde AI-dashboards, herkomst, modelbeheer en MLOps-besturingselementen.

De volgende tabel bevat een overzicht van de kernacceptatiedetails voor Microsoft Foundry.

Aspect Details
Type Een geïntegreerd platform voor basismodellen, agents en generatieve AI-toepassingen.
Ondersteunde talen Python, C#, JavaScript en Java SDK's. REST API's.
Machine learning-fasen Modeldetectie en -evaluatie, ontwikkeling van toepassingen en agents, afstemming van ondersteunde modellen, implementatie, bewaking en veiligheid.
Belangrijkste voordelen Een geconsolideerde Foundry-modelcatalogus. Geïntegreerde evaluatie, veiligheid en waarneembaarheid. Ondersteuning voor agent en RAG. Project samenwerking.

Microsoft Foundry is niet de beste oplossing in de volgende situaties:

  • U gebruikt vooraf gemaakte AI-mogelijkheden zoals optische tekenherkenning (OCR), transcriptie van spraak-naar-tekst, vertaling of inhoudsbeheer via een API en u hebt geen modelselectie, indeling of agents nodig. In dit geval gebruikt u Foundry Tools.

  • Uw oplossing vereist aangepaste modeltraining, voor klassieke machine learning of deep learning en volledige MLOps-mogelijkheden. In dit geval gebruikt u Azure Machine Learning. Microsoft Foundry biedt geen breed ingerichte training compute of AutoML voor tabellaire gegevens.

  • Voor uw oplossing is data engineering op spark-schaal vereist. In dit geval gebruikt u Azure Databricks of Microsoft Fabric.

Gieterijgereedschappen

Foundry Tools, voorheen Azure AI-services en Cognitive Services, is een familie van vooraf getrainde AI-mogelijkheden die u gebruikt via REST API's en SDK's. Elk hulpprogramma is gericht op een specifieke functie, zodat u intelligente functies aan toepassingen kunt toevoegen zonder een aangepast model te bouwen of te trainen. Zie Een AI-servicestechnologie kiezen voor hulp bij het bepalen welke service u wilt gebruiken.

Tip

Foundry Tools biedt vooraf getrainde API's voor algemene probabilistische taken. Voor generatieve AI-modellen, agents en indeling werkt u in Microsoft Foundry in plaats van Foundry Tools rechtstreeks te gebruiken. Veel services in Foundry Tools delen hetzelfde onderliggende Azure resourcetype (Microsoft.CognitiveServices/accounts) als Microsoft Foundry, maar ze zijn verschillende producten.

Gebruik Foundry Tools in de volgende situaties:

  • Een vooraf getrainde API behandelt het scenario, dus u hoeft geen aangepast model te trainen.

  • U hebt standaard, beheerde API's en api-gebaseerde integratie met bestaande toepassingen nodig.

In de volgende tabel worden veelgebruikte services gegroepeerd op mogelijkheidsgebied. Generatieve AI-modellen, agents en indeling maken deel uit van Microsoft Foundry en worden afzonderlijk vermeld ter referentie.

Mogelijkheidsgebied Representatieve diensten
Visie Azure Vision en Azure Face in Foundry Tools.
Document- en inhoudskennis Azure documentinformatie en inhoudsinzicht Azure.
Toespraak Azure Spraak voor spraak-naar-teksttranscriptie, spraak-naar-spraakgeneratie en sprekerherkenning.
Language Azure Taal voor herkenning van benoemde entiteiten, detectie van persoonlijke gegevens en taaldetectie. Azure Translator in Foundry Tools voor vertaling.
Zoeken en kennis Azure AI Zoeken voor zoekopdrachten op basis van AI en RAG-ophalen.
Inhoudsveiligheid Inhoudsveiligheid voor detectie van schadelijke inhoud in door de gebruiker gegenereerde en AI gegenereerde inhoud.
Video Azure AI Video Indexer voor videoanalyse en indexering.
Generatieve AI-modellen en -agents Microsoft Foundry. Bevat de Foundry Agent-service en Foundry-modellen.

Als u de services in een functiegebied wilt vergelijken en er een wilt kiezen, raadpleegt u de volgende gedetailleerde selectiehandleidingen:

De volgende tabel bevat een overzicht van de belangrijkste details van acceptatie voor Foundry Tools.

Aspect Details
Type Vooraf getrainde API's voor het bouwen van intelligente toepassingen.
Ondersteunde talen C#, Java, JavaScript en Python SDK's, afhankelijk van de service. REST API's.
Machine learning-fasen Verbruik via API's. Sommige services ondersteunen aanpassing.
Belangrijkste voordelen De mogelijkheid om vooraf gemaakte AI-mogelijkheden toe te voegen via API's. Minimale expertise op het gebied van data science vereist. Beheerde schaalaanpassing.

Foundry Tools is niet het beste in de volgende situatie: uw scenario vereist aangepaste modelarchitecturen of trainingsgegevens buiten de ondersteunde aanpassingsopties. In deze gevallen gebruikt u Azure Machine Learning voor klassieke of deep learning-modellen of gebruikt u Microsoft Foundry voor generatieve AI-afstemming.

Microsoft Fabric

Microsoft Fabric is een geïntegreerd, op SaaS gebaseerd analyseplatform. Het integreert data engineering, data science, datawarehousing, realtime intelligentie en Power BI op een gedeelde OneLake-gegevensbasis. Data engineers, gegevenswetenschappers en bedrijfsanalisten die gebruikmaken van Microsoft Fabric samenwerken in dezelfde beheerde omgeving.

De Microsoft Fabric Data Science-workload is het onderdeel dat het meest relevant is voor machine learning. Het biedt Spark-notebooks, AutoML, een ingebouwde MLflow-ervaring voor het bijhouden van experimenten en een modelregister. Zie Wat is Data Science in Microsoft Fabric voor gedetailleerde informatie.

Gebruik Microsoft Fabric wanneer u de volgende mogelijkheden nodig hebt:

  • Met analyse geïntegreerde machine learning. Machine learning maakt deel uit van een bredere analysewerkstroom in uw oplossing, zoals het bouwen van een model op gegevens in een lakehouse en het leveren van voorspellingen aan Power BI.

  • Volledig beheerde SaaS. U wilt een volledig beheerde SaaS-ervaring met minimale infrastructuur om te beheren.

  • Gedeelde gegevensbasis. Uw team werkt in data engineering, data science en BI op dezelfde OneLake-basis.

De volgende tabel bevat een overzicht van Microsoft Fabric mogelijkheden die het meest relevant zijn voor machine learning met geïntegreerde analyse.

Capability Beschrijving
OneLake Foundation Eén logische data lake die wordt gedeeld door Microsoft Fabric workloads, waaronder Data Engineering, Data Science, Data Warehouse en Power BI.
Data science-workload Een beheerde Spark-runtime met notebooks voor Python, R, SQL en Scala voor analyse en modeltraining. Bevat een ingebouwde MLflow-ervaring voor het bijhouden van experimenten en een modelregister. U kunt ook MLflow-experimenten en -modellen vastleggen in werkruimten en platforms, waaronder in Microsoft Fabric vanuit een Azure Machine Learning werkruimte.
AutoML (Automated Machine Learning) AutoML met weinig code voor classificatie, regressie en prognose. AutoML met code is beschikbaar via FLAML-API's in Microsoft Fabric notebooks.
Real-Time Intelligence en Fabric Activator Streaminganalyse en detectie van gebeurtenissen zonder code die Microsoft Fabric pijplijnen, notebooks of downstreamacties kunnen activeren.
Eindpunten van machine learning-modellen Beheerde online REST-eindpunten die realtime voorspellingen van geregistreerde Microsoft Fabric modellen leveren. Deze functionaliteit is in preview en beperkt tot een set modelsmaak, maar autoML-getrainde modellen worden ondersteund. Zie Realtime voorspellingen uitvoeren met machine learning-modeleindpunten voor gedetailleerde informatie.
Power BI-integratie Een middel voor het blootstellen van machine learning-uitvoer aan Power BI via semantische modellen en rapporten, waaronder Direct Lake wanneer Microsoft Fabric gegevens in OneLake blijven en waar nodig importeren of DirectQuery-patronen. Gebruik deze integratie om voorspellingen, afwijkingsscores en metrische gegevens te voorspellen in zakelijke dashboards en beslissingswerkstromen.
Microsoft Foundry-integratie Een manier om Microsoft Fabric gegevens- of modeluitvoer toe te voeren aan een toepassing of agent op basis van Microsoft Foundry, zoals een geaarde copilot, samenvattingswerkstroom of RAG-ervaring. In de praktijk kan Microsoft Foundry verbinding maken met Microsoft Fabric gegevens via een Microsoft Fabric gegevensagent of een andere ondersteunde gegevensverbinding. Vervolgens kan Microsoft Foundry die context gebruiken bij het genereren van agentreacties. Als uw workload alleen klassieke machine learning in Microsoft Fabric nodig heeft en geen LLM's of agents nodig heeft, is deze integratie meestal overbodig.

De volgende tabel bevat een overzicht van de kernacceptatiedetails voor Microsoft Fabric.

Aspect Details
Type Een geïntegreerd SaaS-analyseplatform.
Ondersteunde talen Python, R, SQL en Scala.
Machine learning-fasen Gegevensvoorbereiding, training, registratie, batchgewijs scoren, realtime serveren (preview), realtime analyses en BI-verbruik.
Belangrijkste voordelen Een gedeelde OneLake-stichting. Lage operationele overhead. Integratie met Power BI en de bredere Microsoft gegevensomgeving.

Microsoft Fabric past niet het beste in de volgende situatie: u hebt deep learning op schaal nodig, uitgebreide MLOps met beheerde registers of fijnmazige rekenbeheer. In deze gevallen vormt een aanvulling op Microsoft Fabric met Azure Machine Learning of Azure Databricks. Microsoft Fabric heeft betrekking op machine learning met geïntegreerde analyse, maar het is geen vervanging voor een toegewezen machine learning-platform.

Note

Microsoft Fabric is het aanbevolen platform voor nieuwe investeringen in machine learning met geïntegreerde analyses. Zie Machine learning in Azure Synapse Analytics voor bestaande investeringen in Azure Synapse Analytics. Zie Fabric Migration Assistant voor Data Warehouse voor migratie van toegewezen SQL-pools naar Microsoft Fabric Data Warehouse.

Azure Databricks

Azure Databricks is een geïntegreerd open analyseplatform voor het bouwen, implementeren, delen en onderhouden van gegevens, analyses en AI-oplossingen. Het combineert datawarehousing en data lake-mogelijkheden in een lakehouse-architectuur en kan worden geïntegreerd met Azure opslag en beveiliging.

Gebruik Azure Databricks wanneer u de volgende mogelijkheden nodig hebt:

  • Machine learning op spark-schaal. U moet machine learning uitvoeren op zeer grote gegevenssets of gedistribueerde Spark-clusters.

  • Unified Lakehouse-werkstroom. U combineert data engineering, functie-engineering, experimenten en modelontwikkeling in één lakehouse-werkstroom.

  • Machine learning-bewerkingen voor productie. U wilt machine learning-oplossingen in productie implementeren, beheren en bewaken met behulp van beheerde eindpunten, geautomatiseerde werkstromen en MLOps-pijplijnen.

  • Unity Catalog-governance. U wilt gegevens, functies, modellen en functies beheren in Unity Catalog, die gecentraliseerd toegangsbeheer en herkomst biedt.

  • Generatieve AI en agents. U bouwt generatieve AI- en AI-agentworkloads in Azure Databricks, inclusief aangepaste en basismodelscenario's.

De volgende tabel bevat belangrijke Azure Databricks mogelijkheden:

Capability Beschrijving
Beheerde integratie met opensource-projecten Omvat Delta Lake, OpenSharing, MLflow, Spark, Apache Spark Structured Streaming en Unity Catalog.
Azure Databricks Runtime voor Machine Learning Biedt vooraf geïnstalleerde bibliotheken voor klassieke machine learning en deep learning, waaronder Hugging Face Transformers.
MLflow-tracering en -modellen in Unity Catalog Ondersteunt het bijhouden van experimenten, het beheren van de levenscyclus van modellen en het detecteren van beheerde modellen.
Functie-engineering en functie dienende patronen Ondersteunt herbruikbare trainings- en deductiefuncties.
Azure Databricks model serveren Biedt beheerde realtime deductie-eindpunten met automatische schaalaanpassing, versiebeheer, verkeerscontroles en productiebewaking.
AI-poort Biedt modeltoegangsbeheer, het bijhouden van gebruik en logboekregistratie van nettoladingen in de service- en externe modellen. Ondersteunt het ontwikkelen, evalueren en bedienen van aangepaste of open modellen in een Lakehouse-omgeving.
AI-functies in SQL Biedt een manier voor analisten om LLM's aan te roepen vanuit gegevenspijplijnen.
Foundation-model-API's Integreert externe modellen en biedt geïntegreerde toegangspatronen voor modelproviders.
Unity Catalog-beheer Biedt geïntegreerd beheer van gegevens, functies, modellen en functies via mogelijkheden zoals RBAC en OpenSharing.
Streaminganalyse Biedt realtime- en streaminganalyses via Structured Streaming en Delta Lake.
Lakeflow-taken en MLOps Biedt taken en werkstromen voor geautomatiseerde training, evaluatie, implementatie en hertraining van pijplijnen.

De volgende tabel bevat een overzicht van de kernacceptatiedetails voor Azure Databricks.

Aspect Details
Type Een lakehouse-platform dat is gebouwd op Spark.
Ondersteunde talen Python, R, Scala en SQL.
Machine learning-fasen Gegevensvoorbereiding, training, afstemming, evaluatie, modelbediening en governance.
Belangrijkste voordelen End-to-end levenscyclus van machine learning op een lakehouse. Systeemeigen MLflow-integratie. Beheerde bediening en bewerkingen. Unity Catalog-governance. Machine learning en generatieve AI-ondersteuning op spark-schaal.
Overwegingen Serverloze modelverdiening kan de overhead van de deductieinfrastructuur verminderen, maar de kosten van gegevensvoorbereiding op basis van Spark, functie-engineering en modeltraining blijven een belangrijke overweging. Voor niet-Spark-workloads is Azure Machine Learning of Foundry Tools mogelijk eenvoudiger.

Azure Databricks is niet het beste in de volgende situaties:

  • Uw team heeft geen verwerking op Spark-schaal nodig. In dit geval is de clusteroverhead mogelijk niet gerechtvaardigd.

  • Uw scenario maakt gebruik van uitsluitend API-gestuurde AI. In dit geval biedt Foundry Tools of Microsoft Foundry een meer direct pad.

  • U hebt Azure Machine Learning-specifieke besturingselementen voor governance, eindpuntmogelijkheden of een gestandaardiseerde eindpuntlaag voor teams nodig. In deze gevallen gebruikt u Azure Machine Learning beheerde eindpunten in een hybride ontwerp.

Intelligente SQL-toepassingen en machine learning

SQL in-database AI bewaart beheerde relationele gegevens waar deze zich al bevindt en voegt voorspelling, vector ophalen en AI-eindpuntintegratie rechtstreeks in Transact-SQL (T-SQL) toe.

Gebruik SQL in-database AI in de volgende situaties:

  • Gegevens moeten in uw relationele database blijven om redenen van beveiliging, privacy, latentie of regelgeving.

  • U hebt een score met lage latentie nodig dicht bij transacties, zoals fraudecontroles of beslissingen over de beste actie.

  • U wilt vectorzoekopdrachten en -ophalen rechtstreeks in de database voor RAG- en semantische overeenkomende patronen.

  • U hebt databaseeigen aanroep van externe AI-eindpunten van T-SQL nodig voor indeling of werkstromen die door agents kunnen worden aangeroepen.

De volgende tabel bevat de huidige platforms en hulpprogramma's:

Capability Rol in architectuur
PREDICT in T-SQL Voert systeemeigen scoren in de database uit voor ondersteunde modellen, waaronder op ONNX gebaseerde runtimepatronen, indien beschikbaar.
Vectorgegevenstype en vectorfuncties Slaat insluitingen op en voert vector-overeenkomstenbewerkingen uit in de relationele engine.
sp_invoke_external_rest_endpoint Roept externe AI-eindpunten vanuit T-SQL aan met referenties, headers, opties voor opnieuw proberen en beheerde uitgaande besturingselementen.
AI-functies (Transact-SQL), waaronder AI_GENERATE_EMBEDDINGS Voegt databaseeigen AI-bewerkingen toe voor segmentering, het genereren van insluiten en gerelateerde SQL AI-werkstromen.
Azure SQL Managed Instance Machine Learning Services Ondersteunt het uitvoeren van Python- en R-code in de database voor bestaande workloads in Machine Learning Services-stijl.

De volgende tabel bevat een overzicht van de kernacceptatiedetails voor Azure SQL machine learning.

Aspect Details
Type Relationele AI-mogelijkheden in de database voor voorspelling, vector ophalen en AI-eindpuntintegratie.
Ondersteunde talen T-SQL eerst. Python en R zijn beschikbaar via Azure SQL Managed Instance Machine Learning Services.
Machine learning-fasen Gegevensvoorbereiding in de database, training, deductie, vector ophalen en indeling van eindpunten.
Belangrijkste voordelen Houdt beheerde transactionele gegevens op de plaats. Vermindert de verplaatsing van gegevens. Maakt AI-verrijking met lage latentie mogelijk in bestaande SQL-werkstromen.
Overwegingen De beschikbaarheid van mogelijkheden verschilt per SQL-platform en -versie. Grootschalige modeltraining en gedistribueerde deep learning worden doorgaans beter verwerkt in Azure Machine Learning, Azure Databricks of Microsoft Fabric.

Combineer Azure SQL machine learning met een ander platform als u de volgende benadering wilt gebruiken:

  • Train extern, score in SQL. Voor grootschalige of deep learning-training gebruikt u Azure Machine Learning, Azure Databricks of Microsoft Fabric voor training. Breng vervolgens deductieartefacten terug naar SQL voor scoren in de database.

  • Cloud-train, database-deploy, SQL-predict. Train extern, exporteer een score-artefact dat wordt ondersteund door het SQL-doelplatform en gebruik PREDICT vervolgens om voorspellingen uit te voeren in SQL dicht bij transactionele gegevens.

  • Genereer insluitingen in SQL, roep eindpunten aan voor het genereren. Voor RAG- en agentscenario's genereert u insluitingen en vector ophalen in SQL. Als u vervolgens antwoordgeneratie nodig hebt, gebruikt sp_invoke_external_rest_endpoint u om externe modeleindpunten aan te roepen vanuit SQL.

Edge, lokaal en on-premises machine learning

Voor machine learning die buiten de cloud wordt uitgevoerd, op lokale apparaten, in offlineomgevingen, ingesloten in toepassingen of binnen een on-premises infrastructuur, biedt Microsoft verschillende opties.

Gebruik edge-, lokale en on-premises machine learning wanneer u de volgende mogelijkheden nodig hebt:

  • Lokale deductie. Om te voldoen aan de vereisten voor latentie, offlinebewerking of gegevensprivacy, heeft uw scenario deductie nodig om lokaal te kunnen worden uitgevoerd. Voor predictive maintenance-oplossingen in omgevingen met onregelmatige connectiviteit is bijvoorbeeld lokale deductie vereist.

  • De mogelijkheid om machine learning in te sluiten in toepassingen. U bouwt desktop- of mobiele toepassingen die ingesloten machine learning-mogelijkheden nodig hebben.

  • On-premises uitvoering. Uw scenario heeft machine learning-uitvoering nodig om binnen een on-premises omgeving te blijven, zoals een lokale SQL Server-implementatie.

Microsoft biedt deze opties:

  • Microsoft Foundry op Windows omvat Windows ML voor lokale deductie op Windows apparaten met hardwareversnelling tussen CPU's, GPU's en NPU's. Gebruik Windows ML voor nieuwe Windows-app- en apparaatdeductieworkloads.

  • ML.NET is een opensource-platformoverschrijdend machine learning-framework voor .NET ontwikkelaars. Het ondersteunt het laden van gegevens, training (inclusief AutoML voor .NET) en lokale deductie. Gebruik ML.NET wanneer de toepassing .NET systeemeigen modeltraining of deductie nodig heeft, met inbegrip van ONNX-modelintegratie.

  • SQL Server Machine Learning Services ondersteunt training en scoren binnen on-premises SQL Server wanneer gegevens in de lokale gegevenslaag moeten blijven.

  • Foundry Local is een AI-deductieoplossing op apparaat die Microsoft Foundry uitbreidt naar edge- en offlinescenario's.

  • Azure Lokaal biedt Azure beheerde infrastructuur voor lokale virtuele machines (VM's) en containers. Gebruik deze om edge AI-onderdelen dicht bij gegevens te hosten, zoals Foundry Local-workloads, RAG-ophaalonderdelen of ONNX-modellen die zijn geëxporteerd uit Azure Machine Learning.

  • Kubernetes-rekenkracht voor Azure Machine Learning koppelt kubernetes-clusters met Azure Arc-functionaliteit aan een Azure Machine Learning werkruimte, zodat on-premises of multicloudclusters training en deductie uitvoeren terwijl indeling in Azure blijft.

  • Azure IoT Edge implementeert machine learning-modellen in containers op edge-apparaten, zodat deductie lokaal wordt uitgevoerd.

  • Azure Stack Edge biedt Microsoft beheerde edge-apparaten die u kunt gebruiken voor machine learning en VM's met hardwareversnelling of workloads in containers. Apparaten zijn alleen beschikbaar voor gevalideerde partnerworkloads of implementaties van ten minste 100 knooppunten.

Een typisch patroon traint een exporteerbaar model in de cloud met behulp van Azure Machine Learning of Azure Databricks. Het model wordt vervolgens geconverteerd naar ONNX wanneer het model en de doelruntime die indeling ondersteunen. Ten slotte wordt het model geïmplementeerd voor edge-deductie via Windows ML, ML.NET, een Azure IoT Edge-module, Foundry Local of Azure Lokaal-infrastructuur.

Platforms combineren

Productieoplossingen kunnen meer dan één platform combineren. Het stroomdiagram eerder in dit artikel helpt u bij het kiezen van een primair startplatform. Gebruik de volgende tabel om samengestelde architecturen te plannen en de ondersteunende Microsoft onderdelen te identificeren die voor elk scenario doorgaans nodig zijn.

Gecombineerd scenario Primair platform Ondersteunende Microsoft-onderdelen Pattern
Rag voor ondernemingen of chatten met uw gegevens Microsoft Foundry Azure AI Zoeken (en Foundry IQ voor aarding), Azure Document Intelligence (opname), Microsoft Fabric of Azure Cosmos DB (gegevensarchief), Inhoudsveiligheid Neem bedrijfsinhoud op, indexeer deze voor vector en hybride ophaalbewerking en grond een Microsoft Foundry-gehoste agent of LLM-toepassing ertegen. Zie Een Azure-service kiezen voor vectorzoekopdrachten voor opties voor gegevensopslag.
Generatieve AI bovenop beheerde analyses Microsoft Fabric Microsoft Foundry (agents, modellen), Power BI (verbruik), Azure AI Zoeken Gebruik Microsoft Fabric om beheerde gegevens op te nemen en op te slaan in OneLake. Bouw vervolgens agents of RAG-toepassingen in Microsoft Foundry over die gegevens. Resultaten weergeven in Power BI.
Aangepaste machine learning verrijkt met vooraf gedefinieerde AI-functies Azure Machine Learning Azure Vision, Azure Document Intelligence, Azure Speech, Azure Language, Azure AI Zoeken Gebruik Foundry Tools voor het vooraf verwerken, ophalen of ophalen van functies, en gebruik Azure Machine Learning om het aangepaste model te trainen, implementeren en beheren dat op deze functies is gebaseerd.
Training op Spark-schaal met beheerde server Azure Databricks Azure Databricks Model serving, MLflow, Unity Catalog, optionele Azure Machine Learning (standaardisatie van governance of eindpunten) Voer functie-engineering en gedistribueerde training uit in Azure Databricks. Gebruik vervolgens Azure Databricks Model Serving om getrainde modellen te implementeren en te leveren. Voeg Azure Machine Learning beheerde eindpunten toe wanneer u Azure Machine Learning-specifieke governance- of eindpuntstandaardisatie in teams nodig hebt.
Cloud-train, edge-deploy Azure Machine Learning of Azure Databricks ONNX (modeluitwisseling), Windows ML, ML.NET, Foundry Local, Azure IoT Edge, Azure Lokaal, Azure Stack Edge Train een exporteerbaar model in de cloud, converteer het naar ONNX wanneer dit wordt ondersteund en implementeer het op apparaten, on-premises gateways of hardwareversnelerde edge-apparaten voor offline- of lage latentiedeductie.
Hybride on-premises en cloud-machine learning Azure Machine Learning op Azure Arc Azure Arc kubernetes-clusters, een Azure Machine Learning werkruimte, Container Registry, Key Vault Bewaar gegevens on-premises terwijl u een Azure Machine Learning werkruimte gebruikt die is gekoppeld aan kubernetes met Azure Arc ingeschakeld om training en deductie te organiseren.
Scoren in de database met in de cloud getrainde modellen SQL machinaal leren Azure Machine Learning of Azure Databricks (training), ONNX, SQL Managed Instance of SQL Server Train in de cloud, exporteer naar ONNX en gebruik de SQL-functie PREDICT voor lage latentie, scoren in databases naast operationele gegevens.
Automatisering van meerdere agents Microsoft Agent Framework en Foundry Agent Service Foundry Models, Foundry IQ, Azure AI Zoeken, Azure Functions of Azure Logic Apps (tools), Azure API Management Bouw werkstromen met meerdere agents in code met behulp van het Microsoft Agent Framework, gebruik de Foundry Agent Service om deze te hosten en te organiseren, en om bedrijfshulpprogramma's en API's te integreren.

Ontwikkelplatforms en hulpprogramma's

De meeste teams gebruiken geavanceerde ontwikkelhulpprogramma's en ondersteunende services naast het platform dat ze als primaire platform kiezen. Deze hulpprogramma's beïnvloeden waar AI en machine learning werken, worden ontwikkeld, getest en verpakt voordat deze worden uitgevoerd. De ondersteunende services beïnvloeden waar deductie wordt gehost of waar berekeningen worden gekoppeld aan gegevens die niet kunnen worden verplaatst naar een beheerd cloudplatform.

In deze sectie worden de primaire ontwikkelhulpprogramma's, de dagelijkse ontwikkelings- en operationele platformen, gescheiden van de aangrenzende ondersteunende services die zelfbeheerdeductie hosten, machine learning op basis van Spark versnellen of training en scoren uitbreiden naar een on-premises infrastructuur.

De volgende hulpprogramma's ondersteunen ontwikkeling in de cloud en on-premises platforms.

Tool Beschrijving
Foundry Toolkit voor Visual Studio Code Een ontwikkelaarservaring in VS Code voor het bouwen, testen, opsporen, evalueren en implementeren van generatieve AI-toepassingen en -agents. Ondersteunt lokale modellen, modelcatalogussen, agentontwikkeling, hulpprogramma-integratie, tracering en evaluatie.
Gieterij-portaal Een webomgeving voor proof-of-concept-werk, modelverkenning, projectresourcebeheer, evaluatiebeoordeling en operationele zichtbaarheid in Microsoft Foundry-toepassingen en -agents.
Azure Machine Learning Studio Een webgebruikersinterface voor het Azure Machine Learning-platform. Bevat notebooks, de pijplijnontwerper, AutoML, modelbeheer en gegevenslabels.
Azure Data Science Virtual Machine Een vooraf geconfigureerde VM-installatiekopie met data science-hulpprogramma's zoals Jupyter, R en Python vooraf geïnstalleerd.
ML.NET Een opensource,platformoverschrijdend machine learning-framework voor .NET toepassingen.
Microsoft Foundry in Windows Windows ML voor door hardware versnelde deductie van lokale modellen op Windows apparaten.
SynapseML Een opensource gedistribueerd machine learning- en microservicesframework voor Spark.

Aangrenzende ondersteunende services helpen bij experimenten, zelfbeheerde deductiehosting, machine learning op basis van Spark of hybride bewerkingen, maar ze zijn niet de primaire platformkeuzen in de beslissingsstroom.

Dienst Rol in het machine learning- en AI-ecosysteem
Azure Kubernetes Service (AKS) en Azure Container Apps Oplossingen voor het hosten van zelfbeheerde deductiecontainers in Azure. Gebruik Container Apps voor eenvoudiger beheerde containerhosting of AKS wanneer u meer controle nodig hebt over de serviceruntime- en clusteromgeving. Veelvoorkomende voorbeelden zijn opensource-serverstacks zoals vLLM, Triton Inference Server of BentoML.
SynapseML Een open source, gedistribueerd machine learning- en microservicesframework voor Spark. Werkt op Azure Databricks, Microsoft Fabric en andere Spark-clusters.
machine learning met Azure Arc ingeschakeld Een oplossing voor het koppelen van on-premises Kubernetes-clusters aan een Azure Machine Learning werkruimte voor hybride training en deductie.

Medewerkers

Microsoft onderhoudt dit artikel. De volgende inzenders hebben dit artikel geschreven.

Hoofdauteur:

Als u niet-openbare LinkedIn-profielen wilt zien, meldt u zich aan bij LinkedIn.

Volgende stappen

  • Last updated on