Microsoft KI- und Machine Learning-Produkte

Microsoft bietet mehrere Plattformen für KI und maschinelles Lernen. Jede Plattform zielt auf eine andere Kombination aus Zielgruppe, Workload, Data Foundation und Bereitstellungsmodell ab. Dieser Artikel hilft Lösungsarchitekten, Machine Learning-Ingenieuren, Datenwissenschaftlern und Anwendungsentwicklern, eine Startplattform auszuwählen, zu verstehen, wie sich die Plattformen unterscheiden und wie sie in realen Architekturen kombiniert werden. Die Abdeckung umfasst klassische maschinelles Lernen, analyseintegrierende maschinelles Lernen und generative KI-Workloads in Azure, Microsoft Fabric und Microsoft Foundry. Dieser Artikel konzentriert sich auf Microsoft bereitgestellten Lösungen.

In diesem Artikel können Sie Optionen vergleichen und eine End-to-End-Lösung entwerfen.

Note

Dieser Artikel konzentriert sich auf benutzerdefinierte KI- und Machine Learning-Plattformen, nicht verpackte Software as a Service (SaaS)-Assistenten, SaaS-Erstellungstools mit geringem Code oder produktinterne Endbenutzererfahrungen.

Primäre Arbeitsauslastungsszenarien

Beginnen Sie mit dem KI- oder Machine Learning-Feature, das Sie Zu Ihrer Workload hinzufügen müssen. Die folgende Tabelle ordnet allgemeine Featureszenarien einer empfohlenen Startplattform für benutzerdefinierte KI- und Machine Learning-Funktionen zu. Verwenden Sie sie als erste Ausrichtung, bevor Sie die Plattformfunktionen überprüfen und die Entscheidungsstruktur durchlaufen.

Primäres Szenario Empfohlener Ausgangspunkt Begründung
Erstellen von generativen KI-Anwendungen oder KI-Agents Microsoft Foundry Bietet Modellermittlung, Feinabstimmung, Abruf-Augmented Generation (RAG), Agent-Orchestrierung, Auswertung und Sicherheitstools auf einer Plattform.
Hinzufügen von KI-Features über eine vordefinierte API für Vision, Sprache, Sprache, Suche oder Inhaltssicherheit Gießereiwerkzeuge Bietet vortrainierte APIs an, die keine benutzerdefinierte Schulung erfordern. Verwenden Sie sie vor dem Erstellen eines benutzerdefinierten Modells.
Trainieren, Bereitstellen und Verwalten eines benutzerdefinierten Machine Learning- oder Deep Learning-Modells Azure Machine Learning Deckt den vollständigen Lebenszyklus des maschinellen Lernens ab, einschließlich MLOps, Online- und Batchendpunkte und verantwortlicher KI-Tools.
Ausführen eines analyseintegralen maschinellen Lernens auf einer einheitlichen Daten- und Business Intelligence-Plattform (BI) Microsoft Fabric Bietet eine SaaS-Analyseplattform, die Apache Spark-Notizbücher, AutoML und Microsoft OneLake-unterstützte Integration mit Power BI unterstützt.
Ausführen von maschinellem Lernen auf Spark-, Lakehouse-Daten oder großen verteilten Schulungsaufträgen Azure Databricks oder Apache Spark in Azure HDInsight Azure Databricks: Unterstützt Spark im Lakehouse-Maßstab mit nativer MLflow- und Unity-Katalogintegration.

Azure HDInsight: Unterstützt Azure verwaltete Spark-Cluster mit systemeigener Speicher- und Sicherheitsintegration.
Beibehalten des maschinellen Lernens in einer SQL-Datenbank, auf Edgegeräten oder in Desktopanwendungen Intelligente SQL-Anwendungen und KI, Azure SQL Managed Instance Machine Learning Services, SQL Server Machine Learning Services oder lokale machine learning Tools Bietet eine Möglichkeit, Daten an Ort und Stelle und Add-In-Datenbank-Vorhersage, Vektorabruf oder KI-Endpunktintegration zu halten.

Plattformfunktionen vergleichen

Die folgende Matrix fasst zusammen, wo jede Plattform die primäre Anpassung ist, wo sie ergänzende Unterstützung bietet und wo die Funktion kein Fokus ist. Die Matrix verwendet die folgenden Symbole:

  • ✅ Primäre Funktion
  • ⚠= Unterstützte oder ergänzende Funktionen
  • ❌ Kein Fokus
Fähigkeit Microsoft Foundry Azure Machine Learning Microsoft Fabric Azure Databricks Gießereiwerkzeuge Maschinelles Lernen mit SQL Edge oder lokales Maschinelles Lernen
Generative KI und Agents ✅ ⚠(*) (Nicht primäre Plattform) ❌ ⚠(*) (Lakehouse-Scoped) ⚠(*) (nur Bausteine) ❌ ⚠– (nur auf dem Gerät)
Ermittlung und Auswertung des Foundation-Modells ✅ ⚠(*) (Nicht primäre Plattform) ❌ ⚠(*) (Lakehouse-Scoped) ❌ ❌ ❌
Benutzerdefinierte Modellschulung (klassisches oder deep Learning) ⚠(*) (nur Feinabstimmung) ✅ ⚠– (Analysebereich) ✅ ❌ ⚠– (Datenbankbereich) ⚠(*) (nur lokal)
Compute für große oder verteilte Schulungen ❌ ✅ ⚠(') (Kleinere Skala) ✅ ❌ ❌ ❌
Automatisiertes maschinelles Lernen (AutoML) ❌ ✅ ✅ ✅ ❌ ❌ ⚠(*) (nur .NET)
MLOps-Lebenszyklus (Registrierung, Pipelines, kontinuierliche Integration und kontinuierliche Übermittlung (CI/CD)) ⚠(*) (Über Azure Machine Learning) ✅ ⚠(*) (Über Azure Machine Learning) ✅ ❌ ❌ ❌
Echtzeit(Online)-Ableitung ✅ ✅ ⚠– (Modellendpunkte in der Vorschau) ✅ ✅ ⚠(*) (nur In-Datenbank) ✅
Batch-(Offline)-Ableitung ⚠(*) (Online-first) ✅ ✅ ✅ ❌ ✅ ⚠(*) (nur lokal)
Lokale oder Offlinebereitstellung ⚠(*) (nur Edge-Teilmenge) ⚠– (Via Azure Arc) ❌ ❌ ⚠(*) (nur Container) ✅ ✅
Governance- und Sicherheitstools ✅ ✅ ⚠(*) (Eingeschränkte Modellgovernance) ✅ ⚠(*) (Dienstbereich) ⚠– (Datenbankbereich) ❌

Die folgenden Hinweise verdeutlichen bestimmte Bewertungen in der Matrix:

  • Foundry Tools wird als ergänzung für generative KI und Agents bewertet, da Dienste wie Azure KI-Suche, Content Safety in Foundry Control Plane und Azure Document Intelligence in Foundry Tools gängige Bausteine für RAG- und Agent-Lösungen sind. Die primäre Plattform für die generative KI-Entwicklung ist Microsoft Foundry.

  • Microsoft Foundry Governance stammt in erster Linie aus Foundry Control Plane, die Observability, Laufzeitsteuerelemente, Sicherheitsintegration und Flottenmanagement für Agents und Anwendungen bietet.

  • Azure Machine Learning unterstützt generative KI durch Zugriff auf Foundry Models, verwaltete Endpunkte, Auswertungsfunktionen und Feinabstimmung für unterstützte Foundation-Modelle. Es ist nicht die primäre Plattform für die generative KI-Entwicklung.

  • Azure Databricks erhält eine primäre Bewertung für Governance, da Unity Catalog einheitliche Daten- und Modellgovernance mit rollenbasierter Zugriffssteuerung (RBAC) und OpenSharing bereitstellt.

  • Microsoft Fabric wird als ergänzende Governance bewertet, da OneLake, Microsoft Purview Integration, Vertraulichkeitsbezeichnungen und domänenbasierte Steuerelemente Datenressourcen gut abdecken. Microsoft Fabric enthält eine integrierte MLflow-basierte Modellregistrierung zum Speichern und Nachverfolgen von Modellen. Microsoft Fabric verfügt auch über eine integrierte Linienansicht für Machine Learning-Modelle und Experimente, einschließlich Beziehungen zu Seehäusern und Codeelementen. Aber Microsoft Fabric enthält kein verantwortungsvolles KI-Dashboard. Für eine umfassendere Modelllebenszyklusgovernance koppeln Sie Microsoft Fabric mit Azure Machine Learning.

  • Microsoft Fabric wird als komplementär für die Echtzeit-Ableitung bewertet, da Microsoft Fabric Real-Time Intelligence Streaminganalysen abdeckt, und Microsoft Fabric Machine Learning-Modellendpunkte verwaltete Online-REST-Endpunkte für Echtzeitvorhersagen bereitstellen. Modellendpunkte befinden sich in der Vorschau und unterstützen eine begrenzte Gruppe von Modellaromen. Für eine umfassende Onlinebereitstellung in der Produktion können Sie auch Microsoft Fabric mit Azure Machine Learning verwalteten Onlineendpunkten oder Microsoft Foundry koppeln.

  • Foundry Local erweitert Microsoft Foundry auf Geräteeinschluss für Edge- und Offlineszenarien.

  • Azure Arc erweitert Azure Machine Learning auf lokale Kubernetes-Cluster für hybride Schulungen oder Bewertungen.

  • Microsoft Fabric Data Science enthält eine AutoML-Erfahrung mit geringem Code. Code first AutoML ist über fast and Lightweight AutoML (FLAML)-APIs in Microsoft Fabric-Notizbüchern verfügbar. Überprüfen Sie für den aktuellen Status die Microsoft Fabric Dokumentation.

Schränken Sie Ihre Plattformauswahl ein

Verwenden Sie die folgende Entscheidungsstruktur, um die Auswahl der Startplattform einzuschränken. Mit der Struktur können Sie eine primäre Plattform für eine Workload auswählen. Die meisten Produktionslösungen kombinieren mehrere Plattformen. Verwenden Sie daher die produktspezifischen Abschnitte in diesem Artikel, um Ihre Wahl zu verfeinern. Erwägen Sie auch die Verwendung eines zusammengesetzten Architekturmusters. Weitere Informationen finden Sie unter "Kombinieren von Plattformen".

Entscheidungsstruktur für eine primäre Microsoft KI- oder Machine Learning-Plattform basierend auf szenario, Entwicklerprofil und Schulungs- und Ableitungsstandorten.

Laden Sie eine Visio Datei dieser Entscheidungsstruktur herunter.

Schritt-für-Schritt-Anleitung

Führen Sie die folgenden Schritte aus, um die Entscheidungsstruktur zu durchlaufen. Wenn Sie eine Plattformauswahl erreichen, überspringen Sie die verbleibenden Schritte.

  1. Identifizieren Sie das Featureszenario.

    Treffen Sie Plattformentscheidungen auf Featureebene innerhalb Ihrer Workload. Jedes Feature kann über eindeutige funktionale und nichtfunktionale Anforderungen verfügen, die einer oder mehreren Technologien dienen können. Berücksichtigen Sie bei Verwendung dieses Flussdiagramms die Anforderungen des spezifischen Anwendungsfalls, den Sie lösen möchten.

    • Wenn vordefinierte KI-Features wie Vision, Sprache, Sprache, Suche, Dokumentverständnis oder Inhaltssicherheit den Anforderungen Ihrer Workload entsprechen, verwenden Sie Foundry Tools. Viele Dienste in Foundry Tools unterstützen Anpassungen, z. B. benutzerdefinierte Textklassifizierung in Azure Sprache oder benutzerdefinierte Modelle in Azure Dokumentintelligenz. Betrachten Sie diese Dienste, bevor Sie sich für eine vollständige benutzerdefinierte Schulung oder einen umfassenderen Ansatz wie die Verwendung eines Sprachmodells zur Simulation eines spezialisierten Diensts verpflichten. Dienstspezifische Dokumentation finden Sie in den folgenden Artikeln:
    • Wenn Ihre Workload generative KI- oder benutzerdefinierte KI-Agents zum Hinzufügen eines nicht deterministischen Verhaltens erfordert, fahren Sie mit Schritt 2 fort.
    • Wenn das Feature benutzerdefinierte Machine Learning- oder Deep Learning-Funktionen erfordert, z. B. klassisches Maschinelles Lernen, Computervision, Prognose oder Feinabstimmung Ihrer eigenen Modelle, fahren Sie mit Schritt 3 fort.
    • Wenn Sie maschinelles Lernen in einen umfassenderen Daten- und BI-Workflow integrieren müssen, fahren Sie mit Schritt 4 fort.

  2. Wählen Sie für generative KI und Agents die Microsoft Plattform aus, die Ihrem Entwicklerprofil entspricht.

    • Nur direct large language model (LLM)-API-Zugriff: Verwenden Sie Azure OpenAI in Microsoft Foundry.

    • Code first agent or multi-agent development: Use the Microsoft Agent Framework SDK paired with the Foundry Agent Service for hosting and orchestration.

    • Vollständige generative KI-Plattform (Foundry Models, Feinabstimmung, Bewertung, Sicherheit, Observability und Governance): Verwenden Sie Microsoft Foundry.

  3. Für benutzerdefiniertes maschinelles Lernen und Deep Learning können Sie entscheiden, wo Schulungen und Rückschlüsse ausgeführt werden müssen.

    • Auf einer Windows App oder einem Gerät: Verwenden Sie Microsoft Foundry auf Windows und Windows ML für die lokale Modelleinleitung mit Hardwarebeschleunigung.On a Windows App or device: Use Microsoft Foundry on Windows and Windows ML for local model inference with hardware acceleration. Verwenden Sie ML.NET, wenn eine .NET Anwendung lokale klassische Maschinelles Lernen, AutoML oder Open Neural Network Exchange (ONNX)-Modellintegration benötigt.

    • Verwenden Sie auf einem IoT-Gateway oder einer Edge-ApplianceAzure IoT Edge, Foundry Local, Azure Local oder Azure Stack Edge für lokale oder hardwarebeschleunigte Rückschlüsse.

    • In einer SQL-Datenbank: Verwenden Sie intelligente SQL-Anwendungen und KI für datenbankinterne Vorhersage, Vektorabruf und KI-Endpunktintegration. Verwenden Sie SQL Server Machine Learning Dienste oder Azure SQL Managed Instance Machine Learning Services, wenn Sie Python oder R-Ausführung in der Datenbank benötigen.

    • In einem lokalen oder multicloud Kubernetes-Cluster: Fügen Sie den Cluster an Azure Machine Learning bis Azure Arc an, sodass Die Daten während der Schulung und Ableitung durch Azure koordiniert werden.

    • Auf Spark-basierten oder verteilten Compute: Fahren Sie mit Schritt 5 fort.

    • Auf cloudverwalteter Compute mit vollständigen MLOps: Verwenden Sie Azure Machine Learning.

  4. Wählen Sie für analyseintegrales maschinelles Lernen die Lösung aus, die Ihrem Daten- und BI-Muster entspricht.

  5. Bei Spark-basierten oder verteilten Computes entscheiden Sie, ob Sie Lakehouse oder verwaltete Spark-Cluster verwenden.

    • Lakehouse mit MLflow- und Unity-Kataloggovernance: Verwenden Sie Azure Databricks. Sie können Modelle weiterhin über Azure Machine Learning verwalteten Endpunkte zur Bereitstellung und Governance veröffentlichen.

    • Verwaltete Spark-Cluster auf Azure mit systemeigener Speicher- und Sicherheitsintegration: Verwenden Sie Apache Spark in Azure HDInsight.

Note

Für Architekturen, die Cloud- und lokale Umgebungen umfassen, fügen Sie lokale oder multicloud Kubernetes-Cluster über Azure Arc an einen Azure Machine Learning Arbeitsbereich an. Mit diesem Setup werden Die Daten lokal verwaltet, während Schulungen koordiniert und über Azure abgearbeitet werden. Ausführliche Informationen finden Sie unter Konfigurieren des Kubernetes-Clusters für Azure Machine Learning.

Azure Machine Learning

Azure Machine Learning ist ein vollständig verwalteter Clouddienst für Schulungen, Bereitstellungen und Verwaltung von Machine Learning-Modellen im großen Maßstab. Es unterstützt Zehntausende von Open-Source-Python-Paketen, einschließlich TensorFlow, PyTorch und Scikit-Learn. Es bietet Tools für den vollständigen Lebenszyklus des maschinellen Lernens, von der Datenvorbereitung über Bereitstellung, MLOps und verantwortungsvolle KI.

Verwenden Sie Azure Machine Learning, wenn Sie die folgenden Funktionen benötigen:

  • Benutzerdefinierte Schulung. Sie verwenden benutzerdefinierte Modellschulungen für klassische maschinelles Lernen, Deep Learning oder Feinabstimmung von Open-Source-LLMs.

  • Produktion MLOps. Sie verwenden einen MLOps-Lebenszyklus für die Produktion, der das Nachverfolgen von Experimenten, modellierte Versionsverwaltung, geregelte Register, CI/CD-Pipelines und Produktionsüberwachung umfasst.

  • Verwaltete Endpunkte. Sie verwenden verwaltete Online- oder Batchableitungsendpunkte, die in einer Umgebung gehostet werden, die automatische Skalierung, verwaltete Identität und Überwachung bereitstellt.

  • Hybrid compute. Sie verwenden Hybridschulungen oder Ableitungen auf Azure Arc-fähigen Kubernetes-Clustern.

In der folgenden Tabelle sind die Plattformfunktionen zusammengefasst, die Azure Machine Learning für den gesamten Lebenszyklus des maschinellen Lernens bereitstellt.

Fähigkeit Beschreibung
Arbeitsbereiche und Datenspeicher Eine zentrale Ressource zum Organisieren von Experimenten, Berechnungen, Datasets, Modellen und Verbindungen zu externen Datenspeichern. Ressourcen und Ausführungsverlauf werden zur Reproduzierbarkeit versioniert.
Berechnen von Clustern und Instanzen Bereitgestellte CPU- und GPU-Compute für verteilte Schulungen (Computecluster) und interaktive Notizbuchentwicklung (Computeinstanzen).
Serverloses Rechnen On-Demand managed compute that Azure Machine Learning erstellt und skaliert automatisch für Schulungsaufträge.
Automatisiertes maschinelles Lernen Generation von Modellen, Pipelines, Hyperparameteroptimierung und Feature engineering für Klassifizierung, Regression, Prognose, Computervision und Verarbeitung natürlicher Sprachen.
Pipelines und Designer Codebasierte und Drag-and-Drop-Orchestrierung für die Datenvorbereitung, Schulung, Auswertung und Bereitstellung. Integriert in CI/CD-Tools.
Zugriff auf Foundry Models Eine Plattform zum Entdecken, Bewerten, Optimieren und Bereitstellen unterstützter Foundation-Modelle aus Microsoft, OpenAI, Meta, Hugging Face und anderen Anbietern über Foundry Models in Azure Machine Learning.
MLflow Experiment Tracking und Modellverwaltung Nachverfolgen von Experimenten, Läufen, Metriken, Parametern, Artefakten und Modellen mithilfe von MLflow-kompatiblen APIs mit einem Azure Machine Learning Arbeitsbereich.
Online- und Batchendpunkte Verwaltete REST-Endpunkte für Echtzeitableitungen und aufrufende Endpunkte für die Batchbewertung mit automatischer Skalierung und verwalteter Identitätsunterstützung.
Verantwortungsvolle KI-Tools Dashboards für Fairness, Erläuterung und Fehleranalyse.
Sicherheits- und Hybridunterstützung Integration in Azure Virtual Network, Azure Key Vault, Azure Container Registry, RBAC, verwaltete Identitäten und Azure Arc.

In der folgenden Tabelle sind die wichtigsten Details zur Einführung für Azure Machine Learning zusammengefasst.

Aspect Details
Typ Cloudbasierte Machine Learning-Plattform.
Unterstützte Sprachen Python und R. Eine Befehlszeilenschnittstelle (CLI) und REST-APIs werden ebenfalls unterstützt.
Phasen des maschinellen Lernens Datenvorbereitung, Schulung, Bereitstellung, MLOps und verantwortungsvolle KI.
Hauptvorteile Code-first SDK- und CLI-Workflows. Studiobasierte Dokumenterstellung. Zentrale Verwaltung von Skripts, Experimenten und Laufverlauf. Skalierbare Schulung und Bereitstellung. Hybridoptionen über Azure Arc.
Überlegungen Einige Kenntnisse mit dem Arbeitsbereichs- und Objektmodell sind hilfreich, bevor Sie vollständige MLOps übernehmen.

Azure Machine Learning ist in den folgenden Situationen nicht am besten geeignet:

  • Sie müssen nur vortrainierte APIs für Vision, Sprache oder Sprache nutzen. Verwenden Sie in diesem Fall Foundry Tools.

  • Maschinelles Lernen ist eine kleine Erweiterung einer Analysearbeitsauslastung. In diesem Fall kann Microsoft Fabric oder Azure Databricks ein besserer Ausgangspunkt sein.

  • Ihre Workload ist end-to-End generative KI (Modellauswahl, Agent-Orchestrierung, Auswertung, Bereitstellung und Überwachung). Außerdem benötigen Sie keine klassischen maschinellen Lernschulungen oder das Azure Machine Learning Asset, Run und MLflow-Modell. In diesem Fall kann Microsoft Foundry allein ausreichen. Ein Azure Machine Learning Arbeitsbereich ist nur erforderlich, wenn Sie Azure Machine Learning Schulungsberechnung, MLOps-Lebenszyklus oder verwaltete Online- oder Batchendpunkte für benutzerdefinierte Modelle benötigen.

Microsoft Foundry

Microsoft Foundry ist die einheitliche Azure Plattform zum Erstellen, Optimieren und Verwalten von generativen KI-Anwendungen und KI-Agents. Microsoft Foundry kombiniert den Foundry-Modellkatalog, Agenten- und Orchestrierungsdienste, Auswertungs- und Sicherheitstools und eine Steuerungsebene für laufzeitgovernance. Für die Code-first-Agent-Entwicklung Microsoft Foundry-Paare mit dem Microsoft Agent Framework, dem einheitlichen Microsoft SDK, das die vorherige Aufteilung zwischen Semantischer Kernel und AutoGen ersetzt.

Verwenden Sie Microsoft Foundry, wenn Sie die folgenden Funktionen benötigen:

  • Generative KI oder Agents. Sie erstellen generative KI- oder agentbasierte Lösungen, z. B. Multimodel-Chatbots oder koordinierte LLM-Workflows.

  • Modellermittlung und -auswertung. Sie müssen in der Lage sein, Foundation-Modelle von mehreren Anbietern zu ermitteln, zu vergleichen und auszuwerten.

  • Modellanpassung und Governance. Sie möchten Foundation-Modelle in einer verwalteten Umgebung optimieren, auswerten und bereitstellen, die integrierte Observability-, Inhaltssicherheits- und Laufzeitsteuerelemente bereitstellt.

In der folgenden Tabelle sind die Microsoft Foundry-Funktionen zusammengefasst, die generative KI-Anwendungen und agent-Entwicklung unterstützen.

Fähigkeit Beschreibung
Gießereimodelle Ein Katalog mit vortrainierten Modellen von Anbietern wie Azure OpenAI, Hugging Face und Meta sowie die Microsoft Phi small language model family, mit Benchmarks und Bereitstellungsoptionen.
Modellanpassung Die Möglichkeit, unterstützte Foundation-Modelle in Ihren eigenen Daten zu optimieren oder anzupassen. Bereitstellungsoptionen hängen vom Modell ab und enthalten standardmäßige und bereitgestellte Typen, sofern verfügbar.
Gießerei-Agentendienst Eine Plattform zum Hosten und Orchestrieren von KI-Agents, die mehrstufige Geschäftsprozesse automatisieren. Koppeln mit dem Microsoft Agent Framework SDK für die Entwicklung von Code-First-Agent. Implementiert die openAI-kompatible Antwort-API für die umfassende Client-SDK-Unterstützung.
Gießerei IQ Eine verwaltete Wissensschicht, die Agents auf Unternehmensdaten basiert. Erstellt multisource Wissensbasen und verwendet agentischen Abruf, um berechtigungsbezogene Antworten mit Zitaten zurückzugeben. Basiert auf Azure KI-Suche. Wissensquellen umfassen indizierte Quellen (z. B. ein vorhandener Azure KI-Suche Index, Azure Blob Storage, direkt hochgeladene Dateien, OneLake, Azure SQL und indizierte SharePoint) und Remotequellen, die zur Laufzeit abgefragt werden (z. B. Remote-SharePoint, Microsoft Fabric Ontologie, Work IQ, Microsoft Bing Webdaten, McP-Server (Model Context Protocol) und Microsoft Fabric Daten-Agents). Mehrere dieser Connectors befinden sich derzeit in der Vorschau. Informationen zum aktuellen Vorschaustatus und unterstützten Connectors finden Sie in Azure KI-Suche agentischen Wissensquellen. Informationen zu Datenspeicheroptionen finden Sie unter Auswählen eines Azure Diensts für die Vektorsuche.
Gießereisteuerungsebene Eine Schnittstelle, die Observability, Laufzeitsteuerelemente, Sicherheitsintegration und Flottenmanagement über Microsoft Foundry Agents und Anwendungen hinweg bereitstellt.
Inhaltssicherheit Ein KI-Dienst, der schädliche vom Benutzer generierte und KI-generierte Inhalte erkennt. Siehe Inhaltssicherheit.
Gießerei Lokal Eine Lösung für die On-Device-KI-Inference für Edge- und Offlineszenarien, bei denen Leistung, Datenschutz oder Kosten wichtig sind.

Foundry Toolkit für Visual Studio Code

Das Foundry Toolkit für Visual Studio Code ist die primäre Entwicklerumgebung für Microsoft Foundry. Verwenden Sie ihn, wenn Sie einen lokalen Workflow für generative KI-Anwendungen und -Agents benötigen. Das Toolkit unterstützt modellermittlung, lokale Modellausführung, Aufforderungs- und Agententwicklung, Toolintegration, Debugging, Ablaufverfolgung, Auswertung, Feinabstimmung und Bereitstellung für Microsoft Foundry von Visual Studio Code.

Starten Sie im Foundry Toolkit, wenn die Lösung Code, Quellcodeverwaltung, lokale Iteration, Agent-Inspektion, MCP-Toolintegration oder Modelltests vor der Bereitstellung benötigt. Verwenden Sie das Foundry-Portal, um Die Suche nach Konzepten, Projekteinrichtung, Ressourcenüberprüfung, Evaluierungsüberprüfung und operative Sichtbarkeit nach Ausführung von Anwendungen und Agents zu verwenden.

Gießereiportal und Azure Machine Learning Studio

Das Foundry-Portal und Azure Machine Learning Studio sind komplementäre Weberfahrungen. Verwenden Sie sie für Prototypen, Projekt- und Ressourcenmanagement, Auswertungsüberprüfung und operative Sichtbarkeit.

Kategorie Gießereiportal Azure Machine Learning Studio
Am besten geeignete Arbeitsauslastung Proofs of Concept, Model Exploration, Agent Review, Evaluation Review, operational visibility for generative AI applications and agents. Benutzerdefinierte Maschinelles Lernen, klassisches Maschinelles Lernen, Deep Learning und umfassendere Workflows für maschinelles Lernen.
Datenhandhabung Funktionalität zum Verbinden von Projektressourcen und unterstützten Datenquellen, einschließlich Blob Storage, OneLake und Azure Data Lake Storage. Arbeitsbereichspeicher, Datenressourcen und verbundene Azure Speicherkonten.
Erstellungsfunktionen Portalbasierte Prototyperstellung, Spielplätze, Modellforschung, Bewertungsüberprüfung und Projektressourcenmanagement. Notizbücher, Designer, AutoML, Modellverwaltung und SDK- und CLI-Workflows.
Unterstützte Sprachen und SDKs Python, C#, JavaScript und Java SDKs. REST-APIs Python, R und die Azure CLI. REST-APIs
Kerntrainingsstärke Modellauswertung und unterstützte Feinabstimmung. AutoML und benutzerdefinierte Schulungen in klassischem Maschinellem Lernen, Deep Learning und LLM Feinabstimmung.
Berechnen und Bereitstellen Verwaltete Compute- und serverlose APIs für unterstützte Foundation-Modelle. Verwaltete Compute-, serverlose Compute-, Onlineendpunkte, Batchendpunkte und Azure Arc Optionen.
Generative KI-Oberfläche Eine Weboberfläche für Gießereimodelle Exploration, Evaluierungsüberprüfung, Observierbarkeit und Sicherheitswerkzeuge. Zugriff auf Gießereimodelle, verwaltete Endpunkte, Auswertungen und Feinabstimmungen für unterstützte Foundation-Modelle innerhalb der Azure Machine Learning-Plattform.
Governance Foundry Control Plane für Agent- und Anwendungsgovernance. Verantwortungsvolles KI-Dashboard, Lineage, Modellverwaltung und MLOps-Steuerelemente.

In der folgenden Tabelle sind die wichtigsten Details zur Einführung von Microsoft Foundry zusammengefasst.

Aspect Details
Typ Eine einheitliche Plattform für Foundation-Modelle, Agents und generative KI-Anwendungen.
Unterstützte Sprachen Python, C#, JavaScript und Java SDKs. REST-APIs
Phasen des maschinellen Lernens Modellermittlung und -auswertung, Anwendungs- und Agententwicklung, Feinabstimmung unterstützter Modelle, Bereitstellung, Überwachung und Sicherheit.
Hauptvorteile Ein konsolidierter Foundry-Modellkatalog. Integrierte Bewertung, Sicherheit und Beobachtbarkeit. Agent- und RAG-Unterstützung. Project-basierte Zusammenarbeit.

Microsoft Foundry ist in den folgenden Situationen nicht am besten geeignet:

  • Sie nutzen vorgefertigte KI-Funktionen wie optische Zeichenerkennung (OCR), Sprach-zu-Text-Transkription, Übersetzung oder Inhaltsmoderation über eine API, und Sie benötigen keine Modellauswahl, Orchestrierung oder Agents. Verwenden Sie in diesem Fall Foundry Tools.

  • Ihre Lösung erfordert eine benutzerdefinierte Modellschulung, für klassisches Maschinelles Lernen oder Deep Learning und vollständige MLOps-Funktionen. Verwenden Sie in diesem Fall Azure Machine Learning. Microsoft Foundry bietet keine allgemeine Schulungsberechnung oder AutoML für tabellarische Daten.

  • Ihre Lösung erfordert Spark-Scale Data Engineering. Verwenden Sie in diesem Fall Azure Databricks oder Microsoft Fabric.

Gießereiwerkzeuge

Foundry Tools, früher Azure KI Services und Cognitive Services, ist eine Familie vortrainierte KI-Funktionen, die Sie über REST-APIs und SDKs nutzen. Jedes Tool zielt auf eine bestimmte Funktion ab, sodass Sie Anwendungen intelligente Features hinzufügen können, ohne ein benutzerdefiniertes Modell zu erstellen oder zu trainieren. Hilfe bei der Entscheidung, welcher Dienst verwendet werden soll, finden Sie unter Auswählen einer KI-Diensttechnologie.

Tip

Foundry Tools stellt prätrainierte APIs für gängige probabilistische Aufgaben bereit. Für generative KI-Modelle, Agenten und Orchestrierung arbeiten Sie in Microsoft Foundry, anstatt Foundry Tools direkt zu verwenden. Viele Dienste in Foundry Tools verwenden den gleichen zugrunde liegenden Azure Ressourcentyp (Microsoft.CognitiveServices/accounts) wie Microsoft Foundry, aber sie sind unterschiedliche Produkte.

Verwenden Sie Foundry Tools in den folgenden Situationen:

  • Eine vortrainierte API deckt das Szenario ab, sodass Sie kein benutzerdefiniertes Modell trainieren müssen.

  • Sie benötigen standardmäßige, verwaltete APIs und API-basierte Integration in vorhandene Anwendungen.

In der folgenden Tabelle sind häufig verwendete Dienste nach Funktionsbereich gruppiert. Generative KI-Modelle, Agents und Orchestrierung sind Teil Microsoft Foundry und werden separat zur Referenz aufgeführt.

Fähigkeitsbereich Repräsentative Dienstleistungen
Vision Azure Vision und Azure-Gesichtserkennung in Foundry Tools.
Dokument- und Inhaltsverständnis Azure Dokumentintelligenz und Azure Inhaltsverständnis.
Rede Azure Spracherkennung für Die Sprach-zu-Text-Transkription, die Text-zu-Sprache-Sprachgenerierung und die Spracherkennung.
Language Azure Sprache für benannte Entitätserkennung, Erkennung personenbezogener Daten und Spracherkennung. Azure Translator in Foundry Tools for translation.
Suchen und Wissen Azure KI-Suche für KI-gestützte Suche und RAG-Abruf.
Inhaltssicherheit Inhaltssicherheit für die Erkennung schädlicher Inhalte in vom Benutzer generierten und KI-generierten Inhalten.
Video Azure KI Video Indexer für die Videoanalyse und Indizierung.
Generative KI-Modelle und Agents Microsoft Foundry. Enthält den Foundry Agent-Dienst und Gießereimodelle.

Wenn Sie die Dienste in einem Funktionsbereich vergleichen und eines auswählen möchten, lesen Sie die folgenden detaillierten Auswahlleitfäden:

In der folgenden Tabelle sind die wichtigsten Details zur Einführung von Foundry Tools zusammengefasst.

Aspect Details
Typ Vortrainierte APIs zum Erstellen intelligenter Anwendungen.
Unterstützte Sprachen Je nach Dienst Java, JavaScript und Python SDKs. REST-APIs
Phasen des maschinellen Lernens Verbrauch über APIs. Einige Dienste unterstützen anpassungen.
Hauptvorteile Die Möglichkeit, vordefinierte KI-Funktionen über APIs hinzuzufügen. Minimales Data Science-Know-how erforderlich. Verwaltete Skalierung.

Foundry Tools passen nicht am besten in die folgende Situation: Für Ihr Szenario sind benutzerdefinierte Modellarchitekturen oder Schulungsdaten erforderlich, die über die unterstützten Anpassungsoptionen hinausgehen. Verwenden Sie in diesen Fällen Azure Machine Learning für klassische oder Deep Learning-Modelle, oder verwenden Sie Microsoft Foundry für generative KI-Feinabstimmungen.

Microsoft Fabric

Microsoft Fabric ist eine einheitliche SaaS-basierte Analyseplattform. Es integriert Datentechnik, Data Science, Data Warehouse, Echtzeitintelligenz und Power BI auf einer freigegebenen OneLake-Datengrundhaltung. Data Engineers, Data Scientists und Business Analysts, die Microsoft Fabric verwenden, arbeiten in derselben verwalteten Umgebung zusammen.

Die Microsoft Fabric Data Science-Workload ist der Teil, der für maschinelles Lernen am relevantesten ist. Es stellt Spark-Notizbücher, AutoML, eine integrierte MLflow-Erfahrung für die Experimentverfolgung und eine Modellregistrierung bereit. Ausführliche Informationen finden Sie unter "Was ist Data Science in Microsoft Fabric?".

Verwenden Sie Microsoft Fabric, wenn Sie die folgenden Funktionen benötigen:

  • Analytics-integriertes maschinelles Lernen. Maschinelles Lernen ist Teil eines umfassenderen Analyseworkflows in Ihrer Lösung, z. B. das Erstellen eines Modells für Daten in einem Seehaus und die Bereitstellung von Vorhersagen für Power BI.

  • Vollverwaltete SaaS. Sie möchten eine vollständig verwaltete SaaS-Erfahrung mit minimaler Infrastruktur verwalten.

  • Freigegebene Datengrundlegung. Ihr Team arbeitet auf der gleichen OneLake-Grundlage über Datentechnik, Data Science und BI hinweg.

In der folgenden Tabelle sind Microsoft Fabric Funktionen zusammengefasst, die für analyseintegriertes maschinelles Lernen am relevantesten sind.

Fähigkeit Beschreibung
OneLake Foundation Ein einzelner logischer Datensee, der von Microsoft Fabric Workloads gemeinsam genutzt wird, einschließlich Data Engineering, Data Science, Data Warehouse und Power BI.
Datenwissenschaftsworkload Eine verwaltete Spark-Laufzeit mit Notizbüchern für Python, R, SQL und Scala für Analyse- und Modellschulungen. Enthält eine integrierte MLflow-Erfahrung für die Nachverfolgung von Experimenten und eine Modellregistrierung. Sie können auch MLflow-Experimente und -Modelle über Arbeitsbereiche und Plattformen hinweg protokollieren, einschließlich in Microsoft Fabric aus einem Azure Machine Learning Arbeitsbereich.
Automatisiertes maschinelles Lernen (AutoML) AutoML mit geringem Code für Klassifizierung, Regression und Prognose. Code first AutoML ist über FLAML-APIs in Microsoft Fabric-Notizbüchern verfügbar.
Real-Time Intelligenz und Fabric Aktivator Streaming analytics and no-code event detection that can trigger Microsoft Fabric pipelines, notebooks, or downstream actions.
Endpunkte für maschinelles Lernen Verwaltete Online-REST-Endpunkte, die Echtzeitvorhersagen aus registrierten Microsoft Fabric Modellen bereitstellen. Diese Funktionalität befindet sich in der Vorschau und ist auf eine Reihe von Modellvarianten beschränkt, aber autoML-trainierte Modelle werden unterstützt. Ausführliche Informationen finden Sie unter Bereitstellen von Echtzeitvorhersagen mit Endpunkten des Machine Learning-Modells.
Power BI-Integration Ein Mittel zum Verfügbarmachen von maschinellen Lernausgaben für Power BI über semantische Modelle und Berichte, einschließlich Direct Lake, wenn Microsoft Fabric Daten in OneLake verbleiben, und importieren oder DirectQuery-Muster bei Bedarf. Verwenden Sie diese Integration, um Vorhersagen, Anomalieergebnisse und Prognosemetriken in Geschäftsdashboards und Entscheidungsworkflows zu integrieren.
Microsoft Foundry-Integration Eine Möglichkeit zum Feed Microsoft Fabric Daten oder Modellausgaben an eine Microsoft Foundry-basierte Anwendung oder einen Agent, z. B. einen geerdeten Copilot, einen Zusammenfassungsworkflow oder eine RAG-Erfahrung. In der Praxis kann Microsoft Foundry eine Verbindung mit Microsoft Fabric Daten über einen Microsoft Fabric Daten-Agent oder eine andere unterstützte Datenverbindung herstellen. Anschließend kann Microsoft Foundry diesen Kontext beim Generieren von Agentantworten verwenden. Wenn Ihre Arbeitsauslastung nur klassisches maschinelles Lernen in Microsoft Fabric benötigt und keine LLMs oder Agents erfordert, ist diese Integration in der Regel unnötig.

In der folgenden Tabelle sind die wichtigsten Details zur Einführung für Microsoft Fabric zusammengefasst.

Aspect Details
Typ Eine einheitliche SaaS-Analyseplattform.
Unterstützte Sprachen Python, R, SQL und Scala.
Phasen des maschinellen Lernens Datenvorbereitung, Schulung, Registrierung, Batchbewertung, Echtzeit-Bereitstellung (Vorschau), Echtzeitanalysen und BI-Verbrauch.
Hauptvorteile Eine freigegebene OneLake-Stiftung. Geringer Betriebsaufwand. Integration mit Power BI und dem umfassenderen Microsoft Datenbestand.

Microsoft Fabric ist nicht am besten in die folgende Situation passen: Sie benötigen umfassendes Lernen im Maßstab, umfassende MLOps mit geregelten Registern oder feinkörnige Berechnungskontrolle. Ergänzen Sie in diesen Fällen Microsoft Fabric mit Azure Machine Learning oder Azure Databricks. Microsoft Fabric deckt das analyseintegre maschinelle Lernen gut ab, aber es ist kein Ersatz für eine dedizierte Machine Learning-Plattform.

Note

Microsoft Fabric ist die empfohlene Plattform für neue analytics-integrierte Machine Learning-Investitionen. Informationen zu vorhandenen Investitionen in Azure Synapse Analytics finden Sie unter Machine Learning in Azure Synapse Analytics. Eine dedizierte SQL-Poolmigration zu Microsoft Fabric Data Warehouse finden Sie unter Fabric Migration Assistant für Data Warehouse.

Azure Databricks

Azure Databricks ist eine einheitliche, offene Analyseplattform zum Erstellen, Bereitstellen, Freigeben und Verwalten von Daten, Analysen und KI-Lösungen. Es kombiniert Data Warehouse- und Data Lake-Funktionen in einer Lakehouse-Architektur und lässt sich mit Azure Speicher und Sicherheit integrieren.

Verwenden Sie Azure Databricks, wenn Sie die folgenden Funktionen benötigen:

  • Spark-scale machine learning. Sie müssen maschinelles Lernen auf sehr großen Datasets oder verteilten Spark-Clustern ausführen.

  • Einheitlicher Lakehouse-Workflow. Sie kombinieren Datentechnik, Feature engineering, Experimentierung und Modellentwicklung in einem Lakehouse-Workflow.

  • Produktions-Machine Learning-Vorgänge. Sie möchten Machine Learning-Lösungen in der Produktion mithilfe von verwalteten Dienstendpunkten, automatisierten Workflows und MLOps-Pipelines bereitstellen, verwalten und überwachen.

  • Unity Catalog Governance. Sie möchten Daten, Features, Modelle und Funktionen im Unity-Katalog steuern, die zentrale Zugriffssteuerung und -lineage bieten.

  • Generative KI und Agenten. Sie erstellen generative AI- und KI-Agent-Workloads in Azure Databricks, einschließlich benutzerdefinierter und Foundation-Modellszenarien.

In der folgenden Tabelle sind wichtige Azure Databricks Funktionen aufgeführt:

Fähigkeit Beschreibung
Verwaltete Integration in Open-Source-Projekte Umfasst Delta Lake, OpenSharing, MLflow, Spark, Apache Spark Structured Streaming und Unity Catalog.
Azure Databricks Runtime für Machine Learning Bietet vorinstallierte Bibliotheken für klassisches Maschinelles Lernen und Deep Learning, einschließlich Hugging Face Transformers.
MLflow-Tracking und -Modelle im Unity-Katalog Unterstützt die Experimentnachverfolgung, die Modelllebenszyklusverwaltung und die modellierte Modellermittlung.
Funktionsentwicklungs- und Featurebereitstellungsmuster Unterstützt wiederverwendbare Schulungs- und Rückschlussfunktionen.
Azure Databricks Model Serving Bietet verwaltete Echtzeit-Ableitungsendpunkte mit automatischer Skalierung, versionsgesteuerten Bereitstellungen, Datenverkehrssteuerungen und Produktionsüberwachung.
KI-Gateway Bietet Modellzugriffsgovernance, Verwendungsnachverfolgung und Nutzlastprotokollierung über bereitgestellte und externe Modelle hinweg. Unterstützt die Entwicklung, Auswertung und Bereitstellung von benutzerdefinierten oder offenen Modellen in einer Lakehouse-Umgebung.
KI-Funktionen in SQL Bietet eine Möglichkeit für Analysten, LLMs aus Datenpipelines aufzurufen.
Foundation-Modell-APIs Integriert externe Modelle und bietet einheitliche Zugriffsmuster für modellübergreifende Anbieter.
Unity Catalog Governance Bietet eine einheitliche Governance von Daten, Features, Modellen und Funktionen über Funktionen wie RBAC und OpenSharing.
Streaminganalyse Bietet Echtzeit- und Streaminganalysen über Strukturiertes Streaming und Delta Lake.
Lakeflow-Aufträge und MLOps Stellt Aufträge und Workflows für automatisierte Schulungen, Auswertungen, Bereitstellungen und Umschulungspipelinen bereit.

In der folgenden Tabelle sind die wichtigsten Details zur Einführung für Azure Databricks zusammengefasst.

Aspect Details
Typ Eine auf Spark gebaute Lakehouse-Plattform.
Unterstützte Sprachen Python, R, Scala und SQL.
Phasen des maschinellen Lernens Datenvorbereitung, Schulung, Feinabstimmung, Auswertung, Modellbereitstellung und Governance.
Hauptvorteile End-to-End Machine Learning Lebenszyklus auf einem Seehaus. Native MLflow-Integration. Verwaltete Dienste und Vorgänge. Unity Catalog Governance. Spark-Scale Machine Learning und generative KI-Unterstützung.
Überlegungen Die Serverless Model Serving kann den Kostenaufwand für die Infrastruktur reduzieren, aber die Kosten für die Spark-basierte Datenvorbereitung, feature engineering und Modellschulung bleiben ein wichtiger Aspekt. Bei Nicht-Spark-Workloads ist Azure Machine Learning oder Foundry Tools möglicherweise einfacher.

Azure Databricks ist in den folgenden Situationen nicht am besten geeignet:

  • Ihr Team benötigt keine Spark-Scale-Verarbeitung. In diesem Fall ist der Cluster-Overhead möglicherweise nicht gerechtfertigt.

  • Ihr Szenario verwendet rein API-gesteuerte KI. In diesem Fall bietet Foundry Tools oder Microsoft Foundry einen direkteren Pfad.

  • Sie benötigen Azure Machine Learning-spezifische Governance-Steuerelemente, Endpunktfunktionen oder eine standardisierte Endpunktebene in teamsübergreifend. Verwenden Sie in diesen Fällen Azure Machine Learning verwalteten Endpunkte in einem Hybridentwurf.

Intelligente SQL-Anwendungen und maschinelles Lernen

SQL-In-Datenbank-KI verwaltet relationale Daten, in denen sie bereits vorhanden sind, und fügt Vorhersage, Vektorabruf und KI-Endpunktintegration direkt in Transact-SQL (T-SQL) hinzu.

Verwenden Sie SQL in der Datenbank-KI in den folgenden Situationen:

  • Daten müssen aus Sicherheits-, Datenschutz-, Latenz- oder behördlichen Gründen innerhalb Ihrer relationalen Datenbank verbleiben.

  • Sie benötigen eine Bewertung mit geringer Latenz in der Nähe von Transaktionen, z. B. Betrugsprüfungen oder Entscheidungen zur nächsten besten Aktion.

  • Sie möchten Vektorsuche und -abruf direkt in der Datenbank für RAG- und semantische Abgleichsmuster verwenden.

  • Sie benötigen datenbankeigene Aufrufe externer KI-Endpunkte aus T-SQL für Orchestrierungs- oder Agent-aufrufbare Workflows.

In der folgenden Tabelle sind die aktuellen Plattformen und Tools aufgeführt:

Fähigkeit Rolle in der Architektur
PREDICT in T-SQL Führt die systemeigene Indatenbankbewertung für unterstützte Modelle aus, einschließlich ONNX-basierten Laufzeitmustern, sofern verfügbar.
Vektordatentyp und Vektorfunktionen Speichert Einbettungen und führt Vektorähnlichkeitsvorgänge innerhalb des relationalen Moduls aus.
sp_invoke_external_rest_endpoint Ruft externe KI-Endpunkte von T-SQL mit Anmeldeinformationen, Headern, Wiederholungsoptionen und gesteuerten ausgehenden Steuerelementen auf.
KI-Funktionen (Transact-SQL), einschließlich AI_GENERATE_EMBEDDINGS Fügt datenbankeigene KI-Vorgänge für Blöcke, Einbettungsgenerierung und zugehörige SQL AI-Workflows hinzu.
Azure SQL Managed Instance Machine Learning Services Unterstützt die datenbankinterne Ausführung von Python- und R-Code für vorhandene Machine Learning Services-Style-Workloads.

In der folgenden Tabelle sind die wichtigsten Einführungsdetails für Azure SQL maschinelles Lernen zusammengefasst.

Aspect Details
Typ Relationale KI-Funktionen für Datenbank für Vorhersage, Vektorabruf und KI-Endpunktintegration.
Unterstützte Sprachen T-SQL zuerst. Python und R stehen über Azure SQL Managed Instance Machine Learning Services zur Verfügung.
Phasen des maschinellen Lernens Vorbereitung, Schulung, Ableitung, Vektorabruf und Endpunkt-Orchestrierung in datenbanken.
Hauptvorteile Verwaltete Transaktionsdaten werden beibehalten. Verringert die Datenverschiebung. Ermöglicht die KI-Anreicherung mit geringer Latenz in vorhandenen SQL-Workflows.
Überlegungen Die Verfügbarkeit von Funktionen variiert je nach SQL-Plattform und -Version. Umfangreiche Modellschulungen und verteiltes Deep Learning werden in der Regel besser in Azure Machine Learning, Azure Databricks oder Microsoft Fabric behandelt.

Kombinieren Sie Azure SQL maschinelles Lernen mit einer anderen Plattform, wenn Sie den folgenden Ansatz verfolgen möchten:

  • Externes Trainieren, Bewertung in SQL. Verwenden Sie für umfangreiche oder deep Learning-Schulungen Azure Machine Learning, Azure Databricks oder Microsoft Fabric für Schulungen. Führen Sie dann Rückschlüsse auf Artefakte zurück in SQL für die Indatenbankbewertung.

  • Cloud-Train, Datenbankbereitstellung, SQL-Vorhersage. Trainieren Sie extern, exportieren Sie ein Bewertungsartefakt, das von der SQL-Zielplattform unterstützt wird, und verwenden Sie PREDICT dann, um Vorhersagen in SQL in der Nähe von Transaktionsdaten auszuführen.

  • Generieren Von Einbettungen in SQL, Aufrufen von Endpunkten für die Generierung. Generieren Sie für RAG- und Agentszenarien Einbettungen und Vektorabrufe in SQL. Verwenden sp_invoke_external_rest_endpoint Sie dann, wenn Sie die Antwortgenerierung benötigen, um externe Modellendpunkte aus SQL aufzurufen.

Edge, lokal und lokal maschinelles Lernen

Für maschinelles Lernen, das außerhalb der Cloud ausgeführt wird, auf lokalen Geräten, in Offlineumgebungen, eingebettet in Anwendungen oder in einer lokalen Infrastruktur, bietet Microsoft mehrere Optionen.

Verwenden Sie Edge,lokales und lokales maschinelles Lernen, wenn Sie die folgenden Funktionen benötigen:

  • Lokale Ableitung. Um latenz-, Offline- oder Datenschutzanforderungen zu erfüllen, muss Ihr Szenario eine Ableitung für die lokale Ausführung benötigen. Beispielsweise erfordern Predictive Maintenance-Lösungen in Umgebungen mit zeitweiliger Konnektivität lokale Ableitungen.

  • Die Möglichkeit, maschinelles Lernen in Anwendungen einzubetten. Sie erstellen Desktop- oder mobile Anwendungen, die eingebettete Machine Learning-Funktionen benötigen.

  • Lokale Ausführung. Ihr Szenario erfordert die Ausführung des maschinellen Lernens, um in einer lokalen Umgebung zu bleiben, z. B. einer lokalen SQL Server Bereitstellung.

Microsoft bietet folgende Optionen:

  • Microsoft Foundry auf Windows umfasst Windows ML für die lokale Ableitung auf Windows Geräten mit Hardwarebeschleunigung über CPUs, GPUs und NPUs. Verwenden Sie Windows ML für neue Windows-App- und Geräteeinleitungsworkloads.

  • ML.NET ist ein plattformübergreifendes Framework für maschinelles Lernen für .NET Entwickler. Es unterstützt das Laden von Daten, Schulungen (einschließlich AutoML für .NET) und lokale Rückschlüsse. Verwenden Sie ML.NET, wenn die Anwendung .NET systemeigene Modellschulung oder -ableitung benötigt, einschließlich der ONNX-Modellintegration.

  • SQL Server Machine Learning Services unterstützt Schulungen und Bewertungen innerhalb der lokalen SQL Server, wenn Daten in der lokalen Datenebene verbleiben müssen.

  • Foundry Local ist eine KI-Inference-Lösung auf dem Gerät, die Microsoft Foundry auf Edge- und Offlineszenarien erweitert.

  • Azure Local stellt Azure verwaltete Infrastruktur für lokale virtuelle Computer (VMs) und Container bereit. Verwenden Sie sie, um Edge-KI-Komponenten in der Nähe von Daten zu hosten, z. B. Foundry Local Workloads, RAG-Abrufkomponenten oder ONNX-Modelle, die aus Azure Machine Learning exportiert wurden.

  • Kubernetes berechnen für Azure Machine Learning an einen Azure Machine Learning Arbeitsbereich Azure Arc-fähige Kubernetes-Cluster an, sodass lokale oder multicloud-Cluster Schulungen und Ableitungen ausführen, während die Orchestrierung in Azure bleibt.

  • Azure IoT Edge stellt containerisierte Machine Learning-Modelle auf Edgegeräten bereit, sodass die Ableitung lokal ausgeführt wird.

  • Azure Stack Edge stellt Microsoft verwaltete Edge-Appliances bereit, die Sie für hardwarebeschleunigte maschinelles Lernen und VM oder containerisierte Workloads verwenden können. Geräte sind nur für überprüfte Partnerworkloads oder Bereitstellungen von mindestens 100 Knoten verfügbar.

Ein typisches Muster trainiert ein exportierbares Modell in der Cloud mithilfe von Azure Machine Learning oder Azure Databricks. Das Modell wird dann in ONNX konvertiert, wenn das Modell und die Ziellaufzeit dieses Formats unterstützen. Schließlich wird das Modell für die Edge-Inference über Windows ML, ML.NET, ein Azure IoT Edge Modul, eine Lokale Gießerei oder Azure Local Infrastruktur bereitgestellt.

Kombinieren von Plattformen

Produktionslösungen können mehrere Plattformen kombinieren. Das Flussdiagramm weiter oben in diesem Artikel hilft Ihnen bei der Auswahl einer primären Startplattform. Verwenden Sie die folgende Tabelle, um zusammengesetzte Architekturen zu planen und die unterstützenden Microsoft Komponenten zu identifizieren, die in der Regel für jedes Szenario erforderlich sind.

Kombiniertes Szenario Primäre Plattform Unterstützen von Microsoft-Komponenten Pattern
Unternehmens-RAG oder Chat mit Ihren Daten Microsoft Foundry Azure KI-Suche (und Foundry IQ for Grounding), Azure Document Intelligence (Aufnahme), Microsoft Fabric oder Azure Cosmos DB (Datenspeicher), Inhaltssicherheit Aufnehmen von Unternehmensinhalten, Indizieren sie für den Vektor- und Hybridabruf und das Bodenieren eines Microsoft Von Foundry gehosteten Agents oder einer LLM-Anwendung dafür. Informationen zu Datenspeicheroptionen finden Sie unter Auswählen eines Azure Diensts für die Vektorsuche.
Generative KI über die gesteuerten Analysen Microsoft Fabric Microsoft Foundry (Agenten, Modelle), Power BI (Verbrauch), Azure KI-Suche Verwenden Sie Microsoft Fabric, um geregelte Daten in OneLake aufzunehmen und zu speichern. Erstellen Sie dann Agents oder RAG-Anwendungen in Microsoft Foundry über diese Daten. Ergebnisse in Power BI anzeigen.
Benutzerdefiniertes maschinelles Lernen mit vordefinierten KI-Features erweitert Azure Machine Learning Azure Vision, Azure Document Intelligence, Azure Sprache, Azure Sprache, Azure KI-Suche Verwenden Sie Foundry Tools für die Vorverarbeitung, Featureextraktion oder -abruf, und verwenden Sie Azure Machine Learning zum Trainieren, Bereitstellen und Steuern des benutzerdefinierten Modells, das auf diesen Features basiert.
Spark-Scale-Schulung mit verwaltetem Dienst Azure Databricks Azure Databricks Model Serving, MLflow, Unity Catalog, optional Azure Machine Learning (Governance oder Endpunktstandardisierung) Führen Sie Feature Engineering und verteilte Schulungen in Azure Databricks aus. Verwenden Sie dann Azure Databricks Model Serve, um trainierte Modelle bereitzustellen und zu bedienen. Fügen Sie Azure Machine Learning verwalteten Endpunkte hinzu, wenn Sie Azure Machine Learning spezifische Governance oder Endpunktstandardisierung in allen Teams benötigen.
Cloud-Train, Edgebereitstellung Azure Machine Learning oder Azure Databricks ONNX (Modellaustausch), Windows ML, ML.NET, Foundry Local, Azure IoT Edge, Azure Local, Azure Stack Edge Trainieren Sie ein exportierbares Modell in der Cloud, konvertieren Sie es bei der Unterstützung in ONNX, und stellen Sie es auf Geräten, lokalen Gateways oder hardwarebeschleunigten Edge-Appliances für offline- oder latenzarme Rückschlüsse bereit.
Hybrides lokales und cloudbasiertes maschinelles Lernen Azure Machine Learning auf Azure Arc Azure Arc-fähige Kubernetes-Cluster, ein Azure Machine Learning Arbeitsbereich, containerregistrierung, Key Vault Halten Sie Daten lokal, während Sie einen Azure Machine Learning Arbeitsbereich verwenden, der an Azure Arc-fähige Kubernetes angefügt ist, um Schulungen und Ableitungen zu koordinieren.
In-Database-Bewertung mit in der Cloud trainierten Modellen Maschinelles Lernen mit SQL Azure Machine Learning oder Azure Databricks (Schulung), ONNX, SQL Managed Instance oder SQL Server Trainieren Sie in der Cloud, exportieren Sie nach ONNX, und verwenden Sie die SQL-Funktion PREDICT für die Bewertung in der Datenbank mit geringer Latenz neben betriebstechnischen Daten.
Automatisierung mit mehreren Agents Microsoft Agent Framework und Foundry Agent Service Foundry Models, Foundry IQ, Azure KI-Suche, Azure Functions oder Azure Logic Apps (Werkzeuge), Azure API Management Erstellen Sie Multi-Agent-Workflows im Code mithilfe des Microsoft Agent Frameworks, verwenden Sie den Foundry Agent Service, um sie zu hosten und zu orchestrieren, und integrieren Sie Unternehmenstools und APIs.

Entwicklungsplattformen und Tools

Die meisten Teams verwenden übergreifende Entwicklungstools und unterstützende Dienste zusammen mit der Plattform, die sie als primäre auswählen. Diese Tools beeinflussen, wo KI und maschinelles Lernen entwickelt, getestet und verpackt werden, bevor sie ausgeführt wird. Die unterstützenden Dienste beeinflussen, wo Rückschlüsse gehostet werden oder wo Computeanfügungen an Daten angefügt werden, die nicht auf eine verwaltete Cloudplattform verschoben werden können.

Dieser Abschnitt trennt die primären Entwicklertools, die die täglichen Entwicklungs- und Betriebsplattformen sind, von den angrenzenden unterstützenden Diensten, die selbstverwaltete Ableitungen hosten, Spark-basiertes maschinelles Lernen beschleunigen oder Schulungen und Bewertungen auf lokale Infrastruktur erweitern.

Die folgenden Tools unterstützen die Entwicklung über die Cloud und lokale Plattformen hinweg.

Tool Beschreibung
Foundry Toolkit für Visual Studio Code Eine Entwicklererfahrung in VS Code zum Erstellen, Testen, Debuggen, Auswerten und Bereitstellen von generativen KI-Anwendungen und Agents. Unterstützt lokale Modelle, Modellkataloge, Agententwicklung, Toolintegration, Ablaufverfolgung und Auswertung.
Gießereiportal Eine Webumgebung für machbare Arbeit, Modellforschung, Projektressourcenmanagement, Evaluierungsüberprüfung und operative Sichtbarkeit in Microsoft Foundry-Anwendungen und Agenten.
Azure Machine Learning Studio Eine Web-UI für die Azure Machine Learning-Plattform. Umfasst Notizbücher, den Pipeline-Designer, AutoML, die Modellverwaltung und die Datenbezeichnung.
Virtueller Azure Data Science-Computer Ein vorkonfiguriertes VM-Image mit Data Science-Tools wie Jupyter, R und Python vorinstalliert.
ML.NET Ein plattformübergreifendes Framework für maschinelles Lernen für .NET Anwendungen.
Microsoft Foundry unter Windows Windows ML für hardwarebeschleunigte lokale Modellleitungen auf Windows Geräten.
SynapseML Ein Open-Source-Framework für maschinelles Lernen und Microservices für Spark.

Benachbarte unterstützende Dienste helfen bei Experimenten, selbstverwalteten Inference-Hosting, Spark-basierten maschinellem Lernen oder Hybrid-Betrieb, aber sie sind nicht die primären Plattformoptionen im Entscheidungsfluss.

Dienstleistung Rolle im Maschinellen Lernen und IM KI-Ökosystem
Azure Kubernetes Service (AKS) und Azure Container Apps Lösungen zum Hosten von selbstverwalteten Ableitungscontainern in Azure. Verwenden Sie Container-Apps für einfacheres verwaltetes Containerhosting oder AKS, wenn Sie mehr Kontrolle über die bereitstellungsgesteuerte Laufzeit- und Clusterumgebung benötigen. Häufige Beispiele sind Open-Source-Bereitstellungsstapel wie vLLM, Triton Inference Server oder BentoML.
SynapseML Ein Open-Source-, verteiltes Machine Learning- und Microservices-Framework für Spark. Arbeitet an Azure Databricks, Microsoft Fabric und anderen Spark-Clustern.
Azure Arc-fähiges maschinelles Lernen Eine Lösung zum Anfügen von lokalen oder multicloud Kubernetes-Clustern an einen Azure Machine Learning Arbeitsbereich für hybride Schulungen und Rückschlüsse.

Beitragende

Microsoft verwaltet diesen Artikel. Die folgenden Mitwirkenden haben diesen Artikel geschrieben.

Hauptautor:

Um nicht öffentliche LinkedIn-Profile zu sehen, melden Sie sich bei LinkedIn an.

Nächste Schritte

  • Last updated on