Hinweis
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, sich anzumelden oder das Verzeichnis zu wechseln.
Für den Zugriff auf diese Seite ist eine Autorisierung erforderlich. Sie können versuchen, das Verzeichnis zu wechseln.
Azure Databricks bietet eine Plattform zum Erstellen, Bewerten, Bereitstellen und Überwachen von KI-Anwendungen (AI-Apps). Es vereint eine Reihe von Tools, die die Herausforderungen der Entwicklung von KI-Apps auf Unternehmensniveau bewältigen. Azure Databricks lässt sich in beliebte Open Source-Frameworks integrieren und fügt dabei Funktionen für Governance auf Unternehmensniveau, Beobachtbarkeit und umfassende Betriebstools hinzu, die zusammen als LLMOps bezeichnet werden.
Auf dieser Seite sind die wichtigsten Features für KI aufgeführt, die nach AI-Workflowphasen organisiert sind.
KI-Abfrage
Azure Databricks stellt modernste KI-Modelle von Top-Modellanbietern über Databricks gehostete Foundation Models bereit. Sie können auch Modelle von externen Anbietern und Ihren benutzerdefinierten Modellen abfragen. Alle diese Modelle können über UI-, API-/SDK- und SQL-Schnittstellen abgefragt werden. Mit dieser Optionalität können Sie KI für alle Anwendungsfälle verwenden---generaler Chat, komplexe Agents, automatisierte Datenpipelinen, interaktive Datenanalysen und vieles mehr.
| Methode | Funktionen |
|---|---|
| Benutzeroberfläche |
|
| API und SDK |
|
| SQL |
|
KI erstellen
Azure Databricks bietet eine flexible Reihe von Tools zum Erstellen von KI-Apps, Agents, Tools und Modellen. Dazu gehören UI- und codebasierte Frameworks, die alle KI-Systeme basierend auf Ihren Daten optimieren können. Sie können jedes Open-Source-KI-Framework nutzen und benutzerdefinierte Tools und MCP-Server integrieren.
| Kategorie | Funktionen |
|---|---|
| Applikationen |
|
| Agenten |
|
| Tools |
|
| Modelle und Anweisungen |
|
Vorbereiten und Bereitstellen von Daten
Azure Databricks vereinfacht Daten für KI, indem die Governance herkömmlicher Daten und KI-Workloads vereinheitlicht wird. Wenn alle Daten, die unter dem Unity-Katalog verwaltet werden, mit präzisen Zugriffssteuerungen verwaltet werden, ist es einfach, Daten engineering- und KI-Grenzen an Ihre Organisation anzupassen. Daten können mit datentechnischen Tools wie Lakeflow-Pipelines für KI vorbereitet werden. Eine Tabelle im Unity-Katalog kann für KI bereitgestellt werden, indem ein Vektorindex für unstrukturierte Daten oder eine Featuretabelle für strukturierte Daten verwendet wird.
| Datentyp | Funktionen |
|---|---|
| Unstrukturiert (Text, Bilder usw.) |
|
| Strukturiert (Tabellen) |
|
KI bereitstellen und ausliefern
Azure Databricks bietet produktionsfähige Bereitstellungssysteme für KI-Apps, Agenten und Modelle, die von Databricks Apps unterstützt werden. Diese skalierbaren Bereitstellungen können sowohl für die Echtzeitbereitstellung als auch für die Batch-Ableitung verwendet werden. Alle Bereitstellungen sind in Observability und Bewertungs- und Überwachungswerkzeuge integriert.
| Entwicklungsrahmen | Bereitstellung und Dienstbereitstellung |
|---|---|
| Databricks-Apps | Apps und Agents können mithilfe von Databricks-Apps bereitgestellt werden, die UI- und API-basierte Bereitstellung bereitstellen. |
| Wissensassistent | Der Wissens-Assistent automatisiert die Bereitstellung Ihres Agents auf Model Serving-Endpunkte . |
Nachverfolgen, Auswerten und Überwachen von KI
Azure Databricks bietet verwalteten MLflow für KI-Observability, -Auswertung und -Überwachung. Open-Source-APIs vereinfachen die Integration und Portabilität, während der verwaltete Dienst produktionsbereite Endpunkte bereitstellt. Der von Databricks verwaltete MLflow kann für KI-Apps und Agenten verwendet werden, die auf Databricks oder an anderer Stelle gehostet werden.
| Kategorie | Funktionen |
|---|---|
| Ablaufverfolgung und Observierbarkeit |
|
| Evaluation |
|
| Monitoring |
|
| Menschliches Feedback |
|
LLMOps
Azure Databricks bietet eine vollständige Palette von Tools für KI-Vorgänge oder "LLMOps". Einheitliche Governance von Daten- und KI-Ressourcen im Unity-Katalog vereinfacht und sichert die Bereitstellung von KI in einer Organisation. DAS KI-Gateway vereinfacht die Verwaltung von Modellen von vielen KI-Modellanbietern. MLflow und deklarative Automatisierungspakete bieten Versionsverwaltung und Infrastructure as Code für die Implementierung robuster LLMOps-Prozesse.
| Kategorie | Funktionen |
|---|---|
| Governance von Daten und KI-Ressourcen | Unity Catalog bietet einheitliche Governance für Daten und KI-Ressourcen. Datenressourcen umfassen Dateien, Tabellen, Vektorindizes und Featurespeicher. KI-Ressourcen umfassen Modelle, Tools und Verbindungen für MCP-Server und andere APIs. |
| Governance von Modellendpunkten | AI Gateway bietet zentrale Steuerung und Monitoring für Endpunkte von KI-Modellen. |
| Prompt-Versionierung | MLflow bietet eine Eingabeaufforderungsregistrierung sowie eine Experimentverfolgung. |
| Infrastruktur als Code | MLOps Stacks, die auf Databricks Assets Bundles basieren, bietet codebasierte Verwaltung und Bereitstellung von Infrastruktur und Workflows. |
Open Source-Unterstützung
Azure Databricks bietet umfassende Unterstützung für das schnell wachsende Open-Source-Ökosystem für KI.
Für die Entwicklung können Sie jedes Open-Source-Framework verwenden und mit Databricks Apps bereitstellen. Databricks-Dienste können von KI-Tools und Apps von Drittanbietern mithilfe von MCP-Servern oder der REST-API oder SDKs verwendet werden.
Für Observability, Evaluierung und Überwachung bietet MLflow Tracing natives automatisches Tracing für über 20 Open-Source-KI-Frameworks, und Sie können benutzerdefinierte Tracing-Funktionen zu jedem anderen Framework oder Code hinzufügen. Die Ablaufverfolgungen können dann mit MLflow-Evaluierung und Produktionsüberwachung verwendet werden. Die Ablaufverfolgungen folgen den OpenTelemetry-Ablaufverfolgungsspezifikationen und können in Tools von Drittanbietern exportiert werden.