Azure Databricks KI-Funktionen

Azure Databricks bietet eine Plattform zum Erstellen, Bewerten, Bereitstellen und Überwachen von KI-Anwendungen (AI-Apps). Es vereint eine Reihe von Tools, die die Herausforderungen der Entwicklung von KI-Apps auf Unternehmensniveau bewältigen. Azure Databricks lässt sich in beliebte Open Source-Frameworks integrieren und fügt dabei Funktionen für Governance auf Unternehmensniveau, Beobachtbarkeit und umfassende Betriebstools hinzu, die zusammen als LLMOps bezeichnet werden.

Auf dieser Seite sind die wichtigsten Features für KI aufgeführt, die nach AI-Workflowphasen organisiert sind.

KI-Abfrage

Azure Databricks stellt modernste KI-Modelle von Top-Modellanbietern über Databricks gehostete Foundation Models bereit. Sie können auch Modelle von externen Anbietern und Ihren benutzerdefinierten Modellen abfragen. Alle diese Modelle können über UI-, API-/SDK- und SQL-Schnittstellen abgefragt werden. Mit dieser Optionalität können Sie KI für alle Anwendungsfälle verwenden---generaler Chat, komplexe Agents, automatisierte Datenpipelinen, interaktive Datenanalysen und vieles mehr.

Methode Funktionen
Benutzeroberfläche
  • Für die Entwicklung bietet AI Playground eine Benutzeroberfläche zum Abfragen verfügbarer KI-Modelle und Agents.
  • Zum Testen können Ihre Agents und Apps von Domänenexperten mithilfe der Überprüfungs-App abgefragt und ausgewertet werden.
  • Für die Produktion können Ihre Apps mit einer Benutzeroberfläche mit Databricks-Apps für die Verwendung innerhalb Ihrer Organisation gehostet werden. Für externe Apps können Sie benutzerorientierte Apps mithilfe von Databricks-APIs betreiben.
API und SDK
  • Model Serving stellt REST-API-Endpunkte für Abfragen von Modellen und Agents bereit.
  • Weitere Abfrageoptionen finden Sie, einschließlich des OpenAI-Clients und des Databricks Python SDK.
SQL
  • KI-Funktionen bieten aufgabenspezifische und allgemeine SQL-Funktionen zum Abfragen von Modellen und Agents.

KI erstellen

Azure Databricks bietet eine flexible Reihe von Tools zum Erstellen von KI-Apps, Agents, Tools und Modellen. Dazu gehören UI- und codebasierte Frameworks, die alle KI-Systeme basierend auf Ihren Daten optimieren können. Sie können jedes Open-Source-KI-Framework nutzen und benutzerdefinierte Tools und MCP-Server integrieren.

Kategorie Funktionen
Applikationen
  • Databricks-Apps bieten flexible App-Entwicklung und Bereitstellung für authentifizierte Benutzer.
  • Benutzerdefinierte Apps können von Databricks-APIs unterstützt werden.
Agenten
Tools
Modelle und Anweisungen

Vorbereiten und Bereitstellen von Daten

Azure Databricks vereinfacht Daten für KI, indem die Governance herkömmlicher Daten und KI-Workloads vereinheitlicht wird. Wenn alle Daten, die unter dem Unity-Katalog verwaltet werden, mit präzisen Zugriffssteuerungen verwaltet werden, ist es einfach, Daten engineering- und KI-Grenzen an Ihre Organisation anzupassen. Daten können mit datentechnischen Tools wie Lakeflow-Pipelines für KI vorbereitet werden. Eine Tabelle im Unity-Katalog kann für KI bereitgestellt werden, indem ein Vektorindex für unstrukturierte Daten oder eine Featuretabelle für strukturierte Daten verwendet wird.

Datentyp Funktionen
Unstrukturiert (Text, Bilder usw.)
  • KI-Suche indiziert Ihre Wissensbasis automatisch in großem Umfang für semantische oder hybride Suche.
Strukturiert (Tabellen)
  • Mit Serverless SQL können Sie Tabellen und SQL-Abfragen in Ihre KI-App für Analysen oder Transformationen integrieren.
  • Genie Agents können in Multi-Agent-Systemen verwendet werden, um Abfragen natürlicher Sprachen zu Ihren strukturierten Daten zu beantworten.
  • Online-Feature-Stores bieten den Echtzeitzugriff auf Features für Ihre KI-App.

KI bereitstellen und ausliefern

Azure Databricks bietet produktionsfähige Bereitstellungssysteme für KI-Apps, Agenten und Modelle, die von Databricks Apps unterstützt werden. Diese skalierbaren Bereitstellungen können sowohl für die Echtzeitbereitstellung als auch für die Batch-Ableitung verwendet werden. Alle Bereitstellungen sind in Observability und Bewertungs- und Überwachungswerkzeuge integriert.

Entwicklungsrahmen Bereitstellung und Dienstbereitstellung
Databricks-Apps Apps und Agents können mithilfe von Databricks-Apps bereitgestellt werden, die UI- und API-basierte Bereitstellung bereitstellen.
Wissensassistent Der Wissens-Assistent automatisiert die Bereitstellung Ihres Agents auf Model Serving-Endpunkte .

Nachverfolgen, Auswerten und Überwachen von KI

Azure Databricks bietet verwalteten MLflow für KI-Observability, -Auswertung und -Überwachung. Open-Source-APIs vereinfachen die Integration und Portabilität, während der verwaltete Dienst produktionsbereite Endpunkte bereitstellt. Der von Databricks verwaltete MLflow kann für KI-Apps und Agenten verwendet werden, die auf Databricks oder an anderer Stelle gehostet werden.

Kategorie Funktionen
Ablaufverfolgung und Observierbarkeit
  • MLflow Tracing ermöglicht es Ihnen, Ihre KI-Agenten und Apps zu instrumentieren, um Telemetrie- und Observability-Daten für die Evaluierung, die Produktionsüberwachung und Audits zu erfassen.
Evaluation
Monitoring
  • Die Produktionsüberwachung ermöglicht es Ihnen, die Qualität von Produktionsspuren zu messen, unter Verwendung der gleichen Richter und Bewertungen, die während der Entwicklungsbewertung eingesetzt wurden.
Menschliches Feedback

LLMOps

Azure Databricks bietet eine vollständige Palette von Tools für KI-Vorgänge oder "LLMOps". Einheitliche Governance von Daten- und KI-Ressourcen im Unity-Katalog vereinfacht und sichert die Bereitstellung von KI in einer Organisation. DAS KI-Gateway vereinfacht die Verwaltung von Modellen von vielen KI-Modellanbietern. MLflow und deklarative Automatisierungspakete bieten Versionsverwaltung und Infrastructure as Code für die Implementierung robuster LLMOps-Prozesse.

Kategorie Funktionen
Governance von Daten und KI-Ressourcen Unity Catalog bietet einheitliche Governance für Daten und KI-Ressourcen. Datenressourcen umfassen Dateien, Tabellen, Vektorindizes und Featurespeicher. KI-Ressourcen umfassen Modelle, Tools und Verbindungen für MCP-Server und andere APIs.
Governance von Modellendpunkten AI Gateway bietet zentrale Steuerung und Monitoring für Endpunkte von KI-Modellen.
Prompt-Versionierung MLflow bietet eine Eingabeaufforderungsregistrierung sowie eine Experimentverfolgung.
Infrastruktur als Code MLOps Stacks, die auf Databricks Assets Bundles basieren, bietet codebasierte Verwaltung und Bereitstellung von Infrastruktur und Workflows.

Open Source-Unterstützung

Azure Databricks bietet umfassende Unterstützung für das schnell wachsende Open-Source-Ökosystem für KI.

Für die Entwicklung können Sie jedes Open-Source-Framework verwenden und mit Databricks Apps bereitstellen. Databricks-Dienste können von KI-Tools und Apps von Drittanbietern mithilfe von MCP-Servern oder der REST-API oder SDKs verwendet werden.

Für Observability, Evaluierung und Überwachung bietet MLflow Tracing natives automatisches Tracing für über 20 Open-Source-KI-Frameworks, und Sie können benutzerdefinierte Tracing-Funktionen zu jedem anderen Framework oder Code hinzufügen. Die Ablaufverfolgungen können dann mit MLflow-Evaluierung und Produktionsüberwachung verwendet werden. Die Ablaufverfolgungen folgen den OpenTelemetry-Ablaufverfolgungsspezifikationen und können in Tools von Drittanbietern exportiert werden.

Weitere Ressourcen