MLflow-Ablaufverfolgung – GenAI-Observability

MLflow Tracing bietet Ihnen durchgängige Einblicke in GenAI-Anwendungen, einschließlich komplexer agentenbasierter Systeme. Sie zeichnet Eingaben, Ausgaben, Zwischenschritte und Metadaten auf, damit Sie genau sehen können, wie sich Ihre App verhält.

Tracing-Gateway-Video

Die Ablaufverfolgung ermöglicht Ihnen Folgendes:

  • Debuggen und Verstehen Ihrer Anwendung
  • Überwachen der Leistung und Optimieren von Kosten
  • Überwachen von Produktionsanwendungen
  • Bewerten und Verbessern der qualitativ hochwertigen Anwendungsleistung
  • Prüfbarkeit und Regelkonformität überprüfen
  • Integrieren der Ablaufverfolgung in viele beliebte Drittanbieterframeworks
  • Verwenden Sie natürliche Sprache mit Genie Code, um Ablaufverfolgungsdaten zu analysieren, zu debuggen und zu untersuchen.

Wo Traces gespeichert werden

Sie haben zwei Möglichkeiten, Traces zu speichern. Databricks empfiehlt, Ablaufverfolgungen in Unity Catalog für neue und Produktionsworkloads zu speichern. Unabhängig von der Option, die Sie zum Speichern von Ablaufverfolgungen auswählen, sind MLflow-Experimente der Einstiegspunkt der Benutzeroberfläche zum Anzeigen von Ablaufverfolgungen:

  • In Unity Catalog gespeicherte Ablaufverfolgungen (empfohlen): Zeigen Sie Ihr Experiment an einem Unity Catalog-Ablaufverfolgungsort, sodass Ablaufverfolgungen in OpenTelemetry (OTel)-Delta-Tabellen landen. Es gibt keine Speicherobergrenze, Ablaufverfolgungen können mit SQL wie jeder Delta-Tabelle abfragt werden, und Unity Catalog steuert den Zugriff.
  • In einem Experiment gespeicherte Traces: MLflow speichert Traces im Experiment selbst, aber MLflow begrenzt die Speicherung auf 100.000 Traces pro Experiment, und diese Option ist möglicherweise nicht mit den neuesten MLflow-Funktionen kompatibel.
Capability In Unity Catalog gespeicherte Ablaufverfolgungen In einem Experiment gespeicherte Traces
Speicherbegrenzung Unlimited 100.000 Spuren pro Experiment
Abfrageoptionen MLflow UI und Python SDK sowie SQL-, Genie-, AI/BI-Dashboards und alle Spark-basierten Tools MLflow UI und Python SDK
Governance Unity Catalog-Schema- und Tabellenberechtigungen Zugriffssteuerungen auf Experimentebene
OpenTelemetry-Kompatibilität Im OTel-Format gespeicherte Traces, kompatibel mit anderen OTel-Clients und -Tools Nicht unterstützt

Weitere Ressourcen