Verwenden von Funktionen in Online-Workflows

Databricks Feature Serving macht Daten auf der Databricks-Plattform für Modelle oder Anwendungen verfügbar, die außerhalb von Azure Databricks bereitgestellt werden. Du kannst Daten mit einem Online-Feature Store über Feature Views oder Feature-Tabellen synchronisieren und dann Features in eine FeatureSpec bündeln, die du über einen Feature-Serving-Endpunkt bereitstellen kannst.

Dieselbe Infrastruktur unterstützt sowohl Feature-Bereitstellungsendpunkte als auch Modellbereitstellungsendpunkte, sodass sie Funktionen wie automatische Skalierung, Hochverfügbarkeit, Beobachtbarkeit und Routenoptimierung gemeinsam nutzen.

Databricks bietet drei Optionen zur Bereitstellung von Features:

1. Model Serving Endpoints verfügen über eine integrierte automatische Feature-Abfrage für Modelle, die über den Feature Engineering Client protokolliert werden. Wenn Sie das Modell trainieren und protokollieren, erfasst Databricks die Featureherkunft und führt die Suche automatisch als Teil der Modellbereitstellungsanforderung durch.
2. Feature Serving Endpoints sind am besten, wenn man Features außerhalb von Databricks konsumiert, zum Beispiel in einem extern gehosteten Modell oder einer Regel-Engine. Der Endpunkt gibt Features direkt zurück und kann Feature-Abfragen mit On-Demand-Feature-Berechnung in einer einzigen Anfrage kombinieren.
3. Direkte Lakebase-Abfragen könnten die richtige Wahl für latenzsensitive Feature-Lookups sein, bei denen jede Millisekunde zählt und Sie Features außerhalb von Databricks Model Serving nutzen. Erstellen Sie Ihren Onlinespeicher, und richten Sie die richtige Synchronisierung ein (Materialisierung für Featureansichten, Veröffentlichung für Featuretabellen). Fragen Sie dann Lakebase wie jede andere Datenbank ab. Dieses Muster unterstützt keine Sawtooth Feature Views, On Demand Features oder Feature-Namen über 64 Zeichen hinaus.

Automatische Funktionsabfrage

Wenn Sie ein Modell mit dem Databricks Feature Store trainieren und mit Databricks Model Serve bedienen, sucht das Modell automatisch Featurewerte aus einem Databricks Online Feature Store oder einem Onlinespeicher eines Drittanbieters. Dies geschieht automatisch, und es ist kein Setup erforderlich.

Wenn eine Bewertungsanforderung das Modell erreicht, ruft Model Serving automatisch die veröffentlichten Featurewerte ab, die vom Modell benötigt werden. Auf diese Weise werden immer die neuesten Featurewerte für Vorhersagen verwendet. Ausführliche Informationen und Beispielnotizbücher finden Sie unter Model Serving mit automatischer Featuresuche.

Das folgende Diagramm veranschaulicht die Beziehung zwischen den Plattformkomponenten für die Echtzeitbereitstellung.

Feature-Bereitstellungsendpunkte

Für Kunden, die Modelle außerhalb von Databricks betreiben, bietet die Bereitstellung von Feature-Daten eine einzige Schnittstelle, die vormaterialisierte Feature-Daten aus Ihrem Lakehouse zusammen mit On-Demand-Funktionen bereitstellt. Es umfasst auch die folgenden Vorteile:

• Einfachheit: Databricks übernimmt die Infrastruktur. Mit einem einzelnen API-Aufruf erstellt Databricks eine produktionsbereite Bereitstellungsumgebung.
• Hochverfügbarkeit und Skalierbarkeit. Feature Serving-Endpunkte werden automatisch hoch- und herunterskaliert, um das Volumen der Bereitstellungsanforderungen anzupassen.
• Sicherheit. Endpunkte werden in einer sicheren Netzwerkgrenze bereitgestellt und verwenden dedizierten Compute, der beendet wird, wenn der Endpunkt gelöscht oder auf Null skaliert wird.

Bedarfsgesteuerte Funktionen

Machine Learning-Modelle für Echtzeitanwendungen erfordern häufig die neuesten Featurewerte. Im im Diagramm gezeigten Beispiel ist ein Feature für ein Restaurantempfehlungsmodell der aktuelle Abstand des Benutzers von einem Restaurant. Dieses Feature muss bei Bedarf berechnet werden, d. h. zum Zeitpunkt der Bewertungsanforderung. Nach Erhalt einer Bewertungsanfrage sucht das Modell den Standort des Restaurants und wendet dann eine vordefinierte Funktion an, um den Abstand zwischen dem aktuellen Standort des Benutzers und dem Restaurant zu berechnen. Diese Entfernung wird zusammen mit anderen vorkompilierten Features aus dem Feature Store als Eingabe an das Modell übergeben.

Weitere Informationen finden Sie unter Rechenfunktionen auf Abruf.