Functies gebruiken in onlinewerkstromen

Databricks Feature Serving maakt gegevens beschikbaar in het Databricks-platform voor modellen of toepassingen die buiten Azure Databricks zijn geïmplementeerd. Je kunt data synchroniseren naar een Online Feature Store via Feature Views of feature tables, en vervolgens features bundelen in een FeatureSpec die je via een feature serving endpoint kunt serveren.

Dezelfde infrastructuur ondersteunt zowel feature serving als model serving endpoints, waardoor ze mogelijkheden delen zoals autoscaling, hoge beschikbaarheid, observabiliteit en routeoptimalisatie.

Databricks biedt drie opties voor het serveren van features:

1. Model serving endpoints zijn uitgerust met automatische feature lookup voor modellen die via de Feature Engineering-client worden gelogd. Wanneer je het model traint en logt, legt Databricks de feature-lineage vast en voert de lookup automatisch uit als onderdeel van het model serving request.
2. Feature serving endpoints zijn het beste wanneer je features buiten Databricks consumeert, zoals in een extern gehost model of een rules engine. Het eindpunt levert features direct terug en kan feature-lookups combineren met on-demand feature-berekening in één enkele aanvraag.
3. Direct Lakebase-queries kunnen de juiste keuze zijn voor latencygevoelige feature-lookups waarbij elke milliseconde telt en je features buiten Databricks modelservice consumeert. Maak je online store aan en stel de juiste synchronisatie in (materialisatie voor Feature Views, publiceren voor kenmerktabellen), en voer daarna query's uit op Lakebase zoals op elke andere database. Dit patroon ondersteunt geen Sawtooth Feature Views, On Demand Features of feature-namen van meer dan 64 tekens.

Automatische functiezoekactie

Wanneer u een model traint met behulp van Databricks Feature Store en het model verwerkt met Databricks Model Serving, zoekt het model automatisch functiewaarden op uit een Databricks Online Feature Store of een online winkel van derden. Dit gebeurt automatisch zonder installatie vereist.

Wanneer een scoreaanvraag binnenkomt in het model, haalt Model Serving automatisch de gepubliceerde functiewaarden op die nodig zijn voor het model. Op deze manier worden de meest recente functiewaarden altijd gebruikt voor voorspellingen. Zie Model serving met automatische functiezoekopdrachten voor meer informatie en voorbeelden van notebooks.

In het volgende diagram ziet u de relatie tussen de platformonderdelen voor realtime-bediening.

Functie voor eindpunten

Voor klanten die modellen buiten Databricks draaien, biedt het serveren van featuredata een enkele interface die vooraf gematerialiseerde featuredata uit je Lakehouse serveert, naast on-demand features. Het bevat ook de volgende voordelen:

• Eenvoud. Databricks verwerkt de infrastructuur. Met één API-aanroep maakt Databricks een productieklare serviceomgeving.
• Hoge beschikbaarheid en schaalbaarheid. Endpunten voor functielevering schalen automatisch op en neer om zich aan te passen aan het volume van verzoeken.
• Beveiliging. Eindpunten worden geïmplementeerd in een beveiligde netwerkgrens en gebruiken toegewezen rekenkracht die eindigt wanneer het eindpunt wordt verwijderd of geschaald naar nul.

Functies op aanvraag

Machine learning-modellen voor realtime toepassingen vereisen vaak de meest recente functiewaarden. In het voorbeeld in het diagram is één functie voor een aanbevelingsmodel voor het restaurant de huidige afstand van de gebruiker van een restaurant. Deze functie moet worden berekend op aanvraag, dat wil gezegd op het moment van de scoreaanvraag. Bij ontvangst van een scoreaanvraag zoekt het model de locatie van het restaurant op en past het vervolgens een vooraf gedefinieerde functie toe om de afstand tussen de huidige locatie van de gebruiker en het restaurant te berekenen. Deze afstand wordt doorgegeven als invoer voor het model, samen met andere vooraf samengestelde functies uit het functiearchief.

Zie Compute-functies op aanvraag voor meer informatie.