Använda funktioner i onlinearbetsflöden

Databricks-funktionsservern gör data på Databricks-plattformen tillgängliga för modeller eller program som distribueras utanför Azure Databricks. Du kan synka data till en Online Feature Store med antingen Feature Views eller funktionstabeller, och sedan paketera features i en FeatureSpec som du kan leverera via en feature serving endpoint.

Samma infrastruktur driver både feature serving och modellserverings-endpoints, så de delar funktioner som autoskalning, hög tillgänglighet, observabilitet och ruttoptimering.

Databricks erbjuder tre alternativ för att leverera features:

1. Slutpunkter för modellservering har automatisk uppslagning av features inbyggd för modeller som loggas via Feature Engineering-klienten. När du tränar och loggar modellen fångar Databricks feature-härkomst och utför uppslagningen automatiskt som en del av modelltjänstförfrågan.
2. Feature serving endpoints är bäst när du använder funktioner utanför Databricks, till exempel i en externt hostad modell eller en regelmotor. Endpointen returnerar funktioner direkt och kan kombinera funktionsuppslagningar med on-demand-funktionsberäkning i en enda begäran.
3. Direkta Lakebase-frågor kan vara rätt val för latenskänsliga featureuppslagningar där varje millisekund spelar roll och du konsumerar features utanför Databricks modellservering. Skapa din online store och ställ in rätt synkronisering (materialisering för Feature Views, publicering för featuretabeller), och sök sedan i Lakebase som i vilken annan databas som helst. Detta mönster stöder inte Sawtooth Feature Views, On Demand Features eller funktionsnamn utöver 64 tecken.

Automatisk funktionsökning

När du tränar en modell med Databricks Feature Store och hanterar den med Databricks-modellservern, letar modellen automatiskt upp funktionsvärden från en Databricks Online Feature Store eller en onlinebutik från tredje part. Detta sker automatiskt utan att någon konfiguration krävs.

När en bedömningsbegäran kommer in i modellen hämtar Model Serving automatiskt de publicerade funktionsvärden som krävs av modellen. På så sätt används alltid de senaste funktionsvärdena för förutsägelser. Mer information och exempel på notebook-filer finns i Modellservering med automatisk funktionssökning.

Följande diagram illustrerar relationen mellan plattformskomponenterna för realtidsservering.

slutpunkter för feature-serving

För kunder som kör modeller utanför Databricks erbjuder servering av featuredata ett enda gränssnitt som levererar förmaterialiserad featuredata från ditt Lakehouse tillsammans med on-demand-features. Den innehåller även följande fördelar:

• Enkelhet. Databricks hanterar infrastrukturen. Med ett enda API-anrop skapar Databricks en produktionsklar servermiljö.
• Hög tillgänglighet och skalbarhet. Funktionsserverslutpunkter skalas automatiskt upp och ner för att anpassa sig till antalet tjänstebegäranden.
• Säkerhet. Slutpunkter distribueras i en säker nätverksgräns och använder dedikerad beräkning som avslutas när slutpunkten tas bort eller skalas till noll.

Funktioner på begäran

Maskininlärningsmodeller för realtidsprogram kräver ofta de senaste funktionsvärdena. I exemplet som visas i diagrammet är en funktion för en restaurangrekommendationsmodell användarens aktuella avstånd från en restaurang. Den här funktionen måste beräknas "på begäran", d.v.s. vid tidpunkten för bedömningsbegäran. När en bedömningsbegäran tas emot söker modellen upp restaurangens plats och tillämpar sedan en fördefinierad funktion för att beräkna avståndet mellan användarens aktuella plats och restaurangen. Det avståndet skickas som indata till modellen, tillsammans med andra förberäknade funktioner från funktionsarkivet.

Mer information finns i Beräkningsfunktioner på begäran.