Modellserverhantering med automatisk funktionssökning

Modellservern kan automatiskt söka efter funktionsvärden från en Databricks Online Feature Store eller en onlinebutik från tredje part. För realtidsservering av funktionsvärden rekommenderar Databricks att du använder Databricks Online Feature Stores.

Krav

  • Modellen måste ha loggats med FeatureEngineeringClient.log_model (för funktionsteknik i Unity Catalog) eller FeatureStoreClient.log_model (för äldre funktionstjänst för arbetsytor), och kräver v0.3.5 och senare.

Anteckning

Du kan publicera funktionstabellen när som helst före modelldistributionen, inklusive efter modellträningen.

Automatisk funktionsökning

Azure Databricks Model Serving har stöd för automatisk funktionssökning från dessa onlinebutiker:

Automatisk funktionssökning stöds för följande datatyper:

  • IntegerType
  • FloatType
  • BooleanType
  • StringType
  • DoubleType
  • LongType
  • TimestampType
  • DateType
  • ShortType
  • ArrayType
  • MapType

Åsidosätta funktionsvärden i poängsättning av onlinemodeller

Alla funktioner som krävs av modellen (loggas med FeatureEngineeringClient.log_model eller FeatureStoreClient.log_model) söks automatiskt upp från onlinebutiker för modellbedömning. Om du vill åsidosätta funktionsvärden vid bedömning av en modell med hjälp av ett REST-API med modellservern inkluderar du funktionsvärdena som en del av API-nyttolasten.

Anteckning

De nya funktionsvärdena måste överensstämma med funktionens datatyp som förväntat av den underliggande modellen.

Spara den förhöjda dataramen i slutsatsdragningstabellen

För slutpunkter som skapats från och med februari 2025 kan du konfigurera en modellbetjänande slutpunkt för att logga den utökade DataFrame som innehåller uppslagsfunktionen och funktionens returvärden. DataFrame sparas i slutsatsdragningstabellen för den betjänade modellen.

Anvisningar om hur du konfigurerar denna konfiguration finns i Loggfunktionssökning DataFrames till inferenstabeller.

För information om inferenstabeller, se Loggförfrågningar och svar för servande ändpunkter (legacy).

Anteckningsboksexempel

Med Databricks Runtime 13.3 LTS och senare kan alla Delta-tabeller i Unity Catalog med en primärnyckel användas som en funktionstabell. När du använder en tabell som är registrerad i Unity Catalog som en funktionstabell är alla Unity Catalog-funktioner automatiskt tillgängliga för funktionstabellen.

Databricks Online Funktionstjänstbutik

Följande notebook-fil visar hur du publicerar funktioner till en Databricks Online Feature Store för realtidsservering och automatisk funktionsökning.

Demoanteckningsbok för Databricks-onlinebutik

Hämta anteckningsbok

Onlinebutiker från tredje part

Den här exempelanteckningsboken visar hur du publicerar funktioner i en onlinebutik från tredje part och sedan servar en tränad modell som automatiskt söker efter funktioner från onlinebutiken.

Exempelanteckningsbok för tredjeparts onlinebutiker (Unity Catalog)

Hämta anteckningsbok

Funktionsarkiv för arbetsyta (äldre)

Den här exempelanteckningsboken visar hur du publicerar funktioner i en onlinebutik och sedan servar en tränad modell som automatiskt söker efter funktioner från onlinebutiken.

Exempelanteckningsbok för tredjeparts onlinebutik (arbetsytebutik för funktioner)

Hämta anteckningsbok

  • Last updated on