Korzystanie z funkcji w przepływach pracy online

Funkcja usługi Databricks udostępnia dane na platformie databricks dla modeli lub aplikacji wdrożonych poza Azure Databricks. Możesz synchronizować dane do Online Feature Store za pomocą Feature Views lub tabel feature, a następnie grupować funkcje w FeatureSpec, który możesz serwować przez endpoint serwowania funkcji.

Ta sama infrastruktura obsługuje zarówno endpointy udostępniania cech, jak i modeli, więc mają wspólne możliwości takie jak autoskalowanie, wysoka dostępność, obserwowalność i optymalizacja tras.

Databricks oferuje trzy opcje serwowania cech:

1. Endpointy obsługujące modele mają wbudowane automatyczne wyszukiwanie cech dla modeli rejestrowanych przez klienta Feature Engineering. Gdy trenujesz i rejestrujesz model, Databricks rejestruje pochodzenie cech i automatycznie wykonuje wyszukiwanie w ramach żądania obsługi modelu.
2. Punkty końcowe udostępniania cech najlepiej sprawdzają się, gdy wykorzystujesz cechy poza platformą Databricks, na przykład w modelu hostowanym zewnętrznie lub silniku reguł. Punkt końcowy API zwraca cechy bezpośrednio i może łączyć wyszukiwania cech z obliczeniami cech na żądanie w jednym żądaniu.
3. Bezpośrednie zapytania Lakebase mogą być odpowiednim wyborem do wyszukiwania cech wrażliwych na opóźnienia, gdzie każda milisekunda ma znaczenie i korzystasz z cech poza usługą Databricks Model Serving. Utwórz swój magazyn online i ustaw właściwą synchronizację (materializacja dla widoków cech, publikowanie dla tabel cech), a następnie wysyłaj zapytania do Lakebase jak do każdej innej bazy danych. Ten wzór nie obsługuje Sawtooth Feature Views, On Demand Features ani nazw cech powyżej 64 znaków.

Automatyczne wyszukiwanie funkcji

Podczas trenowania modelu przy użyciu magazynu funkcji usługi Databricks i obsługi go za pomocą usługi Databricks Model Serving model model automatycznie wyszukuje wartości funkcji z magazynu funkcji online usługi Databricks lub sklepu online innej firmy. Dzieje się to automatycznie bez wymaganej konfiguracji.

Gdy żądanie oceniania jest wysyłane do modelu, usługa obsługi modelu automatycznie pobiera opublikowane wartości cech wymagane przez model. W ten sposób najnowsze wartości funkcji są zawsze używane do prognoz. Aby uzyskać szczegółowe informacje i przykładowe notesy, zobacz Model Serving with automatic feature lookup (Obsługa modelu z automatycznym wyszukiwaniem funkcji).

Na poniższym diagramie przedstawiono relację między składnikami platformy na potrzeby obsługi w czasie rzeczywistym.

Funkcje obsługujące punkty końcowe

Dla klientów korzystających z modeli spoza Databricks udostępnianie danych cech zapewnia jeden interfejs, który udostępnia wstępnie zmaterializowane dane cech z Twojego Lakehouse wraz z cechami na żądanie. Obejmuje również następujące korzyści:

• Prostota. Usługa Databricks obsługuje infrastrukturę. W przypadku pojedynczego wywołania interfejsu API usługa Databricks tworzy środowisko obsługujące gotowe do produkcji.
• Wysoka dostępność i skalowalność. Punkty końcowe serwowania funkcji są automatycznie skalowane w górę i w dół, aby dostosować się do liczby żądań serwowania.
• Security. Punkty końcowe są wdrażane w bezpiecznej granicy sieci i używają dedykowanych obliczeń, które kończą się po usunięciu punktu końcowego lub skalowaniu do zera.

Funkcje na żądanie

Modele uczenia maszynowego dla aplikacji w czasie rzeczywistym często wymagają najnowszych wartości funkcji. W przykładzie przedstawionym na diagramie jedna funkcja modelu rekomendacji restauracji to bieżąca odległość użytkownika od restauracji. Ta funkcja musi być obliczana "na żądanie", czyli w momencie żądania oceniania. Po otrzymaniu żądania oceniania model wyszukuje lokalizację restauracji, a następnie stosuje wstępnie zdefiniowaną funkcję w celu obliczenia odległości między bieżącą lokalizacją użytkownika a restauracją. Ta odległość jest przekazywana jako dane wejściowe do modelu wraz z innymi wstępnie skompilowanymi funkcjami z magazynu funkcji.

Aby uzyskać więcej informacji, zobacz Funkcje obliczeniowe na żądanie.