Usare le funzionalità nei flussi di lavoro online

Databricks Feature Serving rende disponibili i dati nella piattaforma Databricks per i modelli o le applicazioni distribuite all'esterno di Azure Databricks. Puoi sincronizzare i dati con un Feature Store Online usando Feature Views o feature table, poi raggruppare le feature in una FeatureSpec che puoi servire tramite un endpoint di serving delle feature.

La stessa infrastruttura alimenta sia gli endpoint di feature serving che gli endpoint di model serving, quindi condividono funzionalità come autoscaling, alta disponibilità, osservabilità e ottimizzazione delle route.

Databricks offre tre opzioni per servire le feature:

1. Gli endpoint di servizio dei modelli sono dotati di feature lookup automatico integrato per i modelli registrati tramite il client di Feature Engineering. Quando addestri e registri il modello, Databricks cattura la tracciabilità delle feature ed esegue automaticamente il lookup come parte della richiesta di servizio del modello.
2. I Feature Serving Endpoints sono ideali quando si utilizzano funzionalità al di fuori di Databricks, ad esempio in un modello ospitato esternamente o in un motore di regole. L'endpoint restituisce direttamente le feature e può combinare le ricerche di feature con il calcolo delle feature su richiesta in un'unica richiesta.
3. Le query dirette su Lakebase possono essere la scelta giusta per le ricerche di feature sensibili alla latenza, dove ogni millisecondo conta e si consumano feature al di fuori del model serving di Databricks. Crea il tuo negozio online e imposta la sincronizzazione corretta (materializzazione per le Feature Views, pubblicazione per le feature table), poi consulta Lakebase come qualsiasi altro database. Questo pattern non supporta le Feature Views Sawtooth, le funzionalità On Demand o nomi di feature oltre i 64 caratteri.

Ricerca automatica delle funzionalità

Quando si esegue il training di un modello usando Databricks Feature Store e lo si serve con Databricks Model Serving, il modello cerca automaticamente i valori delle funzionalità da un Archivio funzionalità online di Databricks o da un archivio online di terze parti. Ciò avviene automaticamente senza alcuna configurazione necessaria.

Quando una richiesta di assegnazione dei punteggi arriva al modello, Model Serving recupera automaticamente i valori delle funzionalità pubblicati necessari per il modello. In questo modo, i valori delle funzionalità più recenti vengono sempre usati per le stime. Per informazioni dettagliate e notebook di esempio, vedere Model Serving with automatic feature lookup (Gestione modelli con ricerca automatica delle funzionalità).

Il diagramma seguente illustra la relazione tra i componenti della piattaforma per la gestione in tempo reale.

Endpoint di gestione delle funzionalità

Per i clienti che eseguono modelli al di fuori di Databricks, la distribuzione dei dati delle feature fornisce un'interfaccia unica che serve dati delle feature pre-materializzati dal tuo Lakehouse insieme alle feature on-demand. Comprende anche i seguenti vantaggi:

• Semplicità. Databricks gestisce l'infrastruttura. Con una singola chiamata API, Databricks crea un ambiente di gestione pronto per la produzione.
• Disponibilità elevata e scalabilità. Gli endpoint di servizio delle funzionalità si espandono e riducono automaticamente per adattarsi al volume delle richieste di servizio.
• Sicurezza. Gli endpoint vengono distribuiti in un limite di rete sicuro e usano calcolo dedicato che termina quando l'endpoint viene eliminato o ridimensionato su zero.

Funzionalità su richiesta

I modelli di Machine Learning per le applicazioni in tempo reale richiedono spesso i valori delle funzionalità più recenti. Nell'esempio illustrato nel diagramma, una funzionalità per un modello di raccomandazione di un ristorante è la distanza corrente dell'utente da un ristorante. Questa funzionalità deve essere calcolata "su richiesta", ovvero al momento della richiesta di assegnazione dei punteggi. Dopo aver ricevuto una richiesta di assegnazione dei punteggi, il modello cerca la posizione del ristorante e quindi applica una funzione predefinita per calcolare la distanza tra la posizione corrente dell'utente e il ristorante. Tale distanza viene passata come input al modello, insieme ad altre caratteristiche precomputate dall'archivio delle caratteristiche.

Per altre informazioni, vedere Funzionalità di calcolo su richiesta.