Azure OpenAI vettorizzatore

Il vettorizzatore Azure OpenAI si connette a un modello di embedding distribuito nella risorsa Azure OpenAI in Foundry Models o nel progetto Microsoft Foundry per generare embedding al momento della query. I tuoi dati vengono elaborati nella Geo dove il tuo modello è distribuito.

Sebbene i vettorizzatori vengano usati in fase di query, è possibile specificarli nelle definizioni di indice e farvi riferimento sui campi vettoriali tramite un profilo vettoriale. Per altre informazioni, vedere Configurare un vettore in un indice di ricerca.

Il vettore Azure OpenAI viene chiamato AzureOpenAIVectorizer nell'API REST. Usare la versione stabile più recente di Indexes - Creare (API REST) o un pacchetto Azure SDK che fornisce la funzionalità.

Prerequisiti

• Una risorsa Azure OpenAI in Foundry Models o un progetto Foundry.

  • La tua risorsa OpenAI Azure deve avere un sottodominio personalizzato, come https://<resource-name>.openai.azure.com. Puoi trovare questo endpoint nella pagina Keys e Endpoint nel portale Azure e usarlo per la proprietà resourceUri in questa abilità.

  • La risorsa madre del tuo progetto Foundry fornisce accesso a più endpoint, inclusi https://<resource-name>.openai.azure.com, https://<resource-name>.services.ai.azure.com, e https://<resource-name>.cognitiveservices.azure.com. Puoi trovare questi endpoint nella pagina Keys e Endpoint nel portale Azure e usarne uno qualsiasi per la proprietà resourceUri in questa abilità.

• Un modello di embedding Azure OpenAI distribuito sulla tua risorsa o progetto. Per i modelli supportati, vedere la sezione successiva.

Parametri del vettore

I parametri sono case sensitive.

Tipi di query vettoriali supportati

Il vettorizzatore Azure OpenAI supporta esclusivamente query vettoriali text.

Dimensioni del campo previste

Le dimensioni del campo previste per un campo configurato con un vettore OpenAI Azure dipendono dal modelName configurato.

Definizione di esempio

"vectorizers": [
    {
        "name": "my-openai-vectorizer",
        "kind": "azureOpenAI",
        "azureOpenAIParameters": {
            "resourceUri": "https://my-fake-azure-openai-resource.openai.azure.com",
            "apiKey": "0000000000000000000000000000000000000",
            "deploymentId": "my-ada-002-deployment",
            "authIdentity": null,
            "modelName": "text-embedding-ada-002",
        },
    }
]

Procedure consigliate per migliorare le prestazioni

Di seguito sono riportate alcune procedure consigliate da considerare quando si usa questo vettorizzatore.

• Se si raggiunge il limite TPM (token al minuto) di Azure OpenAI, considerare l'avviso sui limiti di quota in modo da procedere di conseguenza. Consulta la documentazione Azure OpenAI monitoring per maggiori informazioni sulle prestazioni della tua istanza Azure OpenAI.

• La distribuzione del modello di incorporamento di Azure OpenAI usata per questa vettorizzazione deve essere idealmente separata dalla distribuzione usata per altri casi d'uso, inclusa la competenza di incorporamento. Questo aiuta ogni deployment a essere adattato al proprio caso d'uso specifico, portando a prestazioni ottimizzate e facilitando l'identificazione del traffico proveniente dall'indicizzatore e dalle chiamate di incorporamento dell'indice.

• La tua istanza OpenAI di Azure dovrebbe trovarsi nella stessa regione o almeno geograficamente vicina alla regione dove è ospitato il tuo servizio di ricerca AI. Questo riduce la latenza e migliora la velocità del trasferimento dati tra i servizi.

• Per evitare codici di errore frequenti 429, è consigliabile implementare il bilanciamento del carico tramite Gestione APIimplementando un gateway di bilanciamento del carico davanti a più distribuzioni di modelli di incorporamento OpenAI Azure.

• Se hai un limite di token per minuto (TPM) di Azure OpenAI superiore a quello predefinito come pubblicato nella documentazione quotas e limiti, apri un caso di supporto con il team Azure AI Search, in modo che possa essere adeguato di conseguenza. Questo aiuta il tuo processo di indicizzazione a non rallentare inutilmente dal limite predefinito del TPM documentato, se hai limiti più alti.

Considerazioni sulla sicurezza per l'autenticazione dell'identità gestita

Quando il vettore OpenAI Azure usa l'autenticazione dell'identità gestita, Azure AI Search ottiene un token di accesso Microsoft Entra per il gruppo di destinatari di Foundry Tools (https://cognitiveservices.azure.com) e lo include nelle richieste inviate all'endpoint specificato da resourceUri. L'autenticazione dell'identità gestita si applica quando si imposta authIdentityo quando apiKey e authIdentity sono vuoti e il servizio usa l'identità assegnata dal sistema.

L'endpoint a cui si resourceUri fa riferimento deve essere la propria Azure risorsa OpenAI o Foundry Tools. I domini supportati sono:

• openai.azure.com
• cognitiveservices.azure.com
• services.ai.azure.com

sono supportati anche gli endpoint Gestione API di Azure (*.azure-api.netGESTIONE API). Poiché un nome host di Gestione API non può essere verificato solo dal nome, Azure AI Search convalida questi endpoint con un controllo della connettività in tempo reale in fase di configurazione anziché in base alla corrispondenza del dominio. L'utente è responsabile della configurazione e della gestione della relazione tra l'endpoint di Gestione API e la risorsa OpenAI o Foundry Tools Azure sottostante.

Procedure di sicurezza consigliate

Per mantenere una distribuzione sicura, seguire queste procedure:

• Impostare resourceUri solo sugli endpoint di cui si è proprietari e si è attendibili. Preferisce i domini degli strumenti foundry elencati in precedenza. Se si usa un endpoint di Gestione API, verificare che venga anteriore alla propria risorsa prima di abilitare l'identità gestita. Un nome host attendibile non è una prova di proprietà.
• Applicare il principio del privilegio minimo all'identità gestita usata dal servizio di ricerca. Il vettore openAI di Azure richiede solo il ruolo utente OpenAI di Servizi cognitivi nella risorsa di destinazione. Evitare di concedere ruoli più ampi.
• Usare Network Security Perimeter (NSP) e endpoint privati o integrazione rete virtuale per limitare gli endpoint che il servizio di ricerca può raggiungere e da quali origini la risorsa di destinazione accetta le richieste.
• Se si usa un endpoint di Gestione API, assicurarsi che il gateway convalida le richieste in ingresso e le inoltra solo al back-end previsto. È anche consigliabile esaminare periodicamente i criteri di accesso.
• Preferisce l'identità gestita rispetto a apiKey. Se si usa apiKey, archiviarlo e ruotarlo in modo sicuro e non incorporarlo nel controllo del codice sorgente. Il servizio rifiuta le configurazioni che impostano sia apiKey che authIdentity.
• Esaminare periodicamente le definizioni degli indici, le assegnazioni di ruolo dell'identità gestita e le configurazioni di Gestione API per verificare che resourceUri i valori, i controlli di accesso e le autorizzazioni di identità rimangano aggiornati e appropriati. Esaminare le modifiche alla configurazione tramite i processi di gestione delle modifiche e di revisione della sicurezza stabiliti.
• Monitorare Azure log di accesso di OpenAI e Foundry Tools, eventi di autenticazione e log di accesso per attività impreviste o non autorizzate.
• Rimuovere vettori inutilizzati, endpoint, assegnazioni di ruolo e chiavi API che non sono più necessari.

Limitare l'accesso alla configurazione dell'indice e del vettore

Gli utenti che possono creare o modificare definizioni di indice controllano sia l'endpoint di destinazione (resourceUri) che la configurazione di autenticazione usata dal vettore. Poiché il vettore invia un token di identità gestito per il gruppo di destinatari degli strumenti foundry a tale endpoint, limitare queste autorizzazioni agli amministratori attendibili e seguire i processi standard di gestione delle modifiche e di revisione della sicurezza quando si configurano vettori abilitati per l'identità gestita.

Vedere anche

• Vettorizzazione integrata
• Come configurare un vettore in un indice di ricerca
• Competenza di incorporamento di Azure OpenAI