Powiązanie danych wejściowych asystenta usługi Azure OpenAI dla usługi Azure Functions

Ważne

Rozszerzenie Azure OpenAI dla usługi Azure Functions jest obecnie dostępne w wersji zapoznawczej.

Powiązanie danych wejściowych asystenta usługi Azure OpenAI umożliwia integrację zapytań interfejsu API Asystentów z wykonywaniem kodu.

Aby uzyskać informacje na temat konfigurowania i konfigurowania rozszerzenia Azure OpenAI, zobacz Azure OpenAI extensions for Azure Functions (Rozszerzenia azure OpenAI dla usługi Azure Functions). Aby dowiedzieć się więcej na temat asystentów usługi Azure OpenAI, zobacz Interfejs API asystentów usługi Azure OpenAI.

Uwaga

Odwołania i przykłady są udostępniane tylko dla modelu Node.js w wersji 4.

Uwaga

Odwołania i przykłady są udostępniane tylko dla modelu języka Python w wersji 2.

Uwaga

Chociaż oba modele procesów języka C# są obsługiwane, udostępniane są tylko izolowane przykłady modeli procesów roboczych.

Przykład

Wsparcie Go nie jest obecnie dostępne dla tego przypisania.

W tym przykładzie pokazano proces tworzenia, w którym funkcja HTTP GET, która wysyła zapytania do historii konwersacji asystenta czatbota. Odpowiedź na monit jest zwracana w odpowiedzi HTTP.

/// <summary>
/// HTTP GET function that queries the conversation history of the assistant chat bot.
/// </summary>
[Function(nameof(GetChatState))]
public static IActionResult GetChatState(
   [HttpTrigger(AuthorizationLevel.Function, "get", Route = "assistants/{assistantId}")] HttpRequestData req,
   string assistantId,
   [AssistantQueryInput("{assistantId}", TimestampUtc = "{Query.timestampUTC}", ChatStorageConnectionSetting = DefaultChatStorageConnectionSetting, CollectionName = DefaultCollectionName)] AssistantState state)
{
    return new OkObjectResult(state);
}

W tym przykładzie pokazano proces tworzenia, w którym funkcja HTTP GET, która wysyła zapytania do historii konwersacji asystenta czatbota. Odpowiedź na monit jest zwracana w odpowiedzi HTTP.

/*
 * HTTP GET function that queries the conversation history of the assistant chat bot.
 */   
@FunctionName("GetChatState")
public HttpResponseMessage getChatState(
    @HttpTrigger(
        name = "req",
        methods = {HttpMethod.GET}, 
        authLevel = AuthorizationLevel.FUNCTION,
        route = "assistants/{assistantId}") 
        HttpRequestMessage<Optional<String>> request,
    @BindingName("assistantId") String assistantId,        
    @AssistantQuery(name = "AssistantState", id = "{assistantId}", timestampUtc = "{Query.timestampUTC}", chatStorageConnectionSetting = DEFAULT_CHATSTORAGE, collectionName = DEFAULT_COLLECTION) AssistantState state,
    final ExecutionContext context) {
        return request.createResponseBuilder(HttpStatus.OK)
            .header("Content-Type", "application/json")
            .body(state)
            .build();
}

W tym przykładzie pokazano proces tworzenia, w którym funkcja HTTP GET, która wysyła zapytania do historii konwersacji asystenta czatbota. Odpowiedź na monit jest zwracana w odpowiedzi HTTP.

const { app, input, output } = require("@azure/functions");

const chatBotQueryInput = input.generic({
    type: 'assistantQuery',
    id: '{assistantId}',
    timestampUtc: '{Query.timestampUTC}',
    chatStorageConnectionSetting: CHAT_STORAGE_CONNECTION_SETTING,
    collectionName: COLLECTION_NAME
})
app.http('GetChatState', {
    methods: ['GET'],
    route: 'assistants/{assistantId}',
    authLevel: 'function',
    extraInputs: [chatBotQueryInput],
    handler: async (_, context) => {
        const state = context.extraInputs.get(chatBotQueryInput)
        return { status: 200, jsonBody: state }
    }
})

W tym przykładzie pokazano proces tworzenia, w którym funkcja HTTP GET, która wysyła zapytania do historii konwersacji asystenta czatbota. Odpowiedź na monit jest zwracana w odpowiedzi HTTP.

import { HttpRequest, InvocationContext, app, input, output } from "@azure/functions"

const chatBotQueryInput = input.generic({
    type: 'assistantQuery',
    id: '{assistantId}',
    timestampUtc: '{Query.timestampUTC}',
    chatStorageConnectionSetting: CHAT_STORAGE_CONNECTION_SETTING,
    collectionName: COLLECTION_NAME
})
app.http('GetChatState', {
    methods: ['GET'],
    route: 'assistants/{assistantId}',
    authLevel: 'function',
    extraInputs: [chatBotQueryInput],
    handler: async (_, context) => {
        const state: any = context.extraInputs.get(chatBotQueryInput)
        return { status: 200, jsonBody: state }
    }
})

W tym przykładzie pokazano proces tworzenia, w którym funkcja HTTP GET, która wysyła zapytania do historii konwersacji asystenta czatbota. Odpowiedź na monit jest zwracana w odpowiedzi HTTP.

Oto plik function.json get chat state:

{
  "bindings": [
    {
      "authLevel": "function",
      "type": "httpTrigger",
      "direction": "in",
      "name": "Request",
      "route": "assistants/{assistantId}",
      "methods": [
        "get"
      ]
    },
    {
      "type": "http",
      "direction": "out",
      "name": "Response"
    },
    {
      "name": "State",
      "type": "assistantQuery",
      "direction": "in",
      "dataType": "string",
      "id": "{assistantId}",
      "timestampUtc": "{Query.timestampUTC}",
      "chatStorageConnectionSetting": "AzureWebJobsStorage",
      "collectionName": "ChatState"
    }
  ]
}

Aby uzyskać więcej informacji na temat function.json właściwości pliku, zobacz sekcję Konfiguracja.

using namespace System.Net

param($Request, $TriggerMetadata, $State)

Push-OutputBinding -Name Response -Value ([HttpResponseContext]@{
    StatusCode = [HttpStatusCode]::OK
    Body       = $State
    Headers    = @{
        "Content-Type" = "application/json"
    }
})

W tym przykładzie pokazano proces tworzenia, w którym funkcja HTTP GET, która wysyła zapytania do historii konwersacji asystenta czatbota. Odpowiedź na monit jest zwracana w odpowiedzi HTTP.

@apis.function_name("GetChatState")
@apis.route(route="assistants/{assistantId}", methods=["GET"])
@apis.assistant_query_input(
    arg_name="state",
    id="{assistantId}",
    timestamp_utc="{Query.timestampUTC}",
    chat_storage_connection_setting=DEFAULT_CHAT_STORAGE_SETTING,
    collection_name=DEFAULT_CHAT_COLLECTION_NAME,
)
def get_chat_state(req: func.HttpRequest, state: str) -> func.HttpResponse:
    return func.HttpResponse(state, status_code=200, mimetype="application/json")

Atrybuty

Zastosuj atrybut, AssistantQuery aby zdefiniować powiązanie wejściowe zapytania asystenta, które obsługuje następujące parametry:

Parametr Opis
Id Pobiera identyfikator asystenta do wykonywania zapytań.
Znacznik czasu Utc Opcjonalne. Pobiera lub ustawia znacznik czasu najwcześniejszej wiadomości w historii czatu, aby pobrać. Znacznik czasu powinien mieć format ISO 8601 — na przykład 2023-08-01T00:00:00Z.

Adnotacje

Adnotacja assistantQuery umożliwia zdefiniowanie asystenta powiązania wejściowego zapytania, które obsługuje następujące parametry:

Składnik Opis
nazwa Pobiera lub ustawia nazwę powiązania wejściowego.
id Pobiera identyfikator asystenta do wykonywania zapytań.
znacznik czasu Utc Opcjonalne. Pobiera lub ustawia znacznik czasu najwcześniejszej wiadomości w historii czatu, aby pobrać. Znacznik czasu powinien mieć format ISO 8601 — na przykład 2023-08-01T00:00:00Z.

Dekoratory

W wersji zapoznawczej zdefiniuj powiązanie wejściowe jako generic_input_binding powiązanie typu assistantQuery, które obsługuje następujące parametry:

Parametr Opis
arg_name Nazwa zmiennej reprezentującej parametr powiązania.
id Pobiera identyfikator asystenta do wykonywania zapytań.
time_stamp_utc Opcjonalne. Pobiera lub ustawia znacznik czasu najwcześniejszej wiadomości w historii czatu, aby pobrać. Znacznik czasu powinien mieć format ISO 8601 — na przykład 2023-08-01T00:00:00Z.

Konfigurowanie

Powiązanie obsługuje te właściwości konfiguracji ustawione w pliku function.json.

Właściwości Opis
typ Musi mieć wartość assistantQuery.
kierunek Musi mieć wartość in.
nazwa Nazwa powiązania wejściowego.
id Pobiera identyfikator asystenta do wykonywania zapytań.
znacznik czasu Utc Opcjonalne. Pobiera lub ustawia znacznik czasu najwcześniejszej wiadomości w historii czatu, aby pobrać. Znacznik czasu powinien mieć format ISO 8601 — na przykład 2023-08-01T00:00:00Z.

Konfigurowanie

Powiązanie obsługuje te właściwości zdefiniowane w kodzie:

Właściwości Opis
id Pobiera identyfikator asystenta do wykonywania zapytań.
znacznik czasu Utc Opcjonalne. Pobiera lub ustawia znacznik czasu najwcześniejszej wiadomości w historii czatu, aby pobrać. Znacznik czasu powinien mieć format ISO 8601 — na przykład 2023-08-01T00:00:00Z.

Użycie

Zobacz sekcję Przykład, aby zapoznać się z kompletnymi przykładami.

Connections

Aby korzystać z rozszerzenia Azure OpenAI, musisz określić połączenie z definicją modelu OpenAI. Ustaw połączenie modelu OpenAI w swoich bindingach, stosując jedno z następujących podejść:

  • Użyj właściwości wiązania AIConnectionName (preferowanej dla Azure OpenAI).
  • Ustaw AZURE_OPENAI_ENDPOINT i AZURE_OPENAI_KEY w ustawieniach aplikacji (dla Azure OpenAI).
  • Ustaw tylko Open_API_Key w ustawieniach aplikacji (dla https://api.openai.com).

Sposób, w jaki ustawiasz połączenie, zależy zarówno od API modelu, jak i metody uwierzytelniania, jak pokazano w poniższej tabeli:

API uwierzytelniania/modelu Azure OpenAI OpenAI (https://api.openai.com)
Połączenie zarządzanej tożsamości AIConnectionName Niewspierane
Odniesienie do Key Vault AZURE_OPENAI_ENDPOINT
AZURE_OPENAI_KEY
Open_API_Key
Referencja konfiguracji aplikacji AZURE_OPENAI_ENDPOINT
AZURE_OPENAI_KEY
Open_API_Key
Wspólny klucz tajny AZURE_OPENAI_ENDPOINT
AZURE_OPENAI_KEY
Open_API_Key

Użyj połączeń opartych na zarządzanej tożsamości oraz właściwości AIConnectionName .

Gdy używamy AIConnectionName, wartość tego ustawienia właściwości zależy od typu połączenia:

  • Połączenie zarządzanej tożsamości: Własność AIConnectionName jest współdzielona <CONNECTION_NAME_PREFIX> przez grupę ustawień, które razem definiują połączenie oparte na tożsamości z Azure OpenAI. Więcej informacji można znaleźć w artykule Definiuj powiązania tożsamości.
  • Key Vault referencja: Ustawienie AIConnectionName właściwości zwraca referencję Azure Key Vault do miejsca, w którym klucz API jest centralnie przechowywany. Więcej informacji można znaleźć w artykule Definiuj połączenia Key Vault.
  • Referencja konfiguracji aplikacji: Ustawienie AIConnectionName właściwości zwraca referencję Azure App Configuration, która zwraca klucz API lub referencję do Key Vault. Więcej informacji można znaleźć w artykule o połączeniach w sekcji Azure App Configuration.
  • Klucz API: Ustawienie AIConnectionName właściwości rozwiązuje się bezpośrednio do ustawień aplikacji zawierających punkt końcowy i klucz. Ponieważ klucze współdzielone mogą zostać zagrożone, stosuj połączenia zarządzane tożsamości, gdy to możliwe. Więcej informacji można znaleźć w artykule Definiuj połączenia.

Aby dowiedzieć się więcej o powiązaniach wiązanych, zobacz Zarządzanie połączeniami w Azure Functions.

Powiązania OpenAI zawierają właściwośćAIConnectionName, którą możesz użyć do określenia <ConnectionNamePrefix> grupy ustawień aplikacji definiujących połączenie z Azure OpenAI:

Nazwa ustawień Opis
<CONNECTION_NAME_PREFIX>__endpoint Sets endpoint URI usługi Azure OpenAI. To ustawienie jest zawsze wymagane.
<CONNECTION_NAME_PREFIX>__clientId Ustawia określoną tożsamość przypisaną przez użytkownika do użycia podczas uzyskiwania tokenu dostępu. Wymaga, aby <CONNECTION_NAME_PREFIX>__credential było ustawione na managedidentity. Właściwość akceptuje identyfikator klienta odpowiadający tożsamości przypisanej przez użytkownika do aplikacji. Jest to nieprawidłowe określenie zarówno identyfikatora zasobu, jak i identyfikatora klienta. Jeśli nie określisz tej właściwości, używana jest tożsamość przypisana przez system. Ta właściwość jest używana inaczej w lokalnych scenariuszach programowania, gdy credential nie należy ich ustawiać.
<CONNECTION_NAME_PREFIX>__credential Definiuje sposób uzyskiwania tokenu access dla połączenia. Służy managedidentity do uwierzytelniania tożsamości zarządzanej. Ta wartość jest prawidłowa tylko wtedy, gdy tożsamość zarządzana jest dostępna w środowisku hostingu.
<CONNECTION_NAME_PREFIX>__managedIdentityResourceId Gdy credential jest ustawione na managedidentity, ustaw tę właściwość, aby określić identyfikator zasobu, którego ma się użyć przy uzyskaniu tokena. Właściwość akceptuje identyfikator zasobu odpowiadający identyfikatorowi zasobu tożsamości zarządzanej zdefiniowanej przez użytkownika. Nie można określić zarówno identyfikatora zasobu, jak i identyfikatora klienta. Jeśli nie określisz żadnej z tych funkcji, używa się tożsamości przypisanej przez system. Ta właściwość jest używana inaczej w lokalnych scenariuszach programowania, gdy credential nie należy ich ustawiać.
<CONNECTION_NAME_PREFIX>__key Ustawia wspólny tajny klucz potrzebny do dostępu do punktu końcowego usługi Azure OpenAI, korzystając z uwierzytelniania opartego na kluczu. Jako najlepszą praktykę bezpieczeństwa zawsze używaj Microsoft Entra ID z zarządzanymi tożsamościami do uwierzytelniania.

Rozważ te ustawienia zarządzania połączeniem tożsamości, gdy ustawiasz AIConnectionName własność na:myAzureOpenAI

  • myAzureOpenAI__endpoint=https://contoso.openai.azure.com/
  • myAzureOpenAI__credential=managedidentity
  • myAzureOpenAI__clientId=aaaaaaaa-bbbb-cccc-1111-222222222222

W czasie działania host interpretuje te ustawienia jako jedno myAzureOpenAI ustawienie:

"myAzureOpenAI":
{
    "endpoint": "https://contoso.openai.azure.com/",
    "credential": "managedidentity",
    "clientId": "aaaaaaaa-bbbb-cccc-1111-222222222222"
}

Korzystając z zarządzanych tożsamości, upewnij się, że dodajesz swoją tożsamość do roli użytkownika OpenAI w Usługach Kognitywnych .

Podczas uruchamiania lokalnie dodaj te ustawienia do pliku projektu local.settings.json . Aby uzyskać więcej informacji, zobacz Programowanie lokalne przy użyciu połączeń opartych na tożsamościach.

Aby uzyskać więcej informacji, zobacz Praca z ustawieniami aplikacji.