Azure OpenAI-assistent maakt uitvoerbinding voor Azure Functions

Belangrijk

De Azure OpenAI-extensie voor Azure Functions is momenteel in preview.

Met de Azure OpenAI-assistent maakt u een uitvoerbinding waarmee u een nieuwe assistent-chatbot kunt maken op basis van de uitvoering van uw functiecode.

Zie Azure OpenAI-extensies voor Azure Functions voor informatie over de installatie en configuratie van de Azure OpenAI-extensie. Zie de Api voor Azure OpenAI-assistenten voor meer informatie over Azure OpenAI-assistenten.

Notitie

Verwijzingen en voorbeelden worden alleen verstrekt voor het Node.js v4-model.

Notitie

Verwijzingen en voorbeelden worden alleen verstrekt voor het Python v2-model.

Notitie

Hoewel beide C#-procesmodellen worden ondersteund, worden alleen geïsoleerde werkrolmodelvoorbeelden gegeven.

Opmerking

Go-ondersteuning is momenteel niet beschikbaar voor deze binding.

In dit voorbeeld wordt het aanmaakproces gedemonstreerd, waarbij de HTTP PUT-functie waarmee een nieuwe assistent-chatbot met de opgegeven id wordt gemaakt. Het antwoord op de prompt wordt geretourneerd in het HTTP-antwoord.

/// <summary>
/// HTTP PUT function that creates a new assistant chat bot with the specified ID.
/// </summary>
[Function(nameof(CreateAssistant))]
public static async Task<CreateChatBotOutput> CreateAssistant(
    [HttpTrigger(AuthorizationLevel.Function, "put", Route = "assistants/{assistantId}")] HttpRequestData req,
    string assistantId)
{
    string instructions =
       """
        Don't make assumptions about what values to plug into functions.
        Ask for clarification if a user request is ambiguous.
        """;

    using StreamReader reader = new(req.Body);

    string request = await reader.ReadToEndAsync();


    return new CreateChatBotOutput
    {
        HttpResponse = new ObjectResult(new { assistantId }) { StatusCode = 201 },
        ChatBotCreateRequest = new AssistantCreateRequest(assistantId, instructions)
        {
            ChatStorageConnectionSetting = DefaultChatStorageConnectionSetting,
            CollectionName = DefaultCollectionName,
        },
    };
}

public class CreateChatBotOutput
{
    [AssistantCreateOutput()]
    public AssistantCreateRequest? ChatBotCreateRequest { get; set; }

    [HttpResult]
    public IActionResult? HttpResponse { get; set; }
}

In dit voorbeeld wordt het aanmaakproces gedemonstreerd, waarbij de HTTP PUT-functie waarmee een nieuwe assistent-chatbot met de opgegeven id wordt gemaakt. Het antwoord op de prompt wordt geretourneerd in het HTTP-antwoord.

/**
 * The default storage account setting for the table storage account.
 * This constant is used to specify the connection string for the table storage
 * account
 * where chat data will be stored.
 */
final String DEFAULT_CHATSTORAGE = "AzureWebJobsStorage";

/**
 * The default collection name for the table storage account.
 * This constant is used to specify the collection name for the table storage
 * account
 * where chat data will be stored.
 */
final String DEFAULT_COLLECTION = "ChatState";

/*
 * HTTP PUT function that creates a new assistant chat bot with the specified ID.
 */
@FunctionName("CreateAssistant")
public HttpResponseMessage createAssistant(
    @HttpTrigger(
        name = "req", 
        methods = {HttpMethod.PUT}, 
        authLevel = AuthorizationLevel.FUNCTION, 
        route = "assistants/{assistantId}") 
        HttpRequestMessage<Optional<String>> request,
    @BindingName("assistantId") String assistantId,
    @AssistantCreate(name = "AssistantCreate") OutputBinding<AssistantCreateRequest> message,
    final ExecutionContext context) {
        context.getLogger().info("Java HTTP trigger processed a request.");
        
        String instructions = "Don't make assumptions about what values to plug into functions.\n" +
                "Ask for clarification if a user request is ambiguous.";

        AssistantCreateRequest assistantCreateRequest = new AssistantCreateRequest(assistantId, instructions);
        assistantCreateRequest.setChatStorageConnectionSetting(DEFAULT_CHATSTORAGE);
        assistantCreateRequest.setCollectionName(DEFAULT_COLLECTION);

        message.setValue(assistantCreateRequest);
        JSONObject response = new JSONObject();
        response.put("assistantId", assistantId);
        
        return request.createResponseBuilder(HttpStatus.CREATED)
            .header("Content-Type", "application/json")
            .body(response.toString())
            .build();    
}

In dit voorbeeld wordt het aanmaakproces gedemonstreerd, waarbij de HTTP PUT-functie waarmee een nieuwe assistent-chatbot met de opgegeven id wordt gemaakt. Het antwoord op de prompt wordt geretourneerd in het HTTP-antwoord.

const { app, input, output } = require("@azure/functions");

const CHAT_STORAGE_CONNECTION_SETTING = "AzureWebJobsStorage";
const COLLECTION_NAME = "ChatState";

const chatBotCreateOutput = output.generic({
    type: 'assistantCreate'
})
app.http('CreateAssistant', {
    methods: ['PUT'],
    route: 'assistants/{assistantId}',
    authLevel: 'function',
    extraOutputs: [chatBotCreateOutput],
    handler: async (request, context) => {
        const assistantId = request.params.assistantId
        const instructions =
            `
            Don't make assumptions about what values to plug into functions.
            Ask for clarification if a user request is ambiguous.
            `
        const createRequest = {
            id: assistantId,
            instructions: instructions,
            chatStorageConnectionSetting: CHAT_STORAGE_CONNECTION_SETTING,
            collectionName: COLLECTION_NAME
        }
        context.extraOutputs.set(chatBotCreateOutput, createRequest)
        return { status: 202, jsonBody: { assistantId: assistantId } }
    }
})
import { HttpRequest, InvocationContext, app, input, output } from "@azure/functions"

const CHAT_STORAGE_CONNECTION_SETTING = "AzureWebJobsStorage";
const COLLECTION_NAME = "ChatState";

const chatBotCreateOutput = output.generic({
    type: 'assistantCreate'
})
app.http('CreateAssistant', {
    methods: ['PUT'],
    route: 'assistants/{assistantId}',
    authLevel: 'function',
    extraOutputs: [chatBotCreateOutput],
    handler: async (request: HttpRequest, context: InvocationContext) => {
        const assistantId = request.params.assistantId
        const instructions =
            `
            Don't make assumptions about what values to plug into functions.
            Ask for clarification if a user request is ambiguous.
            `
        const createRequest = {
            id: assistantId,
            instructions: instructions,
            chatStorageConnectionSetting: CHAT_STORAGE_CONNECTION_SETTING,
            collectionName: COLLECTION_NAME
        }
        context.extraOutputs.set(chatBotCreateOutput, createRequest)
        return { status: 202, jsonBody: { assistantId: assistantId } }
    }
})

In dit voorbeeld wordt het aanmaakproces gedemonstreerd, waarbij de HTTP PUT-functie waarmee een nieuwe assistent-chatbot met de opgegeven id wordt gemaakt. Het antwoord op de prompt wordt geretourneerd in het HTTP-antwoord.

Dit is het function.json-bestand voor Assistent maken:

{
  "bindings": [
    {
      "authLevel": "function",
      "type": "httpTrigger",
      "direction": "in",
      "name": "Request",
      "route": "assistants/{assistantId}",
      "methods": [
        "put"
      ]
    },
    {
      "type": "http",
      "direction": "out",
      "name": "Response"
    },
    {
      "type": "assistantCreate",
      "direction": "out",
      "dataType": "string",
      "name": "Requests"
    }
  ]
}

Zie de sectie Configuratie voor meer informatie over function.json bestandseigenschappen.

{{Dit komt uit de opmerking van de voorbeeldcode}}

using namespace System.Net

param($Request, $TriggerMetadata)

$assistantId = $Request.params.assistantId

$instructions = "Don't make assumptions about what values to plug into functions."
$instructions += "\nAsk for clarification if a user request is ambiguous."

$create_request = @{
    "id" = $assistantId
    "instructions" = $instructions
    "chatStorageConnectionSetting" = "AzureWebJobsStorage"
    "collectionName" = "ChatState"
}

Push-OutputBinding -Name Requests -Value (ConvertTo-Json $create_request)

Push-OutputBinding -Name Response -Value ([HttpResponseContext]@{
    StatusCode = [HttpStatusCode]::Accepted
    Body       = (ConvertTo-Json @{ "assistantId" = $assistantId})
    Headers    = @{
        "Content-Type" = "application/json"
    }
})

In dit voorbeeld wordt het aanmaakproces gedemonstreerd, waarbij de HTTP PUT-functie waarmee een nieuwe assistent-chatbot met de opgegeven id wordt gemaakt. Het antwoord op de prompt wordt geretourneerd in het HTTP-antwoord.

DEFAULT_CHAT_STORAGE_SETTING = "AzureWebJobsStorage"
DEFAULT_CHAT_COLLECTION_NAME = "ChatState"


@apis.function_name("CreateAssistant")
@apis.route(route="assistants/{assistantId}", methods=["PUT"])
@apis.assistant_create_output(arg_name="requests")
def create_assistant(
    req: func.HttpRequest, requests: func.Out[str]
) -> func.HttpResponse:
    assistantId = req.route_params.get("assistantId")
    instructions = """
            Don't make assumptions about what values to plug into functions.
            Ask for clarification if a user request is ambiguous.
            """
    create_request = {
        "id": assistantId,
        "instructions": instructions,
        "chatStorageConnectionSetting": DEFAULT_CHAT_STORAGE_SETTING,
        "collectionName": DEFAULT_CHAT_COLLECTION_NAME,
    }
    requests.set(json.dumps(create_request))
    response_json = {"assistantId": assistantId}
    return func.HttpResponse(
        json.dumps(response_json), status_code=202, mimetype="application/json"
    )

Kenmerken

Pas het CreateAssistant kenmerk toe om een assistent uitvoerbinding te definiëren, die ondersteuning biedt voor deze parameters:

Kenmerk Beschrijving
Legitimatiebewijs De id van de assistent die moet worden gemaakt.
Instructies Optioneel. De instructies die aan de assistent worden verstrekt om te volgen.
ChatStorageConnectionSetting Optioneel. De naam van de configuratiesectie voor de tabelinstellingen voor chatopslag. De standaardwaarde is AzureWebJobsStorage.
CollectionName Optioneel. De naam van de tabelverzameling voor chatopslag. De standaardwaarde is ChatState.

Aantekeningen

Met de CreateAssistant aantekening kunt u een assistent voor het maken van uitvoerbinding definiëren, die ondersteuning biedt voor deze parameters:

Onderdeel Beschrijving
naam Hiermee haalt u de naam van de uitvoerbinding op of stelt u deze in.
ID De id van de assistent die moet worden gemaakt.
Instructies Optioneel. De instructies die aan de assistent worden verstrekt om te volgen.
chatStorageConnectionSetting Optioneel. De naam van de configuratiesectie voor de tabelinstellingen voor chatopslag. De standaardwaarde is AzureWebJobsStorage.
collectionName Optioneel. De naam van de tabelverzameling voor chatopslag. De standaardwaarde is ChatState.

Decorateurs

Definieer tijdens de preview de uitvoerbinding als een generic_output_binding binding van het type createAssistant, die ondersteuning biedt voor deze parameters:

Kenmerk Beschrijving
arg_name De naam van de variabele die de bindingsparameter vertegenwoordigt.
ID De id van de assistent die moet worden gemaakt.
Instructies Optioneel. De instructies die aan de assistent worden verstrekt om te volgen.
chat_storage_connection_setting Optioneel. De naam van de configuratiesectie voor de tabelinstellingen voor chatopslag. De standaardwaarde is AzureWebJobsStorage.
collection_name Optioneel. De naam van de tabelverzameling voor chatopslag. De standaardwaarde is ChatState.

Configuratie

De binding ondersteunt deze configuratie-eigenschappen die u in het function.json-bestand hebt ingesteld.

Eigenschappen Beschrijving
soort Moet CreateAssistant zijn.
richting Moet out zijn.
naam De naam van de uitvoerbinding.
ID De id van de assistent die moet worden gemaakt.
Instructies Optioneel. De instructies die aan de assistent worden verstrekt om te volgen.
chatStorageConnectionSetting Optioneel. De naam van de configuratiesectie voor de tabelinstellingen voor chatopslag. De standaardwaarde is AzureWebJobsStorage.
collectionName Optioneel. De naam van de tabelverzameling voor chatopslag. De standaardwaarde is ChatState.

Configuratie

De binding ondersteunt deze eigenschappen, die zijn gedefinieerd in uw code:

Eigenschappen Beschrijving
ID De id van de assistent die moet worden gemaakt.
Instructies Optioneel. De instructies die aan de assistent worden verstrekt om te volgen.
chatStorageConnectionSetting Optioneel. De naam van de configuratiesectie voor de tabelinstellingen voor chatopslag. De standaardwaarde is AzureWebJobsStorage.
collectionName Optioneel. De naam van de tabelverzameling voor chatopslag. De standaardwaarde is ChatState.

Gebruik

Zie de sectie Voorbeeld voor volledige voorbeelden.

Connections

Om de Azure OpenAI-bindingsextensie te gebruiken, moet je een verbinding specificeren met een OpenAI-modeldefinitie. Stel de OpenAI-modelverbinding in je bindings in met een van deze benaderingen:

  • Gebruik de AIConnectionName binding-eigenschap (voorkeur voor Azure OpenAI).
  • Instellen AZURE_OPENAI_ENDPOINT en AZURE_OPENAI_KEY in de app-instellingen (voor Azure OpenAI).
  • Stel alleen Open_API_Key in de app-instellingen in (voor https://api.openai.com).

De manier waarop je de verbinding instelt hangt af van zowel de model-API als de authenticatiemethode, zoals aangegeven in de volgende tabel:

Authenticatie/Model API Azure OpenAI OpenAI (https://api.openai.com)
Beheerde identiteitsverbinding AIConnectionName Niet ondersteund
Key Vault-referentie AZURE_OPENAI_ENDPOINT
AZURE_OPENAI_KEY
Open_API_Key
App-configuratiereferentie AZURE_OPENAI_ENDPOINT
AZURE_OPENAI_KEY
Open_API_Key
Gedeeld geheim AZURE_OPENAI_ENDPOINT
AZURE_OPENAI_KEY
Open_API_Key

Gebruik beheerde identiteitsgebaseerde verbindingen en het eigendom AIConnectionName .

Wanneer je gebruikt AIConnectionName, hangt de waarde van deze eigenschapsinstelling af van het type verbinding:

  • Managed identity-verbinding: De AIConnectionName eigenschap wordt <CONNECTION_NAME_PREFIX> gedeeld door een groep instellingen die samen een identiteitsgebaseerde verbinding met Azure OpenAI definiëren. Voor meer informatie, zie Definieer identiteitsverbindingen.
  • Key Vault-referentie: De AIConnectionName property-instelling geeft een Azure Key Vault-referentie terug naar de locatie waar de API-sleutel centraal wordt onderhouden. Voor meer informatie, zie Define Key Vault-verbindingen.
  • App Configuration reference: De AIConnectionName property-instelling geeft een Azure App Configuration-referentie terug die een API-sleutel of een Key Vault-referentie teruggeeft. Voor meer informatie, zie Azure App Configuration in het artikel over verbindingen.
  • API-sleutel: De AIConnectionName property-instelling wordt direct omgezet naar app-instellingen die het eindpunt en de sleutel bevatten. Omdat gedeelde sleutels gecompromitteerd kunnen worden, gebruik waar mogelijk beheerde identiteitsverbindingen. Voor meer informatie, zie Verbindingen definiëren.

Voor meer informatie over bindingsverbindingen, zie Verbindingen beheren in Azure Functions.

De OpenAI-bindings bevatten een AIConnectionName eigenschap die je kunt gebruiken om de <ConnectionNamePrefix> voor de groep app-instellingen te specificeren die de verbinding met Azure OpenAI definiëren:

Instellingsnaam Beschrijving
<CONNECTION_NAME_PREFIX>__endpoint Zet het URI-eindpunt van de Azure OpenAI-service. Deze instelling is altijd vereist.
<CONNECTION_NAME_PREFIX>__clientId Hiermee stelt u de specifieke door de gebruiker toegewezen identiteit in die moet worden gebruikt bij het verkrijgen van een toegangstoken. Vereist dat deze <CONNECTION_NAME_PREFIX>__credential is ingesteld op managedidentity. De eigenschap accepteert een client-id die overeenkomt met een door de gebruiker toegewezen identiteit die aan de toepassing is toegewezen. Het is ongeldig om zowel een resource-id als een client-id op te geven. Als je deze eigenschap niet specificeert, wordt de systeem-toegewezen identiteit gebruikt. Deze eigenschap wordt anders gebruikt in lokale ontwikkelscenario's, wanneer credential deze niet moeten worden ingesteld.
<CONNECTION_NAME_PREFIX>__credential Hiermee definieert u hoe een access token wordt verkregen voor de verbinding. Gebruiken managedidentity voor verificatie van beheerde identiteiten. Deze waarde is alleen geldig wanneer een beheerde identiteit beschikbaar is in de hostingomgeving.
<CONNECTION_NAME_PREFIX>__managedIdentityResourceId Wanneer credential is gezet op managedidentity, stel deze eigenschap in om de resource Identifier te specificeren die gebruikt moet worden bij het verkrijgen van een token. De eigenschap accepteert een resource-id die overeenkomt met de resource-id van de door de gebruiker gedefinieerde beheerde identiteit. Het is ongeldig om zowel een resource-id als een client-id op te geven. Als je geen van beide specificeert, wordt de door het systeem toegewezen identiteit gebruikt. Deze eigenschap wordt anders gebruikt in lokale ontwikkelscenario's, wanneer credential deze niet moeten worden ingesteld.
<CONNECTION_NAME_PREFIX>__key Stelt de gedeelde geheime sleutel in die nodig is om toegang te krijgen tot het eindpunt van de Azure OpenAI-dienst door gebruik te maken van sleutelgebaseerde authenticatie. Als beveiligingsbest practice gebruik je altijd Microsoft Entra ID met beheerde identiteiten voor authenticatie.

Overweeg deze managed identity-verbindingsinstellingen wanneer je de AIConnectionName eigenschap instelt op myAzureOpenAI:

  • myAzureOpenAI__endpoint=https://contoso.openai.azure.com/
  • myAzureOpenAI__credential=managedidentity
  • myAzureOpenAI__clientId=aaaaaaaa-bbbb-cccc-1111-222222222222

Tijdens runtime interpreteert de host deze instellingen als één enkele myAzureOpenAI instelling:

"myAzureOpenAI":
{
    "endpoint": "https://contoso.openai.azure.com/",
    "credential": "managedidentity",
    "clientId": "aaaaaaaa-bbbb-cccc-1111-222222222222"
}

Wanneer je managed identitys gebruikt, voeg je dan je identiteit toe aan de Cognitive Services OpenAI User rol.

Voeg deze instellingen bij lokaal uitvoeren toe aan het local.settings.json projectbestand. Zie Lokale ontwikkeling met op identiteit gebaseerde verbindingen voor meer informatie.

Zie Werken met toepassingsinstellingen voor meer informatie.