Co to są narzędzia?

Microsoft Foundry Models zawiera modele, które mogą używać narzędzi do znajdowania informacji lub wykonywania zadań. Można korzystać z obsługi narzędzi w modelach, określając, które narzędzia model ma używać w promptach przesyłanych za pomocą OpenAI odpowiedzi API.

Podczas tworzenia aplikacji generującej sztuczną inteligencję przy użyciu narzędzia Microsoft Foundry można wyszukać modele Foundry z funkcjami wywoływania narzędzi i wdrożyć je. Następnie można opracowywać aplikacje klienckie, które używają interfejsu API odpowiedzi openAI do przesyłania monitów do wdrożonego modelu, określając narzędzia, których może używać model.

Niektóre z najczęściej używanych narzędzi dostępnych w interfejsie API odpowiedzi obejmują:

• code_interpreter: środowisko języka Python, w którym model może generować i uruchamiać kod.
• web_search: narzędzie, które umożliwia modelowi znajdowanie ogólnych informacji w Internecie, co pozwala na oparcie odpowiedzi na bardziej aktualne dane niż zostało wytrenowane.
• file_search: narzędzie, które umożliwia modelowi przeszukiwanie określonych plików przekazywanych do dedykowanego indeksu wyszukiwania wektorów — dzięki czemu może ona uziemić odpowiedzi w określonej wiedzy.
• function: Narzędzie, które umożliwia modelowi wywoływanie funkcji niestandardowych w kodzie aplikacji.

W tym module zapoznamy się z tymi narzędziami.

Określanie narzędzi w Interfejsie API Odpowiedzi

Podczas generowania odpowiedzi z modelu można w wywołaniu metody responses.create() określić jedno lub więcej narzędzi. Poniższy przykład pseudokodu języka Python wskazuje, gdzie określono listę wywoływanych narzędzi:

from openai import OpenAI

client = OpenAI(
    base_url={openai_endpoint},
    api_key={auth_key_or_token}
)

response = client.responses.create(
    model={model_deployment},
    instructions="You are a helpful AI assistant.",
    input="Find me some information about vintage computers.",
    # Specify available tools as a JSON list
    tools=[
        { 
            # A tool definition
            "type": "{tool_type}",
            "{tool-specific-setting}": "{value}",
                ...
        },
        { 
            # Another tool definition
            "type": "{another_tool_type}",
            "{tool-specific-setting}": "{value}",
                ...
        }
    ]
)
print(response.output_text)