Bereitstellen auf einem Microsoft Foundry- oder Azure Machine Learning Studio-Onlineendpunkt

Die Azure Developer CLI (azd) ermöglicht ihnen die Bereitstellung in einem Azure Machine Learning Studio oder Microsoft Foundry Onlineendpunkt. azd unterstützt die folgenden Features, die in den folgenden Abschnitten beschrieben werden:

Voraussetzungen

Um mit Microsoft Foundry- oder Azure Machine Learning Studio Onlineendpunkten zu arbeiten, benötigen Sie Folgendes:

Die Vorlage Foundry Starter kann beim Erstellen aller erforderlichen Infrastruktur für die ersten Schritte mit Foundry-Endpunkten helfen.

Konfigurieren des Onlineendpunkts

Konfigurieren der Unterstützung für Onlineendpunkte im services Abschnitt der azure.yaml Datei:

  • Legen Sie den host Wert auf ai.endpoint.
  • Der config Abschnitt für ai.endpoint unterstützt die folgenden Konfigurationen:
    • workspace: Der Name des Microsoft Foundry-Arbeitsbereichs. Unterstützt azd Umgebungsvariablen-Ersetzungen und -Syntax.
      • Wenn nicht angegeben, azd wird nach einer Umgebungsvariable mit dem Namen AZUREAI_PROJECT_NAMEgesucht.
    • Umgebung: Optionale benutzerdefinierte Konfiguration für ML-Umgebungen. azd erstellt eine neue Umgebungsversion aus der referenzierten YAML-Dateidefinition.
    • Flow: Optionale benutzerdefinierte Konfiguration für Flüsse. azd erstellt einen neuen Eingabeaufforderungsfluss aus dem angegebenen Dateipfad.
    • Modell: Optionale benutzerdefinierte Konfiguration für ML-Modelle. azd erstellt eine neue Modellversion aus der referenzierten YAML-Dateidefinition.
    • Bereitstellung: Erforderliche Konfiguration für Onlineendpunktbereitstellungen. azd erstellt eine neue Online-Bereitstellung für den zugehörigen Online-Endpunkt aus der referenzierten YAML-Datei-Definition.

Betrachten Sie die folgende Beispieldatei azure.yaml , die diese Features konfiguriert:

name: contoso-chat
metadata:
  template: contoso-chat@0.0.1-beta
services:
  chat:
    # Referenced new ai.endpoint host type
    host: ai.endpoint
    # New config flow for AI project configuration
    config:
      # The name of the Foundry workspace
      workspace: ${AZUREAI_PROJECT_NAME}
      # Optional: Path to custom ML environment manifest
      environment:
        path: deployment/docker/environment.yml
      # Optional: Path to your prompt flow folder that contains the flow manifest
      flow:
        path: ./contoso-chat
      # Optional: Path to custom model manifest
      model:
        path: deployment/chat-model.yaml
        overrides:
          "properties.azureml.promptflow.source_flow_id": ${AZUREAI_FLOW_NAME}
      # Required: Path to deployment manifest
      deployment:
        path: deployment/chat-deployment.yaml
        environment:
          PRT_CONFIG_OVERRIDE: deployment.subscription_id=${AZURE_SUBSCRIPTION_ID},deployment.resource_group=${AZURE_RESOURCE_GROUP},deployment.workspace_name=${AZUREAI_PROJECT_NAME},deployment.endpoint_name=${AZUREAI_ENDPOINT_NAME},deployment.deployment_name=${AZUREAI_DEPLOYMENT_NAME}

Der Abschnitt config.deployment ist erforderlich und erstellt eine neue Online-Bereitstellung für den zugehörigen Online-Endpunkt aus der referenzierten YAML-Dateidefinition. Diese Funktionalität behandelt Folgendes:

  • Wenn verfügbar, wird auf die zugeordnete Umgebung und das zugehörige Modell verwiesen.
  • azd wartet darauf, dass die Bereitstellung in einen Status der Terminal-Bereitstellung übergeht.
  • Bei erfolgreichen Bereitstellungen wird der gesamte Datenverkehr auf die neue Bereitstellungsversion umgeleitet.
  • Alle vorherigen Bereitstellungen werden gelöscht, um Rechenleistung für zukünftige Bereitstellungen freizugeben.

Erkunden Sie Konfigurationsoptionen

Jedes unterstützte Feature für AI/ML-Onlineendpunkte unterstützt Anpassungen für Ihr spezifisches Szenario mithilfe der in den folgenden Abschnitten beschriebenen Optionen.

Flow

Der flow Konfigurationsabschnitt ist optional und unterstützt die folgenden Werte:

  • name: Der Name des Flusses. Der Standardwert ist <service-name>-flow-<timestamp>, wenn er nicht angegeben wird.

  • pfad: Der relative Pfad zu einem Ordner, der das Flussmanifest enthält.

  • overrides: Alle angepassten Überschreibungen, die auf den Flow angewendet werden sollen.

    Anmerkung

    Jeder Aufruf von azd deploy erstellt einen neuen zeitgestempelten Datenfluss.

Umwelt

Der environment Konfigurationsabschnitt ist optional und unterstützt die folgenden Werte:

  • name: Der Name der benutzerdefinierten Umgebung. Der Standardwert ist <service-name>-environment, wenn er nicht angegeben wird.

  • Pfad: Der relative Pfad zu einem benutzerdefinierten Umgebungs-YAML-Manifest.

  • Anpassungen: Alle benutzerdefinierten Anpassungen, die auf die Umgebung angewendet werden sollen.

    Anmerkung

    Jeder Aufruf von azd deploy erstellt eine neue Umgebungsversion.

Modell

Der model Konfigurationsabschnitt ist optional und unterstützt die folgenden Werte:

  • name: Der Name des benutzerdefinierten Modells. Der Standardwert ist <service-name>-model, wenn er nicht angegeben wird.

  • pfad: Der relative Pfad zu einem benutzerdefinierten Modell-YAML-Manifest.

  • Außerkraftsetzungen: Alle benutzerdefinierten Außerkraftsetzungen, die auf das Modell angewendet werden sollen.

    Anmerkung

    Jeder Aufruf von azd deploy erstellt eine neue Modellversion.

Einsatz

Der deployment Konfigurationsabschnitt ist erforderlich und unterstützt die folgenden Werte:

  • name: Der Name der benutzerdefinierten Bereitstellung. Der Standardwert ist <service-name>-deployment, wenn er nicht angegeben wird.

  • pfad: Der relative Pfad zu einem benutzerdefinierten Bereitstellungs-Yaml-Manifest.

  • Umgebung: Eine Zuordnung von Schlüsselwertpaaren zum Festlegen von Umgebungsvariablen für die Bereitstellung. Unterstützt Umgebungsvariablenersetzungen von Betriebssystem-/AZD-Umgebungsvariablen mithilfe der ${VAR_NAME} Syntax.

  • overrides: Alle angepassten Überschreibungen, die auf die Bereitstellung angewendet werden sollen.

    Anmerkung

    Unterstützt nur verwaltete Online-Bereitstellungen.

AgentSchema und agent.yaml

AgentSchema ist eine offene Spezifikation zum Definieren von KI-Agents in einem code-ersten YAML-Format. Eine agent.yaml Datei beschreibt die Konfiguration eines Agents, einschließlich seines Modells, anweisungen, Tools und Verbindungen. AgentSchema dient als einheitliches Austauschformat zwischen Microsoft Copilot Studio, Microsoft Foundry und anderen Plattformen.

AgentSchema unterstützt zwei primäre Formate:

  • AgentDefinition – Eine vollständige, konkrete Spezifikation eines Agenten, der direkt ausgeführt werden kann. Verwenden Sie dieses Format für Einzelzweck-Agents, bei denen alle Konfigurationswerte bekannt und behoben sind.
  • AgentManifest – Eine parametrisierte Vorlage zum dynamischen Erstellen von Agents. Verwenden Sie dieses Format für wiederverwendbare Agentmuster, bei denen Werte wie Modellnamen, Verbindungen oder Anweisungen zur Laufzeit mithilfe der {{parameter}} Syntax konfiguriert werden.

Beispiel: agent.yaml

Das folgende Beispiel zeigt eine gehostete agent.yaml Definition, die azd für Microsoft Foundry bereitgestellt werden kann. Die Schemaannotation oben weist YAML-kompatible Editoren an, gegen das veröffentlichte AgentSchema zu validieren:

# yaml-language-server: $schema=https://raw.githubusercontent.com/microsoft/AgentSchema/refs/heads/main/schemas/v1.0/ContainerAgent.yaml

kind: hosted
name: customer-support
description: Handles customer inquiries and support requests
protocols:
  - protocol: responses
    version: v1
code_configuration:
  runtime: python_3_14
  entry_point: main.py

Dieses Beispiel verwendet kind: hosted mit einem code_configuration-Block, der azd anweist, Ihren Quellcode als ZIP-Datei zu paketieren und Foundry die Laufzeit verwalten zu lassen. Wenn Sie stattdessen ein vordefiniertes Containerimage bereitstellen möchten, ersetzen Sie code_configuration es durch ein image Feld, das auf ein Image in Azure Container Registry zeigt.

Verwenden Sie agent.yaml mit azd

Das schema azure.yaml unterstützt den hosttyp azure.ai.agent für die Bereitstellung von Agents in Microsoft Foundry. Wenn Sie host auf azure.ai.agent setzen, liest azd die Datei agent.yaml in Ihrem Dienstverzeichnis und verwendet deren Feld kind, um zu bestimmen, wie der Agent bereitgestellt werden soll. Weitere Informationen finden Sie in der Azure.yaml-Schemareferenz.

Unterstützte kind Werte

Das Feld kind oben in agent.yaml wählt die Bereitstellungsform aus. azd überprüft dieses Feld anhand der Werte in der folgenden Tabelle und weist alle anderen Werte beim Bereitstellen zurück.

kind Was azd bereitstellt Wann verwenden?
hosted Ein von Foundry gehosteter Agent. Der Untermodus der Bereitstellung hängt von den Feldern ab, die Sie in die Datei einschließen: Hinzufügen code_configuration für codebereitstellung (ZIP-Upload, Foundry-managed runtime) oder Hinzufügen image für containerbereitstellung (Ihr vordefiniertes Image aus Azure Container Registry). Die meisten von azd ai agent init erstellten Agenten. Verwenden Sie „code deploy“, wenn Foundry die Laufzeitumgebung verwalten soll; verwenden Sie „container deploy“, wenn Sie die vollständige Kontrolle über das Image benötigen.

Anmerkung

AgentSchema ist eine umfassendere Spezifikation als das, was azd heute einsetzt. Wenn Sie in der AgentSchema-Referenz andere kind-Werte sehen (z. B. Agentdefinitionen, die nur Eingabeaufforderungen verwenden), werden diese Formate von azd nicht unterstützt und von azd deploy nicht akzeptiert.

Weitere Informationen zu AgentSchema finden Sie in den folgenden Ressourcen:

Verwandte Inhalte

Hilfe anfordern

Informationen zum Melden eines Fehlers, Anfordern von Hilfe oder Vorschlagen einer neuen Funktion für die Azure Developer CLI finden Sie auf der Seite Fehlerbehebung und Support.

  • Last updated on