Distribuisci l'estensione per Agentic Retrieval in Foundry Local

Nel portale di Azure, vai al cluster di Azure Kubernetes su Azure Localee.

Selezionare Impostazioni>Estensioni>+ Aggiungi e Recupero agentico dall'elenco.

Fare clic su Crea.

Nella scheda Nozioni di base specificare le informazioni seguenti:

Seleziona Avanti.

Nella scheda Configurazioni specificare le informazioni seguenti:

Seleziona Avanti.

Nella scheda Accesso specificare le informazioni seguenti:

Selezionare Rivedi e crea.

Esaminare e convalidare i parametri specificati.

Selezionare Crea per completare la distribuzione di Agentic Retrieval.

Al termine della distribuzione, in Estensioni verificare che siano elencati i tipi di estensione microsoft.arc.rag e microsoft.extensiondiagnostics .

Usare uno script di distribuzione di base e impostare parametri facoltativi solo per i tipi di connessione abilitati.

Prima di eseguire lo script, scegliere un percorso di distribuzione:

• Solo con Kerberos: impostare enableKerberos=true e enableSharePoint=false.
• Solo per l'acquisizione di SharePoint: impostare enableKerberos=false e enableSharePoint=true.
• Kerberos e acquisizione di SharePoint: impostare entrambi i valori su true.

Per l'origine del modello linguistico, impostare useFoundryLocal=true solo quando si usa un endpoint del modello locale Foundry. In caso contrario, impostare useFoundryLocal=false.

Se si abilita Kerberos, completare prima i passaggi descritti in Configurare NFS con l'autenticazione Kerberos per il recupero agentico. Se si abilita l'acquisizione di SharePoint, completare prima Configurare l'autenticazione da server a server di SharePoint per Agentic Retrieval.

Impostare i valori di distribuzione comuni:

$gpu_enabled = "true"  # Mark it true if you have GPUs available for Agentic Retrieval
$localextname = "edgeragdemo" # Once used do not change
$autoUpgrade = "false"
$tenantId = "<App Tenant ID>" # App registrations -> Your app -> Overview on Azure portal
$appId = "<App ID>" # App registrations -> Your app -> Overview on Azure portal
$domainName = "arcrag.contoso.com" # App redirect URI and this domain name should be the same
$sub = "<Subscription GUID>"
$rg = "<Resource Group name>"
$k8scluster = "<Azure Kubernetes Service (AKS) Arc cluster name>"
$extension = "microsoft.arc.rag" # do not change
$n = "arc-rag" # do not change

Impostare i valori per il modello linguistico, la modalità di distribuzione e i tipi di connessione facoltativi:

#  Set your model endpoint (mandatory)
$apiEndpoint = "<Your OpenAI-compatible LLM endpoint URI>"
$apiModel = "<Model Name>"
$maxTokensInK = "<Max Tokens In K (e.g. 10, 20 etc.)>"
$layerSelection = "combined" # Options: combined, agentic, knowledge

# Foundry Local setting
$useFoundryLocal = "false"
$foundryClientId = "<foundry_app_registration_client_id>" # Required only when useFoundryLocal=true

# Optional connection switches
$enableKerberos = "false"
$enableSharePoint = "false"

# Kerberos setting (required only when enableKerberos=true)
$kerberosSpn = "nfs/edgerag-svc@CONTOSO.COM"

# SharePoint settings (required only when enableSharePoint=true)
$keyVaultName = "<Key Vault name>"
$kvCertSecretName = "edgerag-sp-s2s-cert"
$kvCertPasswordSecretName = "sp-cert-password"
$workloadIdentityClientId = "<Managed identity client ID>"

Creare il segreto della chiave API BYOM solo quando l'origine del modello linguistico è Bring Your Own (useFoundryLocal=false):

# Create the BYOM API key secret before extension installation only for BYOM endpoints
if ($useFoundryLocal -eq "false") {
   kubectl create namespace arc-rag --dry-run=client -o yaml | kubectl apply -f -
   kubectl delete secret byom-api-key -n arc-rag --ignore-not-found
   kubectl create secret generic byom-api-key --from-literal=BYOM_API_KEY="<your_api_key>" -n arc-rag
}

La chiave API BYOM viene archiviata come segreto Kubernetes anziché passata come parametro di configurazione. Creare questo segreto prima di installare l'estensione solo quando useFoundryLocal=false.

Dopo aver popolato i valori, compilare le impostazioni di configurazione e distribuire l'estensione Azure Arc:

az provider register --namespace Microsoft.KubernetesConfiguration
 az feature register --namespace Microsoft.KubernetesConfiguration --name extensions

 $config = @(
    "isManagedIdentityRequired=true",
    "gpu_enabled=$gpu_enabled",
    "AgentOperationTimeoutInMinutes=30",
    "auth.tenantId=$tenantId",
    "auth.clientId=$appId",
    "ingress.domainname=$domainName",
    "layerSelection=$layerSelection",
    "byom.enabled=true",
    "byom.apiEndpoint=$apiEndpoint",
    "byom.apiModel=$apiModel",
    "byom.maxTokensInK=$maxTokensInK"
 )

 if ($enableKerberos -eq "true") {
    $config += @(
       "kerberos.enabled=true",
       "kerberos.spn=$kerberosSpn"
    )
 }

 if ($enableSharePoint -eq "true") {
    $config += @(
       "sharepoint.sharepointIngestionEnabled=true",
       "sharepoint.s2s.keyvaultName=$keyVaultName",
       "sharepoint.s2s.kvCertSecretName=$kvCertSecretName",
       "sharepoint.s2s.kvCertPasswordSecretName=$kvCertPasswordSecretName",
       "sharepoint.s2s.workloadIdentityClientId=$workloadIdentityClientId"
    )
 }

 if ($useFoundryLocal -eq "true") {
    $config += @(
       "foundryClientId=$foundryClientId"
    )
 }

 az k8s-extension create `
    --cluster-type connectedClusters `
    --cluster-name $k8scluster `
    --resource-group $rg `
    --name $localextname `
    --extension-type $extension `
    --release-train preview `
    --auto-upgrade $autoUpgrade `
    --configuration-settings $config