Smart Routing per agenti di codifica

Smart Routing seleziona automaticamente il modello migliore per ogni compito che un agente di codifica svolge. In Omnigent, seleziona anche il miglior imbracaggio di codifica. Invece di chiedere a ogni sviluppatore di scegliere un modello per ogni richiesta, Unity AI Gateway indirizza ogni compito al modello a basso costo in grado di gestirlo.

Imposta Smart Routing tramite Omnigent o ucode, a seconda di come gestisci il tuo agente di codifica.

Requisiti

• Smart Routing abilitata l'anteprima a livello di account per il tuo account. Contatta l'amministratore del tuo account per abilitare e aspettare 1-2 minuti dopo l'attivazione che la propagazione si propaghi al tuo workspace.
• Accesso ai modelli candidati che Smart Routing può selezionare. Smart Routing sceglie solo tra system.aii servizi modello con prefisso -.

• Un'area di lavoro Azure Databricks in un'area Unity Ai Gateway supportata.

• Per instradare tra harness di codice, non solo modelli, usa Omnigent versione v0.8.0 o successiva. Il routing tra cablaggi è disponibile solo in Omnigent.

Configura Smart Routing usando Omnigent

Omnigent dà a Smart Routing la sua forma più completa. Può scegliere sia il modello che l'imbracatura di codifica per ogni compito. La scelta si applica all'agente principale e a ogni sottoagente che una sessione avvia.

Per impostare Omnigent:

1. Configura Claude Code e Codex per utilizzare il tuo workspace Azure Databricks per inferenza:

   omni setup
   

2. Collega il tuo computer al server Omnigent:

   omni host --server <workspace-url>
   

   Sostituire <workspace-url> con l'URL dell'area di lavoro Azure Databricks.

Poi attiva Smart Routing dall'interfaccia utente o dalla CLI.

Dall'interfaccia utente

Seleziona Smart Routing come cablaggio così Omnigent sceglie sia il modello che il cablaggio:

Oppure, dopo aver scelto Claude Code o Codex, clicca sull'icona dell'ingranaggio e seleziona Smart Routing per il tuo modello:

Dal CLI

Passa --smart-routing all'imbracatura:

omni claude --smart-routing --server <workspace-url>
omni codex --smart-routing --server <workspace-url>

Sostituire <workspace-url> con l'URL dell'area di lavoro Azure Databricks.

Configura Smart Routing usando ucode

ucodeè la CLI di Azure Databricks per eseguire agenti di codifica su Unity AI Gateway. Se esegui Codex o Claude Code tramite ucode, abilita Smart Routing per agente:

ucode codex --enable-smart-routing
ucode claude --enable-smart-routing

L'impostazione persiste per agente, quindi le ucode claude sessioni successive ucode codex o le sessioni mantengono attivo lo Smart Route. Per disattivarlo:

ucode codex --disable-smart-routing
ucode claude --disable-smart-routing

Dopo aver abilitato lo Smart Route, invia il prompt sulla riga di comando per instradarlo. Smart Routing non si applica a una sessione root interattiva, quindi devi fornire al prompt :--

ucode claude -- "<prompt>"
ucode codex -- "<prompt>"

Smart Routing seleziona il modello per quel prompt, e tutti i sottoagenti generati dal task vengono instradati allo stesso modo. Il routing tra cablaggi è disponibile solo in Omnigent.

Limitazioni

• Smart Routing è in Beta e abilitato per ogni account.
• Smart Routing seleziona solo tra system.aii servizi modello con prefisso -. Attualmente non sono supportati servizi di modelli personalizzati.
• L'utente ha bisogno di accedere a ogni modello candidato che il router può selezionare, altrimenti lo Smart Routing fallisce. Ad esempio, se il router può instradare a gpt-5.5, claude-opus-4-8, e glm-5.2, l'utente ha bisogno EXECUTE sui system.ai.gpt-5-5servizi , system.ai.claude-opus-4-8, e system.ai.glm-5-2 model. Se l'utente non ha accesso a nessun candidato, la richiesta restituisce un errore che indica i servizi modello di cui ha bisogno.
• Al di fuori di Omnigent, Smart Routing può essere configurato solo con ucode. Il codice e il codex nativi Claude (eseguiti direttamente, non attraverso ucode) non supportano lo Smart Routing tramite Unity AI Gateway.
• ucode instradamenti tra modelli all'interno di un'imbracatura. Il routing tra i cablaggi richiede Omnigent v0.8.0 o successiva.

Risorse aggiuntive

• Governance dell'intelligenza artificiale con Unity AI Gateway
• Configurare l'instradamento e i fallback per i servizi di modello
• Analizza il costo del Gateway Unity AI
• API di query dei modelli (servizi modello)
• Gestione dei costi di codifica AI su larga scala