Enrutamiento inteligente para agentes de codificación

El enrutamiento inteligente selecciona automáticamente el mejor modelo para cada tarea que asume un agente de codificación. En Omnigent, también selecciona el mejor arnés de codificación. En lugar de pedir a cada desarrollador que elija un modelo para cada solicitud, Unity Gateway enruta cada tarea al modelo de menor coste capaz de gestionarla.

Configura enrutamiento inteligente a través de Omnigent o ucode, dependiendo de cómo ejecutes tu agente de codificación.

Requisitos

• Vista previa de Smart Routing a nivel de cuenta habilitada para tu cuenta. Contacta con el administrador de tu cuenta para habilitar y esperar 1-2 minutos después de la habilitación para que se propague a tu espacio de trabajo.
• Acceso a los modelos candidatos que Smart Routing puede seleccionar. Smart Routing selecciona solo entre servicios de modelos con el prefijo system.ai-.

• Un espacio de trabajo de Azure Databricks en una región soportada por Unity Gateway.

• Para enrutar entre entornos de codificación, no solo entre modelos, usa la versión v0.8.0 o posterior de Omnigent. El enrutamiento entre arneses solo está disponible en Omnigent.

Configurar enrutamiento inteligente usando Omnigent

Omnigent da a Smart Routing su forma más completa. Puede elegir tanto el modelo como el sistema de codificación para cada tarea. La opción se aplica al agente principal y a todos los subagentes que inicia una sesión.

Para configurar Omnigent:

1. Configura Claude Code and Codex para que utilices tu espacio de trabajo de Azure Databricks para inferencia:

   omni setup
   

2. Conecta tu ordenador al servidor Omnigent:

   omni host --server <workspace-url>
   

   Reemplace <workspace-url> por la dirección URL del área de trabajo de Azure Databricks.

Luego activa Smart Routing desde la interfaz de usuario o la línea de comandos.

Desde la interfaz de usuario

Selecciona Smart Routing como arnés para que Omnigent elija tanto tu modelo como tu arnés:

O, después de elegir Claude Code o Codex, haz clic en el icono de engranaje y selecciona Enrutamiento Inteligente para tu modelo:

Desde la CLI

Pasa --smart-routing al arnés:

omni claude --smart-routing --server <workspace-url>
omni codex --smart-routing --server <workspace-url>

Reemplace <workspace-url> por la dirección URL del área de trabajo de Azure Databricks.

Configurar el enrutamiento inteligente usando ucode

ucodees la CLI de Azure Databricks para ejecutar agentes de codificación contra Unity Gateway. Si ejecutas Codex o Claude Code a través de ucode, activa el enrutamiento inteligente por agente:

ucode codex --enable-smart-routing
ucode claude --enable-smart-routing

La configuración persiste por agente, así que las sesiones posteriores ucode codexucode claude mantienen activado el enrutamiento inteligente. Para desactivarlo:

ucode codex --disable-smart-routing
ucode claude --disable-smart-routing

Después de activar el enrutamiento inteligente, pasa tu aviso en la línea de comandos para enrutarlo. Smart Routing no se aplica a una sesión interactiva de root, por lo que debes proporcionar el prompt con --:

ucode claude -- "<prompt>"
ucode codex -- "<prompt>"

Smart Routing selecciona el modelo para ese prompt, y cualquier subagente que genere la tarea se enruta de la misma manera. El enrutamiento entre arneses solo está disponible en Omnigent.

Limitaciones

• Smart Routing está en Beta y activado por cada cuenta.
• El enrutamiento inteligente selecciona solo entre servicios de modelo prefijados con system.ai. Actualmente, no se soportan servicios de modelos personalizados.
• El usuario necesita acceso a todos los modelos candidatos que el router pueda seleccionar, o falla el enrutamiento inteligente. Por ejemplo, si el router puede dirigir a gpt-5.5, claude-opus-4-8 y glm-5.2, el usuario necesita EXECUTE en los servicios de modelo system.ai.gpt-5-5, system.ai.claude-opus-4-8 y system.ai.glm-5-2. Si el usuario no tiene acceso a ningún candidato, la solicitud devuelve un error que nombra los servicios modelo que necesita.
• Fuera de Omnigent, el enrutamiento inteligente solo puede configurarse con ucode. Claude Code y Codex nativos (se ejecutan directamente, no a través de ucode) no admiten el enrutamiento inteligente a través de Unity Gateway.
• ucode rutas entre modelos dentro de un arnés. El enrutamiento entre harnesses requiere Omnigent v0.8.0 o una versión posterior.

Recursos adicionales

• Gobernanza de IA con Unity Gateway
• Configurar el enrutamiento y las alternativas de respaldo para servicios de modelos
• Analizar el coste de Unity Gateway
• Consultar APIs de modelos (servicios de modelo)
• Gestión de los costes de codificación de IA a gran escala