Smart Routing für Coding-Agenten

Smart Routing wählt automatisch das beste Modell für jede Aufgabe aus, die ein Codierungsagent übernimmt. In Omnigent wird auch das beste Coding-Harness ausgewählt. Anstatt jeden Entwickler zu bitten, für jede Anfrage ein Modell auszuwählen, leitet Unity AI Gateway jede Aufgabe an das kostengünstigste Modell, das sie bewältigen kann.

Richte Smart Routing über Omnigent oder ucode, je nachdem, wie du deinen Coding-Agenten betreibst.

Anforderungen

• Smart-Routing-Vorschau auf Kontoebene für Ihr Konto aktiviert. Kontaktiere deinen Kontoadministrator, um ihn zu aktivieren, und erlaube 1-2 Minuten nach der Aktivierung, dass es in deinem Arbeitsbereich weitergeleitet wird.
• Zugang zu den Kandidatenmodellen, die Smart Routing auswählen kann. Smart Routing wählt nur unter system.ai-präfixierten Modellservices.

• Ein Azure Databricks-Arbeitsbereich in einer von Unity AI Gateway unterstützten Region.

• Um Coding-Harnesses und nicht nur Modelle zu routen, verwenden Sie Omnigent Version v0.8.0 oder neuer. Das Routen zwischen Gurten ist nur in Omnigent möglich.

Richte Smart Routing mit Omnigent ein

Omnigent verleiht Smart Routing seine vollste Form. Es kann sowohl das Modell als auch das Codierungs-Harness für jede Aufgabe auswählen. Die Wahl gilt für den Hauptagenten und für jeden Subagenten, den eine Sitzung startet.

Um Omnigent einzurichten:

1. Configure Claude Code and Codex to use your Azure Databricks workspace for inference:

   omni setup
   

2. Verbinden Sie Ihren Computer mit dem Omnigent-Server:

   omni host --server <workspace-url>
   

   Ersetzen Sie <workspace-url> durch Ihre Azure Databricks Arbeitsbereichs-URL.

Dann aktiviere Smart Routing über die Benutzeroberfläche oder die CLI.

Aus der Benutzeroberfläche

Wählen Sie Smart Routing als Kabelbaum aus, damit Omnigent sowohl Ihr Modell als auch Ihren Kabelbaum auswählt:

Oder, nachdem Sie Claude Code oder Codex gewählt haben, klicken Sie auf das Zahnrad-Symbol und wählen Smart Routing für Ihr Modell:

Von der CLI

Pass --smart-routing zum Geschirr:

omni claude --smart-routing --server <workspace-url>
omni codex --smart-routing --server <workspace-url>

Ersetzen Sie <workspace-url> durch Ihre Azure Databricks Arbeitsbereichs-URL.

Richte Smart Routing mit ucode

ucodeist die Azure Databricks CLI zum Ausführen von Coding-Agenten gegen Unity AI Gateway. Wenn du Codex oder Claude Code durch ucode, aktiviere Smart Routing pro Agent:

ucode codex --enable-smart-routing
ucode claude --enable-smart-routing

Die Einstellung bleibt pro Agent bestehen, sodass spätere oder spätere ucode codex Sitzungen ucode claude Smart Routing eingeschaltet bleiben. So deaktivieren Sie sie:

ucode codex --disable-smart-routing
ucode claude --disable-smart-routing

Nachdem Smart Routing aktiviert ist, gib deine Eingabeaufforderung in der Kommandozeile weiter, um es zu routen. Smart Routing gilt nicht für eine interaktive Root-Session, daher müssen Sie die Aufforderung mit --Folgendes bereitstellen:

ucode claude -- "<prompt>"
ucode codex -- "<prompt>"

Smart Routing wählt das Modell für diesen Prompt aus, und alle Subagenten, die die Aufgabe spawnt, werden auf die gleiche Weise geroutet. Das Routen zwischen Gurten ist nur in Omnigent möglich.

Einschränkungen

• Smart Routing ist in der Beta und pro Konto aktiviert.
• Smart Routing wählt nur unter - system.aipräfixierten Modelldiensten. Custom Model Services werden derzeit nicht unterstützt.
• Der Benutzer benötigt Zugriff auf jedes Kandidatenmodell, das der Router auswählen kann, sonst schlägt Smart Routing fehl. Zum Beispiel, wenn der Router auf gpt-5.5, , und glm-5.2routen kann, benötigt der Benutzer EXECUTE die system.ai.gpt-5-5Dienste system.ai.claude-opus-4-8, , und system.ai.glm-5-2 modelliertclaude-opus-4-8. Wenn der Benutzer keinen Zugriff auf einen Kandidaten hat, liefert die Anfrage einen Fehler mit der Benennung der benötigten Modelldienste.
• Außerhalb von Omnigent kann Smart Routing nur mit ucodekonfiguriert werden. Native Claude Code und Codex (direkt ausgeführt, nicht durch) ucodeunterstützen kein Smart Routing über das Unity AI Gateway.
• ucode Routen zwischen Modellen innerhalb eines Geschirrs. Das Routing über Kabelbäume hinweg erfordert Omnigent v0.8.0 oder neuer.

Weitere Ressourcen

• KI-Governance mit Unity AI Gateway
• Routing und Fallbacks für Modelldienste konfigurieren
• Analysieren Sie die Kosten des Unity AI Gateway
• Abfrage-Modell-APIs (Modelldienste)
• Verwaltung der KI-Codingkosten im großen Maßstab