選擇型號或使用智慧路由

Unity Gateway 讓你在編碼代理中使用不同的模型。 你可以用代理程式的模型選擇器選擇並切換模型,或讓智慧路由選擇模型來執行委派任務。

選擇一個模型

ug 發掘你工作空間中可用的模型。 你可以選擇什麼,取決於代理的模型支援、組織的設定以及授權給你的權限。

使用 ug codex 啟動 Codex CLI、使用 ug claude 啟動 Claude Code,或使用 ug copilot 啟動 GitHub Copilot CLI。 在代理中,輸入:

/model

從選擇器中選擇可用模型,繼續工作。 對於支援的開源模型(如 GLM 5.3 )system.ai.glm-5-3使用相同的選擇器。 每當你想切換時,例如選擇較快的模型進行例行編輯,或是更強大的模型處理複雜任務時,都可以再次輸入 /model 。

請參見「 使用開源模型 」以了解設置範例,並請參見「 控制支出 」以了解成本理由。

如需以指令稿啟動,請參考 ug CLI 參考。

在 ChatGPT 桌面版中,使用模型選擇器在 Codex 對話中選擇模型,包括支援的開源模型。 請參見 「在 ChatGPT 桌面中使用開源模型」。 在 Visual Studio Code 的 GitHub Copilot 中,從 Copilot Chat 模型選擇器中的 Databricks 群組中選擇一個模型。 在其他助理中,請查看模型選擇器的說明選單。

Copilot Chat 在 VSC 中選擇 Databricks 群組的模型選擇器

若要使用貴組織註冊的提供者帳戶,請參閱 「自備模型提供者」。

使用智慧路由

Important

智慧路由目前還在 測試階段。 帳戶管理員必須在帳戶主控台的預覽頁面啟用強化版 Unity Gateway預覽功能。 請參閱 管理 Azure Databricks 預覽。

智慧路由會選擇成本最低、能處理你任務的模型,讓你不必為每個請求都選擇一個模型。 它能搭配 Claude Code 使用。 Codex 的智慧路由已在 Unity Gateway CLI 中暫停。 GitHub Copilot 不支援智慧路由。

要求

  • 強化版 Unity Gateway 預覽已為您的帳戶啟用。 帳號管理員會從帳號主控台的 預覽 頁面啟用。 請參閱 管理 Azure Databricks 預覽。 啟用後等待 1–2 分鐘,讓它傳播到你的工作區。
  • EXECUTE 可存取智慧路由可選擇的每個候選模型。 候選模型來自代理人的 模型來源。 在 Unity Gateway 受管配置 測試版中, sources 模型來源可以包含模型提供者服務背後的外部模型。 若缺少存取,路由會因識別所需型號的錯誤而失敗。

在 Unity Gateway CLI 中使用智慧路由

如果管理員在客服專員工作區組態中啟用 Smart Routing,ug 會自動套用。 照常啟動 Claude Code:

ug claude

若要為某次啟動作業自行啟用智慧路由,請新增 --enable-smart-routing:

ug claude --enable-smart-routing

要在啟動時將其關閉,包括在管理員啟用它時,請使用 --disable-smart-routing 啟動。

在會話中關閉或重新開啟智慧路由,請輸入 /smart-router off 或 /smart-router on。

啟用 Smart Routing 後,您的客服人員會將任務交接給子代理。 每個子代理的任務獨立路由,且可使用不同模型。 代理人會顯示每個子代理人所選的模型,並在有相關資訊時說明選擇的原因。 主會話維持其預設模型:管理員的 預設或智慧預設(如果有設定),否則為代理程式設定的預設。 要讓任務保留在主要工作階段中,請代理人不要使用子代理人。

關於使用 Azure Databricks 托管的非 Anthropic 基礎模型,使用 Claude Code 子代理進行自動工具呼叫安全檢查,請參見自動模式。

要自己選擇模型,請用上方的 session 指令關閉智慧路由,然後使用 /model。 僅使用 /model 來更改模型,並不會關閉智慧路由。

在 Omnigent 中使用智慧路由

Omnigent 可以同時選擇編碼工具與模型來執行任務,包括委派給子代理者的工作。 使用版本 v0.8.0 或更新版本。

為您的 Azure Databricks 工作空間配置 Claude Code 與 Codex:

omni setup

將你的電腦連接到 Omnigent 伺服器:

omni host --server <workspace-url>

將 <workspace-url> 替換成你的 Azure Databricks 工作區網址。

在 Omnigent 介面中,選擇 「智慧路由 」作為線束,讓它同時選擇線束和模型:

在 Omnigent 中選擇智慧路由作為線束

要保留 Claude Code 或 Codex,請選擇該背帶,打開齒輪選單,並為該型號選擇 智慧路由 :

在 Omnigent 中選擇智慧路由作為模型

您也可以從CLI啟用模型路由,針對所選線束:

omni claude --smart-routing --server <workspace-url>
omni codex --smart-routing --server <workspace-url>

Unity Gateway CLI 會在所選的受支援框架內,於模型之間進行路由。 Omnigent 也會在多個 harness 之間進行選擇;omni claude 和 omni codex 範例則明確指定了一個 harness。

下一步