使用 Unity Gateway 對由 Databricks 或第三方供應商託管的 frontier 專有及開放權重模型進行推論。 選擇適合您工作量的型號和服務能力。
Databricks 提供的模型
Important
Unity Gateway 服務由 Databricks 托管的模型及第三方供應商所托管的模型。 無論模型存放於何處,您均需遵守供應商適用的使用條款。 請參見 適用模型術語。
以下模型由 Databricks 託管。 每個型號名稱都連結到其規格。 關於由供應商託管的模型,請參見 第三方供應商託管的模型。
system.ai 中的模型資產會在全域中列出。 看到該模型出現在那裡,並不表示它可在你的工作區中使用。 可用性取決於你的工作區區域、跨地理設定以及模型可用性。 請檢查 Unity Gateway 介面中對應的模型服務,並確認你有權限查詢它。
列出模型並不會將客戶資料傳送給該模型進行推論。 請參閱 各區域模型可用性 。
注意
在 Azure Databricks 上,OpenAI 和 Google Gemini 模型,以及 Zhipu AI GLM 5.3、GLM 5.3 Flash 和 GLM 5.2(舊版)、Moonshot AI Kimi K3、DeepSeek V4.1 Flash(1017)以及 DeepSeek V4.1 Flash,皆可透過 ADI Services 取得,這些版本由 Databricks 提供。 關於這些模型描述,請參閱 Databricks 基礎模型 API 所支援的詳細模型清單。 關於設定與存取,請參閱 ADI 服務。
Important
DeepSeek V4.1 Flash 將於 2026 年 11 月 19 日退役。 請參閱 「遺留型、棄用型與退休型」 以了解推薦的替換模型及如何在棄用期間遷移的指引。
Important
Zhipu AI GLM 5.2 已被棄用,預計於 2027 年 2 月 4 日退役。 請參閱 「遺留型、棄用型與退休型」 以了解推薦的替換模型及如何在棄用期間遷移的指引。
關於已棄用型號及推薦的替換,請參見 已淘汰及退役型號。
第三方供應商所託管的模型
以下模型由其提供者託管,而非 Databricks,並透過 Unity Gateway 提供服務。 Azure Databricks 提供存取路徑、認證與路由。 供應商負責管理模型主機環境,而供應商的條款則規範你對模型的使用。
請參閱 ADI服務。
| Provider | 模型 | Hosting |
|---|---|---|
| TypeSafe AI, Inc. | TypeSafe AI Jev 1.14.0 | 由提供者託管,透過 Unity Gateway 提供 |
使用模型
| 你的任務 | 如何使用這些模型 |
|---|---|
| 建立應用程式或代理程式 | 透過 Unity Gateway API 呼叫模型。
系統提供的模型服務system.ai讓你可以不用建立自訂模型服務就能開始。 參見 查詢模型。 |
| 將 AI 應用於你的資料 | 用 ai_query 來從 SQL、筆記本或批次管線向支援的模型發送提示。 請參見 使用ai_query。 |
| 使用編碼代理 | 透過 Unity Gateway 將您的程式代理連接到模型。 請參見 支援的程式設計與工作代理程式。 |
支援的型號與型號識別碼會依介面而異。 請參閱連結的指南了解需求與範例。
系統提供的模型服務
Azure Databricks 提供現成可用的按代幣付費模型服務,例如 system.aisystem.ai.claude-opus-5。 隨著基礎模型的推出,會新增服務。
- 系統使用者擁有這些檔案,你無法刪除它們。
- 預設情況下,只有 metastore 管理員能修改它們。 元商店管理員可透過授權
MANAGE權限來委派管理。
欲限制存取權限,請參閱 「發現並治理模式服務存取」。
選擇服務容量
| Option | 建議用於 | 運作原理 |
|---|---|---|
| 按代幣付費 | 使用量可變或間歇性使用的工作負載。 | 不用設定專用服務容量,就為你使用的代幣付費。 |
| 按需配置吞吐量 | 需要專用容量,且可隨需求變化靈活調整容量的工作負載。 | 按分配容量付費,無需定期承諾。 |
Unity Gateway 模型服務可路由至已配置吞吐量的目的地。 請參閱每個選項的文件,了解符合資格的模型與設置需求。
若要使用 ai_query 進行批次推論,請參考 AI 函數指引 以選擇支援的模型和服務選項。 模式與區域支援依服務選項而異。
連結其他模型供應商
你也可以用你自己的模型提供者帳號使用 Unity Gateway。 連接 模型提供者 ,並利用您組織的憑證管理存取權限。
請參閱 連接外部模型提供者。