Databricks 基礎模型 API 支援的詳細模型清單

本文說明 Databricks Foundation 模型 API 所支援的最新開放模型。

備註

請參閱 各區域模型可用性 及支援的功能區域。

備註

在 Azure Databricks 上,OpenAI 和 Google Gemini 模型,以及 Zhipu AI GLM 5.3、GLM 5.3 Flash 和 GLM 5.2(舊版)、Moonshot AI Kimi K3、Thinking Machine Labs 的 Inkling、DeepSeek v4.1 Flash 與 V4 Flash,以及 OpenJev(Qwen3.5 4B)皆可透過 ADI Services 取得,這些版本由 Databricks 提供。 關於設定與存取,請參閱 ADI 服務。

您可以使用 Databricks 工作區中提供的按使用量計費的端點,將查詢請求發送至這些模型。 請參閱 使用基礎模型 和 按使用代幣付費的模型表 以取得需要使用的模型端點名稱。

除了支援每字元付費模式的模型,基礎模型 API 也提供預設的輸送量模式。 Databricks 建議為生產工作負載使用配置好的吞吐量。 此模式支援模型架構家族的所有模型,包括以按代幣付費模式支援的微調與自訂預訓練模型。 如需支援的架構清單,請參閱 布建的輸送量基礎模型 API 。

您可以使用 AI 遊樂場與這些支援的模型互動。

對於 OpenAI、Google Gemini 和 Anthropic 模型,上下文視窗和最大輸出標記與各自模型提供者發布的值相符。

OpenAI GPT-6.1 Sol

重要

客戶有責任確保其符合 適用的模型條款。

備註

此模型在 AI Playground 中不被支援。 使用 Responses API 來與此模型互動。

端點名稱: databricks-gpt-6-1-sol

支援輸入:文字、圖片

GPT-6.1 Sol 是一個 OpenAI 通用模型,用於代理編碼、推理及工具使用。 它支援文字與圖片輸入。

關於推理控制,請參見 查詢推理模型。

可用性:按代幣付費。 請參閱 支援區域。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-6 Sol

重要

客戶有責任確保其符合 適用的模型條款。

備註

此模型在 AI Playground 中不被支援。 使用 Responses API 來與此模型互動。

端點名稱: databricks-gpt-6-sol

支援輸入:文字、圖片

GPT-6 Sol 是 OpenAI 最新的通用模型,屬於 GPT-6 家族,能以低於 GPT-6 Astra 的成本,在代理編碼、長視野推理及複雜工具使用方面展現出強勁表現。 此模型支援多模態輸入。

可用性:按代幣付費。 請參閱 支援區域。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-6 Luna

重要

客戶有責任確保其符合 適用的模型條款。

備註

此模型在 AI Playground 中不被支援。 使用 Responses API 來與此模型互動。

端點名稱: databricks-gpt-6-luna

支援輸入:文字、圖片

GPT-6 Luna 是 OpenAI GPT-6 家族中快速且具成本效益的模型,以最低成本帶來強大的推理能力與代理能力。 此模型支援多模態輸入。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-6 Astra

重要

客戶有責任確保其符合 適用的模型條款。

端點名稱: databricks-gpt-6-astra

支援輸入:文字、圖片

GPT-6 Astra 是 OpenAI 用於企業推理、結構化文件處理、編碼、代理搜尋、多模態輸入及長上下文工作負載的前沿模型。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-5.6 Sol

重要

客戶有責任確保其符合 適用的模型條款。

端點名稱: databricks-gpt-5-6-sol

支援輸入:文字、圖片

GPT-5.6 Sol,也稱為 GPT-5.6,是 OpenAI 在 GPT-5.6 家族中的旗艦模型,提供最先進的代理編碼、長期推理及複雜工具使用效能,並支援全新的最大推理努力。 此模型支援多模態輸入。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-5.6 Terra

重要

客戶有責任確保其符合 適用的模型條款。

端點名稱: databricks-gpt-5-6-terra

支援輸入:文字、圖片

GPT-5.6 Terra 是 OpenAI GPT-5.6 家族中平衡的模型,適用於日常代理與推理工作負載,能以較低成本與 GPT-5.5 競爭的性能。 此模型支援多模態輸入。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-5.6 Luna

重要

客戶有責任確保其符合 適用的模型條款。

端點名稱: databricks-gpt-5-6-luna

支援輸入:文字、圖片

GPT-5.6 Luna 是 OpenAI GPT-5.6 家族中快速且具成本效益的模型,帶來強大的推理能力與代理能力,且成本最低。 此模型支援多模態輸入。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-5.5 專業版

重要

客戶有責任確保其符合 適用的模型條款。

GPT-5.5 Pro 採用 擴展提示快取。 快取張量在 GPU 本地儲存空間中儲存時間不得超過 24 小時。

備註

此模型在 AI Playground 中不被支援。 使用 Responses API 來與此模型互動。

端點名稱: databricks-gpt-5-5-pro

支援輸入:文字、圖片

GPT-5.5 Pro 是 GPT-5.5 的高精度變體,針對最困難的問題,包括深入研究、進階數學及高風險推理。 此模型支援多模態輸入。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-5.5

重要

客戶有責任確保其符合 適用的模型條款。

GPT-5.5 採用 擴展提示快取。 快取張量在 GPU 本地儲存空間中儲存時間不得超過 24 小時。

備註

此模型在 AI Playground 中不被支援。 使用 Responses API 來與此模型互動。

端點名稱: databricks-gpt-5-5

支援輸入:文字、圖片

GPT-5.5 是 OpenAI 最強的企業代理工作流程前沿模型、複雜文件推理及長期編碼代理。 GPT-5.5 同時也是 OpenAI 的編碼代理程式 Codex 的動力來源。 此模型支援多模態輸入。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-5.4

重要

客戶有責任確保其符合 適用的模型條款。

端點名稱: databricks-gpt-5-4

支援輸入:文字、圖片

GPT-5.4 是由 OpenAI 開發的通用大型語言模型,具備推理能力。 它能提升複雜任務的表現,提升準確度與更有意識的推理架構。 此模型支援多模態輸入。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-5.4 迷你版

重要

客戶有責任確保其符合 適用的模型條款。

端點名稱: databricks-gpt-5-4-mini

支援輸入:文字、圖片

GPT-5.4 mini 是由 OpenAI 開發的、具備成本效益優化的通用大型語言模型,具備推理能力。 此模型建立於 GPT-5.4 架構之上,能在需要可靠推理、精確語言與快速輸出的明確任務中提升效能。 它支援多模態輸入。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-5.4 nano

重要

客戶有責任確保其符合 適用的模型條款。

端點名稱: databricks-gpt-5-4-nano

支援輸入:文字、圖片

GPT-5.4 nano 是由 OpenAI 開發的通用大型語言模型,具備推理能力。 此模型基於 GPT-5.4 架構,擅長高吞吐量任務,如簡單的指令跟隨或例行業務流程或行動應用程式的分類。 它支援多模態輸入。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-5.3 手冊

重要

客戶有責任確保其符合 適用的模型條款。

備註

此模型在 AI Playground 中不被支援。 使用 Responses API 來與此模型互動。

端點名稱: databricks-gpt-5-3-codex

支援輸入:文字、圖片

GPT-5.3 Codex 是 OpenAI 最先進的代理編碼模型,設計用以處理涉及研究、工具使用與執行的複雜且長期執行任務。 它結合了前沿的程式效能與 GPT-5.2 的推理與專業知識,同時運行速度快 25%。 該模型支援多模態輸入。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-5.2

重要

客戶有責任確保其符合 適用的模型條款。

端點名稱: databricks-gpt-5-2

支援輸入:文字、圖片

GPT-5.2 是由 OpenAI 開發的通用大型語言模型,具備推理能力。 此模型直接建立在 GPT-5.1 之上,提供更高的準確度、中複雜任務的代幣效率提升,以及更有意識的支架推理。 此模型擅長結構化擷取、多步驟工作流程及多模態任務。 它支援多模態輸入。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-5.1

重要

客戶有責任確保其符合 適用的模型條款。

端點名稱: databricks-gpt-5-1

支援輸入:文字、圖片

GPT-5.1 是由 OpenAI 開發的通用大型語言模型,具備推理能力。 此模型具備即時與思考兩種模式,適合快速對話或深度推理,並自動調整以適應簡單或複雜的任務。 該模型在內容創作、輔導、技術支援及程式設計方面表現優異,且較早期版本較少依賴嚴格的提示工程。 它支援多模態輸入。 了解更多關於 GPT-5.1 的資訊。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-5

重要

客戶有責任確保其符合 適用的模型條款。

端點名稱: databricks-gpt-5

支援輸入:文字、圖片

GPT-5是由OpenAI構建和訓練的最先進的通用大型語言模型和推理模型。 它支援多模態輸入。 該模型專為編碼、聊天、推理和代理驅動的任務而構建。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-5 小型版

重要

客戶有責任確保其符合 適用的模型條款。

端點名稱: databricks-gpt-5-mini

支援輸入:文字、圖片

GPT-5 mini是由OpenAI構建和訓練的最先進的通用大型語言模型和推理模型。 它支援多模態輸入。 該模型針對推理和聊天工作負載進行了成本優化,在需要可靠推理、精確語言和快速輸出文本和圖像的明確定義任務中表現出色。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT-5 nano

重要

客戶有責任確保其符合 適用的模型條款。

端點名稱: databricks-gpt-5-nano

支援輸入:文字、圖片

GPT-5 nano是由OpenAI構建和訓練的最先進的通用大型語言模型和推理模型。 它支援多模態輸入。 該模型在高吞吐量任務中表現出色,例如簡單的指令遵循或日常業務流程或移動應用程序的分類。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Google Gemini 3.8 Flash

重要

請參見 Gemini 3.8 閃光 機的適用模型術語 。

此模型託管於全球端點,需 啟用跨地理路由。

端點名稱: databricks-gemini-3-8-flash

支援輸入:文字、圖片、影片、音訊

Gemini 3.8 Flash 是由 Google 開發並訓練的多模態 AI 模型。 它支援函式呼叫與混合推理,適用於通用及多模態工作負載。 參數reasoning_effort接受 、( "medium" 預設值)或 "high""low"。 Gemini 3.8 Flash 不支援 "minimal"。 了解更多關於 Gemini 3.8 Flash 的資訊。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Google Gemini 3.7 Flash

重要

請參閱 Gemini 3.7 閃光 機的適用模型術語 。

此模型託管於全球端點,需 啟用跨地理路由。

端點名稱: databricks-gemini-3-7-flash

支援輸入:文字、圖片、影片、音訊

Gemini 3.7 Flash 是由 Google 開發與訓練的多模態 AI 模型。 它支援函式呼叫與混合推理,適用於通用及多模態工作負載。 參數reasoning_effort接受 、( "medium" 預設值)或 "high""low"。 Gemini 3.7 Flash 不支援 "minimal"。 了解更多關於 Gemini 3.7 Flash 的資訊。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Google Gemini 3.6 Flash

重要

請參閱 Gemini 3.6 閃光 機的適用模型術語 。

此模型託管於全球端點,需 啟用跨地理路由。

端點名稱: databricks-gemini-3-6-flash

支援輸入:文字、圖片、影片、音訊

Gemini 3.6 Flash 是由 Google 開發與訓練的高速、成本效益高、多模態 AI 模型。 作為 Gemini 3.5 Flash 的後繼者,此型號提供更強的推理能力、先進的多模態能力,以及更佳的量產部署性價比。 Gemini 3.6 Flash 針對高通量工作負載進行優化,如複雜的影片分析、資料擷取及視覺問答。 了解更多關於 Gemini 3.6 Flash 的資訊。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Google Gemini 3.5 Flash

重要

請參閱 Gemini 3.5 閃光 機的適用模型術語 。

端點名稱: databricks-gemini-3-5-flash

支援輸入:文字、圖片、影片、音訊

Gemini 3.5 Flash 是由 Google 開發並訓練的高速、成本效益高、多模態 AI 模型。 作為 Gemini 3 Flash 的重大升級,此模型提供更強的推理能力、先進的多模態能力,以及更佳的量產規模部署性價比。 Gemini 3.5 Flash 針對高通量工作負載進行優化,如複雜的影片分析、資料擷取及視覺問答。 了解更多關於 Gemini 3.5 Flash 的資訊。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Google Gemini 3.5 Flash Lite

重要

請參閱 Gemini 3.5 Flash Lite 的適用型號術語 。

此模型託管於全球端點,需 啟用跨地理路由。

端點名稱: databricks-gemini-3-5-flash-lite

支援輸入:文字、圖片、影片、音訊

Gemini 3.5 Flash Lite 是 Gemini 3 系列中最快且最具成本效益的型號,由 Google 開發與訓練。 該模型支援多模態輸入,具備影像功能、函式呼叫及結構化輸出。 Gemini 3.5 Flash Lite 優化於高吞吐量且具成本效益的部署。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Google Gemini 3.1 Pro 預覽

重要

請參閱 Gemini 3.1 Pro 預覽 版的適用型號術語 。

此模型託管於全球端點,需 啟用跨地理路由。

端點名稱: databricks-gemini-3-1-pro

支援輸入:文字、圖片、影片、音訊

Gemini 3.1 Pro 預覽版是由 Google 開發並訓練的尖端混合推理模型。 它提供強大的推理與文件智慧,使其成為複雜工作流程與任務的整體智慧模型。 它擅長複雜推理、深入分析及多模態理解,涵蓋廣泛的輸入與任務。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Google Gemini 3.1 Flash 圖片

重要

請參閱 Gemini 3.1 閃光影像 的適用模型術語 。

此模型託管於全球端點,需 啟用跨地理路由。

此模型除了文字外,還會產生影像作為輸出。 Google 採用直通式定價,輸出圖片代幣與輸出文字代幣分開計費。 詳情請參閱 Google Gemini 3.1 Flash Image 的價格 。

Gemini 3.1 Flash Image 僅透過 Foundation Model API 的按代幣付費提供。 它不支援配置吞吐量、AI 函數批次推論或 ai_queryAI Playground。

端點名稱: databricks-gemini-3-1-flash-image

支援輸入:文字、圖片

Gemini 3.1 Flash Image 是 Google 的影像生成型 Gemini 型號。 一次請求即可回傳生成的圖片與文字。 這個模型不支援函式呼叫。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Google Gemini 3.1 Flash Lite

重要

請參閱 Gemini 3.1 Flash Lite 的適用型號術語 。

此模型託管於全球端點,需 啟用跨地理路由。

端點名稱: databricks-gemini-3-1-flash-lite

支援輸入:文字、圖片、影片、音訊

Gemini 3.1 Flash Lite 是 Gemini 3 系列中最快且最具成本效益的機型,由 Google 開發並訓練。 此模型為大規模智慧打造,支援多模態輸入,具備影像功能、函式呼叫及結構化輸出。 Gemini 3.1 Flash Lite 專為高吞吐量、具成本效益的部署而優化。 了解更多關於 Gemini 3.1 Flash Lite 的資訊。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Google Gemini 3 Pro 圖片

重要

請參閱 Gemini 3 Pro Image 的適用型號術語 。

此模型託管於全球端點,需 啟用跨地理路由。

此模型除了文字外,還會產生影像作為輸出。 Google 採用直通式定價,輸出圖片代幣與輸出文字代幣分開計費。 詳情請參閱 Google Gemini 3 Pro Image 的價格 。

Gemini 3 Pro 映像版僅透過 Foundation Model API 的按代幣付費方式取得。 它不支援配置吞吐量、AI 函數批次推論或 ai_queryAI Playground。

端點名稱: databricks-gemini-3-pro-image

支援輸入:文字、圖片

Gemini 3 Pro Image 是 Google 的影像生成 Gemini 型號。 一次請求即可回傳生成的圖片與文字。 這個模型不支援函式呼叫。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Google Gemini 3 Flash

重要

請參見雙子星3號閃光 機的適用模型術語 。

此模型託管於全球端點,需 啟用跨地理路由。

端點名稱: databricks-gemini-3-flash

支援輸入:文字、圖片、影片、音訊

Gemini 3 Flash 是由 Google 開發並訓練的高速、成本效益高的多模態 AI 模型。 此模型提供速度與規模,同時不犧牲品質,具備先進的多模態功能,可進行複雜影片分析、資料擷取及近乎即時的視覺問答。 Gemini 3 Flash 提供更佳的性價比與更快的速度,支持量產規模的部署。 了解更多關於 Gemini 3 閃電的資訊。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenJev(Qwen3.5 4B)

重要

客戶有責任確保其符合 適用的模型條款。

型號服務名稱: openjev-qwen35-4b

端點名稱: databricks-openjev-qwen35-4b

支援輸入:文字

可用性:按代幣付費。 請參閱 支援區域。

OpenJev(Qwen3.5 4B)評估文本或結構化資料的是非題、選擇題及評分題目。 它會回傳結構化的答案和機率,且不會產生文字。 使用 System One API 查詢此模型。

AI 模型可能會犯錯、誤解意圖,甚至給出錯誤答案。 Databricks 建議針對你的使用情境評估此模型。

阿里雲 Qwen3.5 122B A10B

重要

Qwen3.5 122B A10B 型號目前已公開預覽。

端點名稱: databricks-qwen35-122b-a10b

支援輸入:文字

Qwen3.5 122B A10B 是由阿里雲打造與訓練的混合專家(MoE)推理模型,每個推論包含 1220 億個參數及 100 億個主動參數。 該模型支援 256K 上下文視窗及最多 25K 個輸出標記,並在推理、編碼及代理任務上展現強勁效能。 作為僅推理的模型,Qwen3.5 122B A10B 總是先推理再回應,推理無法被禁用。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

阿里雲Qwen3-嵌入-0.6B

重要

Qwen3-Embedding-0.6B 模型目前處於 公開預覽階段。

端點名稱: databricks-qwen3-embedding-0-6b

支援輸入:文字

Qwen3-Embedding-0.6B 是一個精簡的文本嵌入模型,參數約 6 億,專為檢索、相似性搜尋、分群及分類等語意任務設計。 它將文字編碼成代表意義而非表面形式的密集向量。

該模型支援 100+ 語言(含程式碼),並能處理高達 ~32K 標記的長上下文,適合嵌入長文件。 它能產生可配置維度最高可達 1024 的嵌入,並具備指令感知能力,允許透過提示來針對任務進行偏向。

Qwen3-Embedding-0.6B 建立於變壓器編碼器上,並特別針對嵌入產生進行微調,平衡了嵌入品質與高效推論。

嵌入模型與 LLM 搭配使用時,在檢索增強生成(RAG)情境中特別有效。 Qwen3-Embedding-0.6B 可用於在大型文件中尋找可在大型語言模型(LLM)情境中使用的相關文字片段。

阿里雲 Qwen3-Next 80B A3B 指令

重要

Qwen3-Next 80B A3B Instruct 模型目前已公開預覽。

端點名稱: databricks-qwen3-next-80b-a3b-instruct

支援輸入:文字

Qwen3-Next-80B-A3B-Instruct 是一款由阿里雲構建和訓練的針對指令遵循任務進行優化的高效大型語言模型。 該模型旨在處理超長上下文,擅長多步驟工作流程、檢索增強生成以及需要高吞吐量確定性輸出的企業應用程序。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

智浦 AI GLM 5.3

端點名稱: databricks-glm-5-3

支援輸入:文字

GLM-5.3 是由智浦 AI 開發的純文本專家(MoE)語言模型,用於編碼與代理工具使用。 它支援函式呼叫、平行工具呼叫、結構化輸出、最多 1,048,576 個 token 的上下文視窗,以及最多 65,536 個輸出 token。 推理總是啟用:接受 、 、 ;省略、 minimal、 medium或xhigh值使用 max,且 none 被拒絕。maxhighlowreasoning_effort 請參閱 查詢推理模型 及 GLM-5.3 Z.ai 文件。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

志浦 AI GLM 5.3 閃光

端點名稱: databricks-glm-5-3-flash

支援輸入:文字、圖片

GLM-5.3-Flash 是由 Zhipu AI 開發的原生多模態專家(MoE)模型,擁有 3200 億參數及 180 億主動參數。 該模型支援 1,048,576 個詞彙的上下文長度,並針對推理、編碼及代理工具的使用進行優化。 了解更多關於 GLM-5.3-Flash 的資訊。

這個模型總是推理,推理無法被禁用。 請參見 查詢推理模型 以了解支援 reasoning_effort 的值與預設值。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Zhipu AI GLM 5.2(舊版)

端點名稱: databricks-glm-5-2

支援輸入:文字

備註

這個模型是 舊有 模型。 現在不再建議用於新工作負載。

GLM-5.2 是由 Zhipu AI 開發的專家語言模型,擁有 7530 億個參數。 該模型支援 100 萬個詞元的上下文長度,並優化用於長期推理、編碼及代理工具的使用。

此模型支援可調整的推理努力。 請參見 查詢推理模型 以了解支援 reasoning_effort 的值與預設值。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

登月射擊 AI Kimi K3

重要

客戶有責任確保其符合 適用的模型條款。

端點名稱: databricks-kimi-k3

支援輸入:文字、圖片

Kimi K3 是由 Moonshot AI 開發的 2.8 兆參數模型,具備原生視覺功能。 該模型支援 100 萬個詞彙的上下文長度,設計用於長期的編碼、知識工作與推理。

此模型支援可調整的推理努力。 請參見 查詢推理模型 以了解支援 reasoning_effort 的值與預設值。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

DeepSeek V4.1 閃光

端點名稱: databricks-deepseek-v4-1-flash

支援輸入:文字、圖片

可用性:按代幣付費(包括 優先按代幣付費)及 預留的預備吞吐量。 請參閱 支援區域。

DeepSeek V4.1 Flash 是一個由 DeepSeek 開發、Databricks 託管的多模態專家混合模型,擁有 5520 億個骨幹參數。 它支援推理、編碼及代理工具的使用。 關於模型架構、評估與限制,請參閱 DeepSeek V4.1 快閃卡模型卡。

此模型支援可調整的推理努力。 請參見 查詢推理模型 以了解支援 reasoning_effort 的值與預設值。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

DeepSeek V4 閃光燈(0731)

重要

DeepSeek V4 Flash(0731)已退役,預計於 2026 年 11 月 5 日退役。 請參閱 已棄用與退休模型 ,了解推薦的替換模型及如何在棄用期間遷移的指引。

端點名稱: databricks-deepseek-v4-flash-0731

支援輸入:文字

DeepSeek V4 Flash(0731)是一款由 DeepSeek 開發的專家混合語言模型,擁有 2840 億個總參數及 130 億個主動參數。 該模型優化於快速且具成本效益的推理、編碼及代理工具使用。

此模型支援可調整的推理努力。 請參見 查詢推理模型 以了解支援 reasoning_effort 的值與預設值。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT OSS 120B

端點名稱: databricks-gpt-oss-120b

支援輸入:文字

GPT OSS 120B 是一種最先進的推理模型,具有由 OpenAI 建置和定型的思維鏈結和可調整推理工作層級。 這是OpenAI的旗艦開放式重量模型,並具有128K令牌內容視窗。 此模型是針對高品質的推理工作所建置。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

OpenAI GPT OSS 20B

端點名稱: databricks-gpt-oss-20b

支援輸入:文字

GPT OSS 20B 是由 OpenAI 建置和定型的最先進的輕量型推理模型。 此模型具有 128K 令牌內容視窗,且在即時的 Copilot 和批次推斷工作中表現優異。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

谷歌 Gemma 3 12B

重要

請參閱 Gemma 3 條款及可接受使用政策的 適用範本條款 。

端點名稱: databricks-gemma-3-12b

支援輸入:文字、圖片

Gemma 3 12B 是 Google 開發的 120 億參數多模態和視覺語言模型,是 Gemma 3 系列的一部分。 Gemma 3 最多可有 128K 令牌內容,並提供超過 140 種語言的多語系支援。 該模型旨在處理文本和圖像輸入並生成文本輸出,並針對對話用例、文本生成和圖像理解任務(包括問答)進行了優化。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Meta Llama 4 特立獨行者

重要

請參閱 Llama 4 社群授權與可接受使用政策 的適用範本條款 。

端點名稱: databricks-llama-4-maverick

支援輸入:文字、圖片

Llama 4 Maverick 是一個最先進的大型語言模型,由 Meta 建置和訓練。 這是 Llama 模型系列中第一個使用專家混合架構來提高計算效率的模型。 Llama 4 Maverick 支援多種語言,並已針對精確的影像和文字理解使用案例進行優化。 深入瞭解 Llama 4 Maverick。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Meta Llama 3.3 70B 指令

重要

從 2024 年 12 月 11 日開始,Meta-Llama-3.3-70B-Instruct 將在基礎模型 API 中取代對 Meta-Llama-3.1-70B-Instruct 的支援,這適用於按使用量付費的端點。

請參閱 LLama 3.3 社群授權與可接受使用政策 的適用模型條款 。

端點名稱: databricks-meta-llama-3-3-70b-instruct

支援輸入:文字

Meta-Llama-3.3-70B-Instruct 是一個最先進的大型語言模型,配置了 128,000 個令牌的上下文,由 Meta 開發和訓練。 此模型支援多種語言,並已針對對話使用案例進行優化。 深入瞭解Meta Llama 3.3。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Meta Llama 3.1 8B 指示

重要

請參閱 LLama 3.1 社群授權與可接受使用政策 的適用範本條款 。

端點名稱: databricks-meta-llama-3-1-8b-instruct

支援輸入:文字

Meta-Llama-3.1-8B-Instruct 是最先進的大型語言模型,具有 128,000 個上下文範圍的標記,由 Meta 建構和訓練。 此模型支援多種語言,並已針對對話使用案例進行優化。 深入瞭解Meta Llama 3.1。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Anthropic Claude 俳句 5.5

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及(如適用)Databricks 商業夥伴協議。

端點名稱: databricks-claude-haiku-5-5

支援輸入:文字、圖片

Claude Haiku 5.5 是一款專為高流量、對速度敏感的工作負載設計的 Anthropic 模型。 它支援透過 Anthropic Messages API 使用工具。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

Claude Haiku 5.5 支援混合推理,包含 low、 medium和 high 努力層級。 Databricks 在省略作業時使用 medium ,且可以關閉推理。 請參閱 查詢推理模型 以了解支援的值與請求範例。

此端點由 Databricks 託管於 Databricks 安全邊界內。

人類克勞德俳句 4.5

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及適用時的 Databricks 商業夥伴協議。

端點名稱: databricks-claude-haiku-4-5

支援輸入:文字、圖片

Claude Haiku 4.5 是 Anthropic 最快且最具成本效益的模型,以卓越的速度與效率提供接近前沿的編碼品質。 它擅長即時、低延遲的應用,包括聊天助理、客服人員、配對程式設計及快速原型設計。 此模型非常適合注重成本的生產部署及需要靈敏 AI 協助的代理系統。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

Anthropic Claude 十四行詩 5.5

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及(如適用)Databricks 商業夥伴協議。

端點名稱: databricks-claude-sonnet-5-5

支援輸入:文字

Claude Sonnet 5.5 是一個用於編碼、代理工作流程及文件建立的 Anthropic 模型。 它支援透過 Anthropic Messages API 使用工具。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

Anthropic Claude 第五十四行詩

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及適用時的 Databricks 商業夥伴協議。

端點名稱: databricks-claude-sonnet-5

支援輸入:文字、圖片

備註

Claude Sonnet 5 不支援 temperature、 top_p或 top_k 取樣參數。 包含這些參數的請求會回傳 400 錯誤。

Claude Sonnet 5 是 Anthropic 最強大的十四行詩模型,專為程式設計、代理工作流程及大規模專業工作而設計。 它結合了接近 Opus 等級的智慧與 Sonnet 的成本效益與速度,非常適合面向客戶的客服人員、生產編碼工作流程及複雜的內容生成任務。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

擬人克勞德十四行詩 4.6

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及適用時的 Databricks 商業夥伴協議。

端點名稱: databricks-claude-sonnet-4-6

支援輸入:文字、圖片

Claude Sonnet 4.6 是 Anthropic 最先進的混合推理模型。 它提供兩種模式:近乎即時的回應和擴展思維,以便根據任務的複雜性進行更深入的推理。 Claude Sonnet 4.6 專注於需要在實務吞吐量與先進思維間取得平衡的應用,例如面向客戶的代理、生產編碼工作流程,以及大規模的內容產生。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

人類克勞德十四行詩 4.5

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及適用時的 Databricks 商業夥伴協議。

端點名稱: databricks-claude-sonnet-4-5

支援輸入:文字、圖片

Claude Sonnet 4.5 是 Anthropic 最先進的混合推理模型。 它提供兩種模式:近乎即時的回應和擴展思維,以便根據任務的複雜性進行更深入的推理。 Claude Sonnet 4.5 專注於需要在實際吞吐量和高級思維之間取得平衡的應用程序,例如面向客戶的代理、生產編碼工作流程和大規模內容生成。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

Anthropic Claude Fable 5.1

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及(如適用)Databricks 商業夥伴協議。

重要

在《Claude Fable 5.1》中,提示與回應會保留30天以確保信任與安全。 選擇不使用資料保留的客戶無法使用 Claude Fable 5.1。 這些資料由自動化安全系統處理,在某些情況下可能會被標記供人工審查。 資料在30天後自動刪除,除非有安全調查或法律要求超過30天保留資料。 Anthropic 是用於此安全保留目的的有限子處理器。

端點名稱: databricks-claude-fable-5-1

支援輸入:文字、圖片

Claude Fable 5.1 是 Anthropic 用於長期執行代理編碼、知識工作與科學發現的前沿多模態推理模型。 它採用全天候連線的自適應思考,並支援每回合的努力控制與工具呼叫間的思考更新,以維持持續且複雜的工作流程。

Claude Fable 5.1 接受 low、 medium、 highxhighmax 、 和 努力等級。 推理無法被禁用。 詳情請參見 查詢推理模型 。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

Anthropic Claude Fable 5

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及(如適用)Databricks 商業夥伴協議。

重要

在《Claude Fable 5》中,提示與回應會保留30天以確保信任與安全。 選擇不保留資料的客戶無法使用 Claude Fable 5。 這些資料由自動化安全系統處理,在某些情況下可能會被標記供人工審查。 資料在30天後自動刪除,除非有安全調查或法律要求超過30天保留資料。 Anthropic 是用於此安全保留目的的有限子處理器。

端點名稱: databricks-claude-fable-5

支援輸入:文字

Claude Fable 5 是 Anthropic 推出的 Mythos 級模型,專為自主知識工作與程式設計而設計。 內建強大的防護措施,它能處理長時間執行、複雜且非同步的任務,且比以往模型更不需要人工檢查,非常適合需要跨長情境持續專注的代理性工作流程。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

Anthropic Claude 作品 5.5

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及(如適用)Databricks 商業夥伴協議。

端點名稱: databricks-claude-opus-5-5

支援輸入:文字、圖片

Claude Opus 5.5 是一個用於複雜編碼、代理工作流程及長上下文分析的多模態推理模型。 它運用自適應思維動態分配推理努力,並支援影像輸入及多步驟工具的使用。

Claude Opus 5.5 接受 low、 medium、 highxhighmax 、 和 努力等級。 Databricks 預設使用 medium ,且推理無法被停用。 詳情請參見 查詢推理模型 。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

Anthropic Claude 作品5

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及適用時的 Databricks 商業夥伴協議。

端點名稱: databricks-claude-opus-5

支援輸入:文字、圖片

Claude Opus 5 是 Anthropic 最具能力的混合推理模型,基於 Opus 系列,專注於代理編碼、程式碼審查及長期自主工作。 此模型擅長複雜且多檔案的軟體任務,如大型重構與端到端功能開發、高精度錯誤發現、多代理協調,以及視覺化任務如圖表、文件與使用者介面理解。 Claude Opus 5 在整個上下文視窗中維持強大的指令跟隨、工具呼叫與推理功能,並在低至中等推理工作量下提供接近頂尖的品質,非常適合長上下文且成本敏感的企業工作流程。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

Anthropic Claude 作品4.8

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及適用時的 Databricks 商業夥伴協議。

端點名稱: databricks-claude-opus-4-8

支援輸入:文字、圖片

Claude Opus 4.8 在 Opus 系列基礎上,進一步提升了準確度、效率與推理能力。 此模型在複雜的擷取與代理推理任務中表現優異,並具備影像支援,非常適合需要深入分析、文件理解及複雜多步驟工作流程的企業應用。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

擬人克勞德作品4.7

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及適用時的 Databricks 商業夥伴協議。

端點名稱: databricks-claude-opus-4-7

支援輸入:文字、圖片

Claude Opus 4.7 是 Anthropic 最強大的混合推理模型,透過更精準、效率及增強視覺能力推進 Opus 系列。 此模型在複雜的抽取與代理推理任務中表現更佳,且使用較少的輸出標記數。 Claude Opus 4.7 具備提升的影像解析度支援,非常適合需要深入分析、文件理解及複雜多步驟工作流程的企業應用。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

擬人克勞德作品4.6

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及適用時的 Databricks 商業夥伴協議。

端點名稱: databricks-claude-opus-4-6

支援輸入:文字、圖片

Claude Opus 4.6 是 Anthropic 最具能力的混合推理模型,具備適應性思考能力。 此模型為最具挑戰性的任務引入了新的最大努力水準,並將高努力設定為最佳效能的預設值。 Claude Opus 4.6 擅長複雜推理、深入分析、程式碼生成、研究及複雜的多步驟工作流程。 它非常適合需要廣泛分析與全面輸出的企業應用。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

擬人克勞德作品4.5

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及適用時的 Databricks 商業夥伴協議。

端點名稱: databricks-claude-opus-4-5

支援輸入:文字、圖片

Claude Opus 4.5 是 Anthropic 最強大的混合推理模型,專為需要深度分析與延伸思考的最複雜任務打造。 此模型結合強大的通用能力與進階推理能力,擅長程式碼生成、研究、內容創作及複雜的多步驟代理工作流程。 Claude Opus 4.5 支援文字與視覺輸入,非常適合需要廣度與深度理解的企業應用。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

Anthropic Claude 十四行詩 4

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及適用時的 Databricks 商業夥伴協議。

Anthropic Claude Sonnet 4 已被棄用。 請參閱 已棄用與退役模型 ,了解其退役日期、推薦替換模型及廢棄期間遷移指引。

端點名稱: databricks-claude-sonnet-4

支援輸入:文字、圖片

Claude Sonnet 4 是一種最先進的混合推理模型,由人類學建置和定型。 此模型提供兩種模式:近乎即時的回應和擴充思維,以根據工作的複雜度進行更深入的推理。 Claude Sonnet 4 已針對程式代碼開發、大規模內容分析和代理程式應用程式開發等各種工作進行優化。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

人類克勞德作品 4.1

重要

客戶有責任確保遵守 Anthropic 的使用政策條款。 另請參閱 Databricks 主雲端服務協議 ,以及適用時的 Databricks 商業夥伴協議。

端點名稱: databricks-claude-opus-4-1

支援輸入:文字、圖片

Claude Opus 4.1 是由 Anthropic 構建和訓練的最先進的混合推理模型。 這種通用大型語言模型專為企業規模的複雜推理和實際應用而設計。 它支援文字和圖片輸入。 該模型在代碼生成、研究和內容創建以及多步驟代理工作流程等任務中表現出色,無需持續的人工干預。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

此端點由 Databricks 託管於 Databricks 安全邊界內。

思考機器實驗室 Inkling

重要

Thinking Machine Labs Inkling 將於 2026 年 10 月 30 日退休。 請參閱 已棄用與退休模型 ,了解推薦的替換模型及如何在棄用期間遷移的指引。

重要

《Inkling》目前已 公開預覽。

端點名稱: databricks-inkling

支援輸入:文字、圖片

Inkling 是一個由 Thinking Machine Labs 開發的專家(MoE)語言模型,擁有 9750 億個總參數與 410 億個主動參數。 該模型支援 100 萬個詞彙的上下文長度,並針對編碼、推理及代理工具使用任務進行優化。

這個模型總是會推理。 請參見 查詢推理模型 以了解支援 reasoning_effort 的值與預設值。

AI 模型可能會犯錯誤、誤解意圖,以及幻覺或提供不正確的答案。 Databricks 建議客戶評估其模型,以確保其運作如預期。

GTE 大型 (英文)

端點名稱: databricks-gte-large-en

支援輸入:文字

一般文字內嵌 (GTE) 是文字內嵌模型,可將任何文字對應至 1024 維度內嵌向量,以及 8192 標記的內嵌視窗。 這些向量可用於 LLM 的向量索引,以及擷取、分類、問答、叢集或語意搜尋等工作。 此端點提供模型的英文版本,而且不會產生標準化的內嵌。

嵌入模型與 LLM 搭配使用時,在檢索增強生成(RAG)情境中特別有效。 GTE 可用來尋找可在 LLM 內容中使用的大量文件的相關文字片段。

BGE 大型(英)

端點名稱: databricks-bge-large-en

支援輸入:文字

BAAI 一般內嵌 (BGE) 是文字內嵌模型,可將任何文字對應至 1024 維度內嵌向量,以及 512 標記的內嵌視窗。 這些向量可用於 LLM 的向量索引,以及擷取、分類、問答、叢集或語意搜尋等工作。 此端點提供模型的英文版本,併產生標準化的內嵌。

嵌入模型與 LLM 搭配使用時,在檢索增強生成(RAG)情境中特別有效。 BGE 可用來尋找可在 LLM 內容中使用的大量文件的相關文字片段。

在RAG應用程式中,您可以藉由包含指令參數來改善擷取系統的效能。 BGE 作者建議嘗試指示 "Represent this sentence for searching relevant passages:" 進行查詢內嵌,不過其效能影響取決於網域。

其他資源