開始使用：查詢大型語言模型，並以無程式碼方式建立代理原型

這個 5 分鐘的無程式碼教學介紹 Azure Databricks 上的 AI。 你將使用 AI Playground 來執行以下任務：

  • 查詢大型語言模型（Large Language Models，LLM）並排比較結果
  • 工具呼叫代理原型
  • 將代理程式匯出至 Databricks Apps 或筆記本
  • 選擇性：使用擷取增強生成 (RAG) 建立問答聊天機器人的原型

Requirements

請確定您的工作區可以存取下列項目：

步驟 1：使用 AI 遊樂場查詢 LLM

使用 AI 遊樂場在聊天介面中查詢 LLM。

  1. 在你的工作區中，從左側導覽窗格的 AI/ML 選擇 Playground。
  2. 輸入像「什麼是 RAG？」這樣的問題。

添加一個新的 LLM 來並排比較回應：

  1. 在右上方，選取 + 以新增要比較的模型。
  2. 在新窗格中，使用下拉式選取器選取不同的模型。
  3. 選取 [ 同步處理 ] 複選框以同步處理查詢。
  4. 試試新提示，例如「什麼是複合 AI 系統？」以並排看到兩個回答。

AI 遊樂場

持續測試並比較不同的大型語言模型，以幫助你決定要用哪個模型來打造代理。

步驟 2：原型化工具呼叫代理

工具使得 LLM 不僅能夠生成語言。 工具可以查詢外部數據、執行程序代碼，並採取其他動作。 AI 遊樂場提供無程式代碼選項，讓您建立工具呼叫代理程式的原型：

  1. 從 Playground 選擇標示為 [已啟用工具] 的模型。

    選擇用於操作工具的 LLM 模型

  2. 選取 [工具>+ 新增工具]，然後選取內建的 Unity 目錄函式 。 system.ai.python_exec

    此函式可讓您的代理程式執行任意 Python 程式代碼。

    選取托管函式工具

    其他工具選項包括：

    • UC 函數：為您的代理選擇 Unity Catalog 函數。
    • 函式定義：為你的客服人員定義一個自訂函式來呼叫。
    • AI 搜尋：指定 一個 AI 搜尋索引。 如果你的客服人員使用 AI 搜尋索引，其回應會引用所使用的來源。
    • MCP：指定 MCP 伺服器 使用受管理的 Databricks MCP 伺服器或外部 MCP 伺服器。

  3. 詢問涉及產生或執行 Python 程式代碼的問題。 您可以嘗試對提示的措辭進行不同的變化。 如果您新增多個工具，LLM 會選取適當的工具來產生回應。

    使用託管函式工具建立 LLM 原型

選擇性：建立RAG問答 Bot 的原型

如果你的工作區裡有 AI 搜尋索引，可以試做問答機器人。 這類代理人會利用 AI 搜尋索引中的文件，根據這些文件回答問題。

  1. 按兩下 [工具>+ 新增工具]。 接著，選擇你的 AI 搜尋索引。

    選擇 AI 搜尋工具

  2. 詢問與文件相關的問題。 代理程式可以使用索引查找相關資訊，並會引用其回答中所使用的任何文件。

    使用 AI 搜尋工具建立 LLM 原型

要建立 AI 搜尋索引，請參閱 建立 AI 搜尋索引。

步驟三：匯出您的代理人

在 AI Playground 測試代理後，匯出它，這樣你就能在 Playground 外部署、評估和迭代。 AI Playground 提供兩條出口路徑：

  • 匯出至 Databricks 應用程式（建議）：從 agent-openai-agents-sdk 範本安裝可部署的代理應用程式，包含內建聊天介面、MCP 工具接線及認證功能。 為新的代理程式選擇此路徑。
  • Create agent notebook （legacy）：產生一個Python筆記本，定義代理並將其部署到模型服務端點。 如果你工作空間或區域無法使用 Databricks 應用程式，請選擇此路徑。

匯出至 Databricks Apps選項會產生已部署的代理應用程式，可立即開始對話。 該應用程式使用你在 Playground 中設定的相同模型、系統提示和工具（包括 MCP 伺服器和向量搜尋）。

在匯出前，請確保您的工作區符合以下要求：

若要匯出代理程式：

  1. 在 Playground 中，點選 「取得程式碼>」匯出到 Databricks 應用程式。

  2. 在 「匯出至 Databricks 應用程式 」對話框中，設定以下內容：

    • 應用程式名稱：唯一的名稱，須以 agent- 開頭，且僅包含小寫字母、數字和連字號（例如 agent-research-assistant）。
    • 應用程式說明：簡短介紹該代理人的工作內容。
    • MLflow 實驗：選擇一個現有的 MLflow 實驗用於追蹤與評估，或建立一個新的實驗。

  3. 按一下匯出。 Azure Databricks 會做以下的事情：

    1. 驗證應用程式名稱是否可用。
    2. 將範本安裝 agent-openai-agents-sdk 到你的工作區，並授權應用程式所需的資源權限。 這些資源包括 MLflow 實驗、服務端點，以及你新增的 MCP 伺服器、Unity 目錄函式、Genie 代理或向量搜尋索引。
    3. 根據你的 Playground 設定產生 agent_server/agent.py，讓已部署的代理程式與你測試的內容一致。

  4. 當成功對話框出現時，點擊 「檢視代理」 開啟已部署的應用程式，並利用內建介面與之聊天。

若要自訂代理程式碼、設定認證、新增評估，或使用宣告式自動化套件（DABs）重新部署，請參見「使用舊版代理伺服器在 Databricks 應用程式上執行代理」。

建立代理人筆記本（舊有）

在 AI Playground 測試代理後，點擊「取得程式碼>」「建立代理筆記本」，將代理匯出成 Python 筆記本。

匯出代理程式碼後，Azure Databricks 會將一個資料夾和驅動筆記本存到你的工作區。 此驅動程式定義一個工具呼叫 ResponsesAgent，在本地測試代理程式，使用 基於程式碼的日誌，註冊並透過自訂代理部署代理程式。

備註

匯出的筆記本目前使用傳統代理撰寫工作流程，將代理部署到模型服務平台。 Databricks 建議使用 Databricks Apps 來製作代理。 請參閱 使用舊版代理伺服器在 Databricks 應用程式上執行代理程式。

Tip

如果你想讓 Azure Databricks 幫你執行代理迴圈，你可以使用 Supervisor API（已棄用）而不是自己寫。 Supervisor API 支援 Azure Databricks 託管的工具（Unity Catalog 函式、Genie 代理程式、MCP 伺服器）以及在應用程式碼中執行的用戶端函式工具。 當你不需要工具呼叫間的自訂 Python 邏輯時，選擇這個選項。

要從 Playground 設定嘗試，請確保你在第 2 步至少新增一個工具，然後點選 「取得程式碼>Curl API」。 當 Playground 部署具有工具且使用 與 Supervisor 相容的模型時，curl 會是傳送至 POST 的 Supervisor API /mlflow/v1/responses 請求，並附帶你的模型、提示和託管工具。 此選項也需要啟用 Supervisor API 預覽。 請參閱 管理 Azure Databricks 預覽。

要在 Databricks 應用程式上部署 Supervisor API agent，請參見 「使用 Supervisor API（已棄用）建立自訂代理程式」。

後續步驟

若要採用程式碼優先的方法建立代理，請參閱 「在 Databricks 應用程式中使用舊版代理伺服器執行代理」。

  • 上次更新時間：