即時存取模型,讓你能以名稱呼叫任何支援的模型——無需部署。 建立一個 Foundry 專案,開始寫程式,並立即使用任何可用的模型。
先決條件
- Azure 訂用帳戶。 免費創建一個。
- 登入 Microsoft Foundry。 確定 新鑄造廠 的開關是開啟的。 這些步驟參考 Foundry (新)。
- 位於 West US 3 的 Foundry 專案(預覽期間唯一支援立即存取的區域)。 如果你需要建立專案,請參見 建立專案。
- 專案或帳戶上的 Foundry User 角色。
Important
Foundry RBAC 角色最近已重新命名。 Foundry 用戶、Foundry 擁有者、Foundry Account Owner 以及 Foundry Project Manager 先前分別被稱為 Azure AI 使用者、Azure AI 擁有者、Azure AI 帳戶擁有者及 Azure AI Project 管理者。 在更名期間,你可能還會在某些地方看到之前的名字。角色 ID 與核心權限不會因命名而改變。
立即開始使用模型
有了即時存取,工作流程很簡單——在程式碼中使用支援的即時模型名稱即可。 不需要部署。 你已經用於部署的 API、SDK 和客戶端,也能用在即時存取模式上。 沒有第二個 SDK,沒有獨立的客戶端,也沒有設定變更。
即時存取的支援持續擴大。 具體的套裝經常更換。 請參閱 支援模型 以查看完整清單。
對於參數 model ,請使用即時存取模型名稱,例如 "gpt-5-mini",取代已部署的模型名稱。
from azure.identity import DefaultAzureCredential
from azure.ai.projects import AIProjectClient
# Format: "https://resource_name.services.ai.azure.com/api/projects/project_name"
FOUNDRY_PROJECT_ENDPOINT = "your_project_endpoint"
# Create project and openai clients to call Foundry API
project = AIProjectClient(
endpoint=FOUNDRY_PROJECT_ENDPOINT,
credential=DefaultAzureCredential(),
)
openai = project.get_openai_client()
# Run a responses API call
response = openai.responses.create(
model="gpt-5-mini", # supports all Foundry direct models
input="What is the size of France in square miles?",
)
if not response.output_text or not response.output_text.strip():
raise RuntimeError("Response output text was empty.")
print(f"Response output: {response.output_text}")
即時存取模型的遊樂場
要進入即時存取模式的遊樂場,請使用以下路徑之一:
- 在 首頁 中,選取 在 Playground 中測試。
- 從 主頁選擇 「探索模型 」進入模型目錄。 或者,選擇 「發現>模特兒」。 任一路徑都能開啟目錄。
- 從型號目錄中選擇一個即時存取的型號以查看其詳細資訊。
- 從即時存取模型詳情頁面,選擇 「開放遊樂場」。
- 從遊樂場使用 模型 下拉選單切換到其他即時存取或已部署的模型。
為什麼即時存取很重要
- 透過更改一個字串來切換模型——使用該行中
model=的任何即時模型名稱,無需建立或刪除部署。 - 相同的 API 和 SDK — 同樣的呼叫可用於即時存取和部署。
- 可搭配您的開發工具使用 — 即時存取會以與部署相同的方式整合 Foundry CLI、VS Code 和 CI/CD 管線。
部署不會消失。 當你需要保留吞吐量、自訂內容過濾器、資料駐留或進階企業設定時,它們依然是正確的選擇。 即時存取簡化了入門體驗,讓部署成為你升級的目標,而非必須通過才能使用模型的門檻。
支援的模型
新機型在上市時預設支援即時存取。 產品團隊會根據客戶需求考慮支援額外型號。 這個清單會隨時間增加,你可能會看到的模型範例包括:
chat-gpt-latestgpt-5.6-solgpt-5.5gpt-5-minigpt-5.3-codex
要查看所有支援即時存取的型號:
- 在新的 Foundry 體驗中,在 West US 3 開啟一個專案,
- 在右上角的導覽中選擇 「發現 」,然後在左側窗格選擇 「型號 」。
- 在模型目錄中,選擇部署選項中的「即時」即可查看可用的即時存取模型。
你也可以程式化列出即時存取的模型:
SUBSCRIPTION_ID="<your-subscription-id>"
LOCATION="westus3"
az rest --method get \
--url "https://management.azure.com/subscriptions/$SUBSCRIPTION_ID/providers/Microsoft.CognitiveServices/locations/$LOCATION/models?api-version=2025-06-01" \
--output json \
| jq -r '(.value // .models // .)[]
| select((.model.capabilities.instant // "false" | tostring | ascii_downcase) == "true")
| .model.name' \
| sort -u
何時使用即時存取與部署
| 劇本 | 建議方法 |
|---|---|
| 開始、原型製作或實驗 | 即時存取 |
| 在最新模型發布後立即使用 | 即時存取 |
| 需要保留容量或 可預測的吞吐量 | 部署 |
| 需要 佈建輸送量(PTU) | 部署 |
| 需要在特定地區擁有 資料駐留 權 | 部署 |
| 各模型自訂 內容過濾 政策 | 部署 |
| 針對每個模型的自訂防護機制 | 部署 |
| 端點專屬配置(例如,每個端點的版本鎖定) | 部署 |
| 跨團隊的細微配額分割 | 部署 |
| 微調模型 | 部署 |
即時存取與部署可以同時存在於同一專案中。 你可以先從即時存取模式開始,隨著需求演變再建立部署。
車型版本
預設情況下,即時存取會使用模型的最新持續更新版本。 要釘選特定版本,請在型號名稱後加上連字號後綴版本日期:
您作為 model 傳遞的內容 |
行為 |
|---|---|
model-name |
通往最新版本的路由 |
model-name-2025-04-01 |
前往該特定版本的路徑 |
版本釘選是選擇加入。 如果你的應用程式需要穩定性,請加上版本後綴。 否則,你總是會自動拿到最新版本。
配額如何被消耗
即時存取會從指派給您訂用帳戶的每個模型全域配額集區提取。 此配額與標準部署所使用的區域配額是分開的。
- 你不需要分配或分割全球配額——配額會自動分配到你訂閱中所有即時模型使用量。
- Global Standard 部署會預留您的部分全域配額。 即時存取模式會利用剩餘的容量。
- 其他部署類型(區域標準、配置)則使用獨立的區域配額,不會影響你的即時模型容量。
- 如果即時模型要求遭到節流,您可以要求增加配額,或建立具有保留容量的部署。
欲了解更多全球與區域配額互動的細節,請參見 「管理與增加配額」。
企業控制
| 能力 | 運作原理 |
|---|---|
| 封鎖特定模型或供應商 | Azure 原則 定義適用於即時存取,與部署方式相同 |
| 釘選至模型版本 | 在型號名稱後加上版本後綴(參見 型號版本) |
| 完全關閉即時存取 | 管理員可以透過 Azure 原則 在訂閱層關閉即時存取 |
要移除帳號的即時存取權限,請透過 Bicep 或 ARM REST 設定。
使用以下資訊更新您的帳號:
PATCH https://management.azure.com/subscriptions/{sub}/resourceGroups/{rg}/providers/Microsoft.CognitiveServices/accounts/{account}?api-version=2026-01-15-preview
Authorization: Bearer {arm_token}
Content-Type: application/json
利用此請求體有效關閉即時模型存取:
{
"properties": {
"instant": {
"raiPolicyName": "Microsoft.DefaultV2",
"modelAllowList": []
}
}
}
Important
所有即時存取模式皆使用預設 的保護欄 和內容過濾器。 不過,您無法針對即時存取以每個模型為基礎設定自訂防護措施或負責任 AI (RAI) 原則。 你可以透過 API 在帳號層級設定預設的 RAI 政策,但該政策對所有即時存取模型都適用。 如果您需要個別模型有不同的內容篩選原則,請使用部署。
部署名稱衝突
新部署不能使用與現有模型名稱相符的名稱。 如果您現有部署的名稱與模型名稱衝突,部署會優先,即時模型對該模型名稱的存取權在該專案中不可用。