Doorzoek basis- en embeddingmodellen

Databricks biedt verschillende manieren om foundation-modellen te bevragen. Kies een interface op basis van of je een provider-onafhankelijke API, provider-specifieke functies of batch-inferentie nodig hebt.

Manieren om een model te bevragen

Quickstart

Vraag een modelservice in twee stappen:

Stap 1: Kies een model

Azure Databricks levert modellen direct uit de doos, zoals claude-sonnet-4-5 of gpt-5-6-sol. Azure Databricks-geleverde modellen zijn geregistreerd in Unity Catalog onder system.ai.

Stap 2: Stuur een verzoek via de uniforme OpenAI-compatibele API

Gebruik de MLflow Chat Completions API met de OpenAI Python SDK:

from openai import OpenAI
import os

DATABRICKS_TOKEN = os.environ.get('DATABRICKS_TOKEN')

client = OpenAI(
  api_key=DATABRICKS_TOKEN,  # your personal access token
  base_url="https://<workspace-url>/ai-gateway/mlflow/v1"  # your Databricks workspace instance
)

chat_completion = client.chat.completions.create(
  messages=[
    {"role": "user", "content": "What is Databricks?"},
  ],
  model="system.ai.claude-sonnet-4-5",
  max_tokens=256
)

print(chat_completion.choices[0].message.content)

Requirements

• Een Azure Databricks werkruimte in een door Unity Gateway ondersteunde regio.
• Unity Catalog ingeschakeld voor uw werkruimte. Zie Een werkruimte inschakelen voor Unity Catalog.
• Werkruimterecht voor query's: Workspace-toegang of Consumer-toegang. Zie Rechten beheren.

Querymodelservices met geïntegreerde API's

Unified API's bieden een openAI-compatibele interface om query's uit te voeren op modellen in Azure Databricks. Gebruik geïntegreerde API's om naadloos te schakelen tussen modellen van verschillende providers zonder uw code te wijzigen.

from openai import OpenAI
import os

DATABRICKS_TOKEN = os.environ.get('DATABRICKS_TOKEN')

client = OpenAI(
  api_key=DATABRICKS_TOKEN,
  base_url="https://<workspace-url>/ai-gateway/mlflow/v1"
)

response = client.responses.create(
  model="<model-service>",
  input=[{"role": "user", "content": "What is Databricks?"}]
)

print(response.output_text)

curl \
  -u token:$DATABRICKS_TOKEN \
  -X POST \
  -H "Content-Type: application/json" \
  -d '{
    "model": "<model-service>",
    "input": [
      {"role": "user", "content": "What is Databricks?"}
    ]
  }' \
  https://<workspace-url>/ai-gateway/mlflow/v1/responses

from openai import OpenAI
import os

DATABRICKS_TOKEN = os.environ.get('DATABRICKS_TOKEN')

client = OpenAI(
  api_key=DATABRICKS_TOKEN,
  base_url="https://<workspace-url>/ai-gateway/mlflow/v1"
)

chat_completion = client.chat.completions.create(
  messages=[
    {"role": "user", "content": "Hello!"},
    {"role": "assistant", "content": "Hello! How can I assist you today?"},
    {"role": "user", "content": "What is Databricks?"},
  ],
  model="system.ai.gpt-5-6-sol",
  max_tokens=256
)

print(chat_completion.choices[0].message.content)

curl \
  -u token:$DATABRICKS_TOKEN \
  -X POST \
  -H "Content-Type: application/json" \
  -d '{
    "model": "system.ai.gpt-5-6-sol",
    "max_tokens": 256,
    "messages": [
      {"role": "user", "content": "Hello!"},
      {"role": "assistant", "content": "Hello! How can I assist you today?"},
      {"role": "user", "content": "What is Databricks?"}
    ]
  }' \
  https://<workspace-url>/ai-gateway/mlflow/v1/chat/completions

from openai import OpenAI
import os

DATABRICKS_TOKEN = os.environ.get('DATABRICKS_TOKEN')

client = OpenAI(
  api_key=DATABRICKS_TOKEN,
  base_url="https://<workspace-url>/ai-gateway/mlflow/v1"
)

embeddings = client.embeddings.create(
  input="What is Databricks?",
  model="<model-service>"
)

print(embeddings.data[0].embedding)

curl \
  -u token:$DATABRICKS_TOKEN \
  -X POST \
  -H "Content-Type: application/json" \
  -d '{
    "model": "<model-service>",
    "input": "What is Databricks?"
  }' \
  https://<workspace-url>/ai-gateway/mlflow/v1/embeddings

Modelservices opvragen met ai_query

Je kunt de ai_query functie gebruiken om modelservices direct vanuit SQL of Python te bevragen. Hiermee kunt u informatie over gebruiksregistratie vastleggen voor uw batchinferentie-workloads.

Om een modelservice te bevragen met ai_query, voer je ai_query uit op een modelservice:

SELECT ai_query(
  'system.ai.claude-sonnet-4-5',
  'Summarize the following text: ' || text_column
) AS summary
FROM my_table
LIMIT 10

De systeemtabel voor gebruikstracering (system.ai_gateway.usage) registreert aanvragen die via ai_query naar modeldiensten worden gedaan. Deze aanvragen worden ook weergegeven in het ingebouwde gebruiksdashboard.

Zie ai_query voor de volledige ai_query syntaxis en parameterreferentie. Zie Use ai_queryvoor aanbevolen procedures en ondersteunde modellen.

Limitations

• ai_queryondersteuning voor Unity Gateway is alleen beschikbaar voor modellen die door Azure Databricks worden geleverd. Geef de naam van de system.ai modelservice door (bijvoorbeeld, system.ai.claude-sonnet-4-5 of system.ai.gpt-5-6-sol). Modelservices die je in Unity Gateway aanmaakt, worden nog niet ondersteund.
• Alleen gebruiksregistratie geldt voor ai_query batchinferentie-workloads. Andere functies van Unity Gateway, zoals snelheidslimieten, beveiligingsmaatregelen die met servicebeleid zijn geïmplementeerd, inferentietabellen en terugvalopties, zijn niet van toepassing.

Vraag modeldiensten met native API's

Native API's bieden provider-specifieke interfaces om modellen op Azure Databricks te bevragen. Gebruik systeemeigen API's voor toegang tot de nieuwste providerspecifieke functies.

Elke systeemeigen API werkt alleen met modelservices waarvan het onderliggende model gebruikmaakt van de overeenkomende API-indeling:

• Gebruik de Api voor OpenAI-antwoorden om query's uit te voeren op modelservices die worden ondersteund door GPT-modellen (OpenAI).
• Gebruik de Anthropic Messages API om modelservices te bevragen die worden ondersteund door Claude-modellen.
• Gebruik de Google Gemini-API om query's uit te voeren op modelservices die worden ondersteund door Gemini-modellen.

Als u een query wilt uitvoeren op een modelservice, ongeacht het onderliggende model, gebruikt u in plaats daarvan de geïntegreerde API's .

Volgende stappen 

• Toegang tot modelservices detecteren en beheren
• Integreren met coderingsagents